日本政府、AI生成コンテンツ検出技術義務化ドラフト指針は、誤った情報を防止することを目指しています。

政府が編成するAI関連企業指針草案によると、政府は人工知能開発者などにAI生成コンテンツを検出し、その中に含まれる情報の出所を識別する技術を開発または配布するよう要求する予定だ。

この要件は、広島AIプロセスを通じて作成されたAIおよびその他の問題について先進国7カ国グループが合意した規則に基づいています。

最近詳細が把握されたガイドライン草案は、まもなく政府専門家パネルであるAI戦略協議会に提出され、最終草案を用意する予定だ。 政府は草案に対する国民意見を収束した後、早ければ来年３月に公式指針を発表する予定だ。

草案には「人間中心」、「安全とセキュリティ」、「透明性」などAI関連のすべての事業が考慮すべき10の原則が明示されている。 また、AIが生成した虚偽情報に対する対応強化を要求し、人間の感情を不当に操作することを目標とするAIシステムの開発および使用を許可すべきではないことを明らかにした。

また、ガイドライン草案では、主に生成AI開発者を指す「先進AIシステム関連企業」に、G7国際ルールに準拠できるように追加措置を講じることを求めています。

虚偽の情報への対応として、ドラフトでは、信頼できるコンテンツ認証およびソースメカニズムを開発および配布することを提案します。 情報のソースまたは作成者を識別するデジタル技術である作成者プロファイルは、そのようなメカニズムの1つです。