生成型人工知能とディープフェイク：AI法で要求されるラベルが到着

間もなく、ディープフェイクを含む人工知能によって生成または操作されたコンテンツにはラベルが付けられ、サイバータグが付けられるようになるでしょう。これは、透明性を促進するために、AI に関する欧州の新しい法律 (AI 法) によって導入された措置の 1 つです。

企業がこれらの義務を遵守できるよう、EU 委員会は 初稿 AI が生成したコンテンツの透明性に関する実践規範。

それは何ですか

この規範は、独立した専門家によって多国間プロセスで開発された自主的なツールであり、国の透明性要件に準拠するための運用ソリューションを提供します。AI 活動。

昨年 11 月に開始され、数百人の参加者と関係者が参加した作業の結果、この文書は 2 つのセクションに分かれています。最初のセクションは AI システムを開発する人々 (サプライヤー) に捧げられ、2 番目のセクションは AI システムを使用する人々 (導入者) に捧げられます。

AI が生成したコンテンツのマーキング

AI 法では、生成アルゴリズムのプロバイダーに対し、出力 (テキスト、画像、ビデオ、写真) が機械可読形式でマークアップされ、人工的なものとして検出可能であることを保証することが求められています。

この義務を果たすために、このコードは、目に見えない透かしの使用やメタデータの形式での情報の追加など、さまざまなアクティブ マークアップ技術の組み合わせ適用に基づいたマルチレベルのアプローチを提案しています。

誰もがアクセスできる無料のインターフェイスや検出器を提供するなど、マーキングを検出するための解決策も示されています。この文書では、AI コンテンツの出所と検証に関するリテラシーのサポートも求められています。訓練義務 ヨーロッパの法律によって導入されました。

ディープフェイクと人工テキストのラベル付け

この法律は、ディープフェイクとして分類される可能性のある画像、音声、またはビデオを生成または操作する AI システムを使用する者に対し、そのコンテンツが人工的なものであることを開示することを義務付けています。公共の利益に関する事項を人々に知らせることを目的として出版された文書の場合も同様です。

企業の適応を支援するために、このコードではまず、アルゴリズムによって生成された出力を 2 つのカテゴリに分類する共通の分類法を導入しています。つまり、完全に AI によって生成されたコンテンツと、人が作成したテキストの AI 合成やビデオ内の顔や音声の変更など、AI によって支援されたコンテンツです。

次に、欧州レベルで開発されたものを待って、EU のさまざまな言語での翻訳によると、「人工知能」という言葉の 2 文字の頭字語で構成される共通のアイコンが想定されています。コードで開発された分類法を含むアイコンは、最初に表示されたときに明確に表示され、マテリアルの形式と配布のコンテキストに合わせて適切に配置される必要があります。

この文書では、リアルタイムのビデオのブロードキャストやポッドキャストの制作など、いくつかの具体的なケースも考慮されています。人工テキストの場合、アイコンはテキストの先頭または最後の文の後に挿入できます。さらに、導入担当者には内部トレーニングと監視活動も義務付けられています。

次のステップ

委員会は、この最初のコード草案に対するフィードバックを 1 月 23 日まで収集します。この文書の第 2 バージョンは 3 月中旬までに公開される予定です。目標は最終テキストを公開することです 6月までにAI 法の透明性要件が 2026 年 8 月 2 日から適用されることを考慮します。ただし、パッケージとともに委員会によって提案された簡素化プロジェクトが承認された場合 デジタルオムニバスサプライヤーに対するマーキング要件の適用には 6 か月の移行期間が設けられる場合があります。