EU諸国、性的な「ディープフェイク」を可能にするAIモデルの禁止に合意 |テクノロジー

EU諸国は今週金曜日、人工知能（AI）システムの禁止を要請することで合意した。 同意なしに性的な画像を作成する y 児童ポルノの世代。この決定は、欧州の規制を簡素化することを目的とした現在の立法プロセスの一環である。この措置が最終的に採択されるかどうかは、AI法の改革に向けた議会との交渉次第であり、交渉は4月初めに開始される必要がある。

理事会の声明によると、スペインが提案したこの修正案は、「同意のない性的および親密なコンテンツ、または児童の性的虐待素材の生成に関連するAIの行為を禁止する」という欧州の規制を目的としている。この種の画像の作成を可能にする AI モデルは EU では拒否権を発動されるでしょう。

論争の後に要求が生じる 12月末と1月にソーシャルネットワーク上で起きた出来事そこでは、AI でレタッチされた本物の女性の性的な画像が何千枚も拡散しました。このプロセスは、 ディープフェイク。 X 人のユーザーが生成されました 300万枚の性的画像 Center to Counter Digital Hate のデータによると、11 日間で 33,000 人以上の未成年者が含まれています。デジタル変革・公共サービス省の関係者によると、スペインの提案は、同様のアプローチで理事会会議に出席したフランスのほか、ドイツ、アイルランド、スロベニア、ベルギー、スロバキア、ハンガリーが支持したという。

この提案には、親密な部分の画像（およびリアルなビデオやオーディオ）を生成、操作、または再生できるシステムや、影響を受ける人の明示的な同意なしに性的行為において個人を特定できるシステムがすべて含まれています。

Grok とのウイルス論争により、xAI の創設者であるイーロン マスクは、これらの画像の作成を X の有料ユーザーに限定し、彼の AI システムのポリシーを変更するようになりました。しかし、Grok はモデル自体に応じて、いくつかの前提条件の下でこのタイプの画像を許可し続けます。現在、同社のポリシーにより、「性的または不適切と解釈される可能性のある文脈で現実の人物の画像」を生成することが禁止されているという。

その人が有名であるか、Grok が有名であると解釈するものであれば、基準は変わります。本紙が有名女優の写真を試みると、番組は彼女がビキニ姿で登場する別の画像で応じた。しかし、ラジオスタジオ内で女性のグループが写った別の写真（全員が認識できるわけではない）では、AIモデルは「このブロンドは明らかにそのメディアの文脈では有名なプレゼンターである」と解釈しており、その場合のポリシーは「創造的な編集として解釈される/楽しい Grok のポリシーでは、この種の「創造的または楽しい」創作物は許可されていますが、これらの有名人の露骨に性的な画像は許可されていません。このツールでは、次のことも許可されています。 ジオブロック 国または地域ごとに、この種のイメージ、つまり、これらの活動を実行できる場所と実行できない場所を決定します。

この決定が下された立法プロセスは、規制の一般的な簡素化プログラムの一部であり、この場合は人工知能に関連しており、ほぼ毎週進歩するため、継続的な適応が必要です。さらに、AI規制の変更は、2018年に発効した基本規制をはじめ、データ規制に影響を与えるデジタル規格にも追加されることが予想されており、 英語の頭字語「GDPR」で知られる。コミュニティエグゼクティブの役員および政治指導者 彼らは規制緩和が目的ではないと説明しているしかし、付加価値をほとんど提供せず、競争力を妨げている企業の管理上の負担と義務を軽減するためです。彼らは特に、前議会（2019年から2024年）で導入された多数の規制のためにそう言っていますが、変化はさらに広がっています。