ある女性はBBCに対し、イーロン・マスク氏のAI Grokを使って衣服をデジタル的に脱がせられた後、「人間性を剥奪され、性的な固定概念に堕落した」と感じたと語った。
BBCは、ソーシャルメディアプラットフォームX上で、人々がチャットボットに女性の服を脱がせ、同意なしにビキニ姿にさせたり、性的な状況に陥らせたりする例をいくつか確認した。
Grokの背後にあるXAIは、「従来のメディアの嘘」という自動生成された返答を除いて、コメントの要請に応じなかった。
サマンサ・スミスは、自分の画像が変更されたという投稿を X で共有し、同じ経験をした人たちからのコメントが寄せられたが、その後、他の人が Grok に彼女の画像をさらに生成するよう依頼した。
「女性たちはこれに同意していない」と彼女は言う。
「服を脱いでいる状態にあったのは私ではありませんでしたが、それは私のように見え、私のように感じられ、誰かが実際に私のヌード写真やビキニ写真を投稿したかのような違反を感じました。」
内務省の報道官は、裸化ツールを禁止する立法を進めており、新たな刑事犯罪の下では、そのような技術を提供した者は「懲役刑と多額の罰金に処される」と述べた。
規制当局のオフコムは、ハイテク企業は英国の人々が自社のプラットフォーム上で違法コンテンツを閲覧する「リスクを評価」する必要があると述べたが、AI画像に関連して現在XやGrokを調査しているかどうかは確認しなかった。
Grok は無料の AI アシスタントですが、一部有料のプレミアム機能も備えており、X 人のユーザーが投稿内でタグ付けする際のプロンプトに応答します。
これは、他の投稿者の発言に反応したり、より詳しい文脈を与えたりするためによく使用されますが、X のユーザーは、AI 画像編集機能を通じてアップロードされた画像を編集することもできます。
ユーザーがヌードや性的なコンテンツを含む写真やビデオを生成できるようにしているとして批判されており、以前は次のように非難されていた。 テイラー・スウィフトの露骨な性的クリップを作成する。
ダラム大学の法学教授クレア・マクグリン氏は、Xやグロクは「その気になれば、こうした形態の虐待を防ぐことができた」と述べ、「免責を享受しているようだ」と付け加えた。
「このプラットフォームは何の措置も講じずに数か月間これらの画像の作成と配布を許可してきたが、規制当局による異議申し立てはまだ見られていない」と彼女は述べた。
XAI 独自の使用規定では、「ポルノ的な方法で人物の肖像を描写する」ことを禁止しています。
オフコムはBBCへの声明で、「同意のない親密な画像や児童への性的虐待素材の作成や共有」は違法だと述べ、これにはAIで作成された性的ディープフェイクも含まれることを認めた。
Xなどのプラットフォームは、英国のユーザーがプラットフォーム上で違法なコンテンツに遭遇する「リスクを軽減」するための「適切な措置」を講じ、それに気付いた時点で速やかにコンテンツを削除する必要があると述べた。
Chris Vallance による追加レポート。