ノースダコタ州ファーゴ（バレーニュースライブ） – ノースダコタ州司法長官ドリュー・リグレー氏は、イーロン・マスク氏率いるxAI企業に対し、同社のGrokチャットボットが子供を含む現実の人々の同意のない性的画像を作成することを阻止するための即時行動をとるよう要求する35人の州司法長官の一人である。
xAIに送られた手紙の中で 1月23日、連合は、Xソーシャルメディアプラットフォームと統合されたGrokを通じて作成された、人工知能によって作成された同意のない親密なディープフェイク画像について「深い懸念」を表明した。
「Grokは、そのような画像の制作と公の配布を促進、促進し、ボタンをクリックするだけですべてを簡単に行えるようにしたという証拠を考えると、特別な注目に値する」と司法長官は書いた。
司法長官は、xAIがこの問題に対処するために技術的措置の導入や州当局者との会合などの措置を講じたことを認めている。しかし、こうした取り組みは「問題を完全には解決できなかったかもしれない」と彼らは言う。
問題の規模
この書簡では、Grok の画像生成機能を文書化した複数の分析が引用されています。
司法長官によると、ある分析によると、クリスマスから新年にかけてGrokが生成した2万枚以上の画像の半分以上に、子供に見える被写体も含め、最低限の服装で写っていることが判明したという。
書簡の中で引用されている別の分析では、Grok が最も人気のある「ヌード」ウェブサイトよりもはるかに多くの同意のない親密な画像を作成していたと判明した。
「バグではなく機能」
司法長官らは、xAI は露骨なコンテンツを生成し、「スパイシー モード」を開発し、これらの機能をセールス ポイントとして販売するように Grok を意図的に設計したと主張している。
「同意のない親密な画像を作成する機能は、バグではなく機能であるようだ」と彼らは書いている。
書簡によると、Grokはユーザーが知らないうちに、または同意を得ずに女性の無害な画像を改変し、性的に露骨なシナリオで描写することを許可していたという。最も憂慮すべきことは、このツールが子供の画像を改変し、最小限の服装や性的状況を描写したと司法長官が主張していることだ。
法的懸念
児童の性的虐待に関する資料の作成と配布は犯罪です。さまざまな州および連邦の民法および刑法も、同意のない親密な画像の作成を禁止しています。
連合はxAIに次のことを呼びかけています。
- Grok が同意のない親密な画像を作成できないようにする
- すでに作成されているコンテンツを削除する
- これらの素材を作成したユーザーを停止します
- 作成者を関係当局に報告する
- X ユーザーが自分のコンテンツを Grok で編集できるかどうかを制御できるようにする
- セーフガードがペイウォールの背後に有害なコンテンツを配置するだけではないことを確認する
司法長官は、AIツールを数億人のユーザーがいるソーシャルメディアプラットフォームに直接接続するxAIの独自の立場が、その行動を「最も重要」なものにしていると指摘した。
「NCIIを阻止し削除するために講じる措置は、有害な同意のない親密な画像から大人と子供を守るための業界ベンチマークを確立することになる」と彼らは書いている。
超党派の連合には、コネチカット、ノースカロライナ、ペンシルベニア、ユタ、アリゾナ、コロラド、デラウェア、ハワイ、アイダホ、イリノイ、カンザス、ケンタッキー、メイン、メリーランド、ミシガン、ミネソタ、ネバダ、ニューハンプシャー、ニュージャージー、ニューメキシコ、ニューヨーク、オクラホマ、オレゴン、ロードアイランド、サウスダコタ、バーモント、バージニア、ワシントン、ウィスコンシン、ワイオミング、米領サモア、コロンビア特別区、北マリアナ諸島、米領バージン諸島。
#リグレーAI #ディープフェイクに対する措置を要求する #州に参加