Ofcom は、児童の性的画像に関する Grok AI の主張をめぐって X に異議を申し立てる

英国のメディア規制当局であるオフコムは、イーロン・マスク氏が所有する人工知能事業であるxAIと「緊急連絡」を行った。同社のGrokチャットボットが児童の性的な画像や女性の同意のない露骨な画像を生成するために使用される可能性があるとの報道を受けて。

この介入は、XにおけるGrokの画像生成機能に対する広く懸念が広がっていることを受けてのもので、ユーザーはAIが女性をデジタル的に「脱がす」よう促されたり、同意なしに性的なシナリオに置かれたりする例を投稿している。

Ofcom は、Grok の使用が規則に違反するかどうか調査中であることを認めました。 英国のオンライン安全法これにより、AI によって生成された「ディープフェイク」を含む、親密な画像や性的に露骨な画像を本人の同意なしに作成または共有することが違法になります。

Ofcomの広報担当者は、Grokが個人の「裸の画像」を作成していた疑惑についても規制当局が調査していると述べ、テクノロジー企業は英国のユーザーが違法なコンテンツに遭遇することを防ぐ適切な措置を講じ、報告があった場合には速やかにそのような素材を削除することが法的に義務付けられていると付け加えた。

X は、Ofcom の説明要請に対して公的には回答していない。しかし先週末、同プラットフォームはユーザーに対し、Grokを利用して児童の性的虐待画像などの違法素材を生成しないよう警告を発した。マスク氏はまた、Grokに違法コンテンツの作成を促した者は、自らそのようなコンテンツをアップロードした場合と「同じ結果に苦しむ」だろうとXに投稿した。

それにもかかわらず、現実の人物をポルノ的な方法で描写することを明示的に禁止する Grok 独自の利用規定は、日常的に無視されているようです。 AIツールを使用して操作されたとされる画像の中には、キャサリン妃を含む著名人の画像も含まれていた。

Internet Watch Foundation は、Grok が生成した画像に関する一般の人々からの報告を受け取ったことを認めました。ただし、これまでのところ、英国の法律で児童性的虐待物として分類される法的基準を超えるコンテンツは特定されていないと述べた。

この問題は英国以外でも厳しい視線を集めている。欧州委員会は「この問題を真剣に調査している」と述べた一方、フランス、マレーシア、インドの規制当局はグロクが現地法に違反していないかどうかを調査していると伝えられている。

欧州委員会の報道官、トーマス・レニエ氏は、その内容を「ぞっとする」「不快な」ものだと述べ、欧州にはそのような内容の「居場所はない」と述べた。 Xは12月、デジタルサービス法に基づく義務違反でEU規制当局から1億2000万ユーロ（1億400万ポンド）の罰金を科せられた。

英国の政治家らからの批判が強まっている。科学・イノベーション・技術委員会のデイム・チ・オンウラ委員長は、この疑惑は「非常に憂慮すべき」ものであり、既存の安全措置は国民を守ることができていないと主張した。彼女はオンライン安全法が「ひどく不十分」であると述べ、ソーシャルメディアプラットフォームに対する執行権限の強化を求めた。

この論争は、AI の誤用が人体に与える影響も浮き彫りにしました。ジャーナリストのサマンサ・スミスはBBCに対し、AIが生成したビキニ姿の自分の画像を見ることは「誰かが実際に露骨な画像を投稿したかのような違反」だと語った。

「それは私に似ていました。私のように感じました。そして、それは非人間的でした」と彼女は言いました。

内務省は、「ヌード」ツールを完全に非合法化する法案を進めていることを確認し、そのような技術の供給者には懲役刑と多額の罰金が科せられる新たな刑事犯罪が提案されている。

規制当局が監視強化に動く中、Grokのエピソードは、AIの説明責任、プラットフォームの責任、生成テクノロジー時代における表現の自由の制限をめぐる広範な議論の火種となっている。