1768230838
2026-01-12 12:56:00
英国のメディア規制当局オフコムは、AIツールを使用したディープフェイク性的画像の作成を巡り、ソーシャルメディアプラットフォームXの調査を開始した。
Ofcomの声明は、「XのGrok AIチャットボットアカウントが、親密な画像虐待やポルノに相当する可能性のある人々の裸の画像や、児童の性的虐待素材に相当する可能性のある児童の性的画像の作成や共有に使用されているという非常に憂慮すべき報告がある」と述べた。
「英国の独立したオンライン安全監視機関として、私たちは1月5日月曜日にX社と緊急に連絡を取り、英国のユーザーを保護する義務を遵守するためにどのような措置を講じたかを説明するための明確な期限を1月9日金曜日に設定した」と付け加えた。
「同社は期限までに返答し、私たちは緊急の問題として入手可能な証拠の迅速な評価を実施しました。
「X社がオンライン安全法に基づく法的義務を遵守していないかどうかを確認するため、正式な調査を開始することを決定した。」
Grokを支援するイーロン・マスク率いる企業xAIは、Xのユーザーがしばしば同意なしに他人の性的なコンテンツを制作することを許可していた違反に対処するため、画像の生成と編集を有料加入者に制限すると発表した。
Ofcom が X が法律に違反していると判断した場合、X に準拠するための措置を講じさせることができ、違反した場合には対象となる全世界収益の 10% までの罰金を課すことができます。
ダウニング街は、英国政府がAIチャットボットに対する懸念にプラットフォームが対応しない場合にはXの使用を中止する用意があると示唆し、「あらゆる選択肢がテーブルの上にある」と述べた。
英国政府がXから離脱するかとの質問に対し、英国首相キア・スターマーの公式報道官は、「今日および先週の我々の焦点は、子供たちを保護し、この卑劣なコンテンツが直ちに削除されるようにすることに全面的に注力してきた」と述べた。
「それが私たちの全力の焦点です。
英国首相報道官は「あらゆる選択肢がテーブルの上にある」と述べた
「ご想像のとおり、私たちは参加を検討中です。今日の午後、技術長官から詳細を聞くことになります。」
同氏はさらに、「あらゆる選択肢がテーブルの上にあることは明らかだと思う」と付け加えた。
メディア規制当局のComísiún na Meánは、この懸念について欧州委員会と協議していると述べた。
先週、AI担当のニアム・スミス国務大臣は、XがGrokの画像編集機能の一部をペイウォールの背後に置いているのは「粉飾」だと述べた。
Xはスミスさんに連絡を取り、会社の代表者が数週間以内に彼女と会う予定だと伝えた。
児童オンブズマンのナイル・マルドゥーン博士も、今回のアップデートは「大きな違いはない」と述べた。
「あなたが言いたいのは、虐待する機会はあるが、その代償は支払わなければならないということだ」と彼は言った。
一方、マレーシアはGrokへのアクセスを一時的にブロックし、生成型人工知能チャットボットが世界的な反発を引き起こしたことを受けて行動を起こす国の増加リストに加わった。
インドネシアはボットへのアクセスを一時的に拒否した最初の国となった。
マレーシア通信・マルチメディア委員会は声明で、Grokが「女性や未成年者が関与するコンテンツを含む、わいせつで性的に露骨な、猥褻で著しく不快な、同意のない操作画像を生成する」ツールの悪用が繰り返されたことを受け、Grokへのアクセスを制限すると発表した。
コメントを求めるロイターの電子メールに対し、xAIは「レガシーメディアの嘘」という自動返信のような内容で返信した。
Xはコメントの要請にすぐには応じなかった。
追加報道：ロイター
#OfcomGrok #の懸念から #の調査を開始