1767641399
2026-01-05 17:43:00
Ofcomは、同社のAIツールGrokが「性的な子供の画像」を作成したり女性の服を脱がすのに使用される可能性があるとの報告を受けて、イーロン・マスク氏の会社xAIと「緊急連絡」を行った。
規制当局の広報担当者は、グロクが人々の「裸の画像」を作成しているという懸念についても調査していると述べた。
BBC はいくつかの例を見てきました ソーシャルメディアプラットフォーム上で、女性を同意なしにビキニ姿に見せたり、性的な状況に陥らせたりするために実際の画像を改変するようチャットボットに依頼する人々Xがいた。
Xはコメント要請に応じていない。日曜日には、それは ユーザーに警告を発しました Grok を使用して児童の性的虐待素材を含む違法なコンテンツを生成しないこと。
イーロン・マスク と言うためにも投稿されました AI に違法なコンテンツの生成を依頼した人は、自分でアップロードした場合と「同じ結果を被る」ことになります。
XAI 独自の利用規約では、「ポルノ的な方法で人物の肖像を描写すること」を禁止していますが、人々は同意なしに Grok を使用して人々の服をデジタル的に脱いでいます。
ウェールズ王女キャサリン妃の画像は、X 上の Grok ユーザーによってデジタル的に衣服を剥がされた多くの画像の 1 つでした。
BBCはケンジントン宮殿にコメントを求めた。
EUの執行機関である欧州委員会は月曜日、「この問題を真剣に調査している」と発表し、フランス、マレーシア、インドの当局も状況を評価していると伝えられている。
一方、英国の Internet Watch Foundation は BBC に対し、Grok on X によって生成された画像に関する一般の人々からの報告を受けたと語った。
しかし、児童性的虐待画像とみなされる英国の法的基準を超えるような画像はこれまでのところ確認されていないと述べた。
Grok は、X 人のユーザーが投稿にタグを付ける際のプロンプトに応答する、無料の仮想アシスタントです (いくつかの有料のプレミアム機能も備えています)。
ユーザーがAIを利用してビキニ姿の写真を作成していたことを発見したジャーナリストのサマンサ・スミス氏は、金曜のBBCのPM番組で、AIのせいで「人間性が剥奪され、性的なステレオタイプに堕落した」と感じたと語った。
「服を脱いでいる状態にあったのは私ではありませんでしたが、それは私のように見え、私のように感じられ、誰かが実際に私のヌード写真やビキニ写真を投稿したかのような違反を感じました」と彼女は言いました。
下 オンライン安全法 (OSA)Ofcomは、AIで作成された「ディープフェイク」を含む、個人の親密な画像や性的に露骨な画像を本人の同意なしに作成したり共有したりすることは違法だと述べている。
ハイテク企業はまた、英国のユーザーがそのようなコンテンツに遭遇するリスクを軽減するために「適切な措置」を講じ、それに気づいた場合には「迅速に」削除することも求められている。
科学・イノベーション・技術委員会のデイム・チ・オンウラ委員長は、報道は「非常に憂慮すべき」ものだと述べた。
同委員会はOSAが「ひどく不十分」であると判断したと述べ、「ソーシャルメディア企業が何の処罰も受けずに行動する一方で英国国民がいかに保護されないまま放置されているかを示す衝撃的な例」だと述べた。
そして、ソーシャルメディアプラットフォームに「コンテンツに対するより大きな責任」を強制する委員会の勧告を受け入れるよう政府に求めた。
一方、欧州委員会のトーマス・レニエ報道官は月曜日、グロク氏による「露骨な性的コンテンツを示す」投稿や「児童っぽい画像を使って生成された一部の出力」を認識していると述べた。
同氏は「これは違法だ」と述べ、「ぞっとする」「不快な」とも述べた。
「これが私たちの見方であり、これはヨーロッパでは通用しない」と彼は言った。
レニエ氏は、XはEUがデジタルプラットフォームに関する規則の施行に「非常に真剣に」取り組んでいることを「よく知っていた」と述べた。 Xに1億2000万ユーロ（1億400万ポンド）の罰金を課した 12月にはデジタルサービス法違反で起訴された。
内務省の報道官は、裸化ツールを禁止する立法を進めており、新たな刑事犯罪の下では、そのような技術を提供した者は「懲役刑と多額の罰金に処される」と述べた。
#Ofcom #はGrok #が子供の性的な画像を作成しているとの報告について #に質問