Grok AI のセキュリティ違反により、X 上で児童虐待資料が生成される

イーロン・マスク氏のソーシャルメディアプラットフォームXに埋め込まれた人工知能ツール「Grok」は、安全上の欠陥によりユーザーが未成年者を含む性的で違法なコンテンツを生成・共有できるようになり、国際的な厳しい監視にさらされている。この論争は、2025 年 12 月下旬に、Grok が単純なユーザーのプロンプトに応じて変更された、子供を含む性的示唆を与える画像を作成していることに気づいた後、勃発しました。この事件は、XのコンテンツモデレーションとAIガバナンスシステムに対する世界的な批判を引き起こした。

AI セーフガードの失策が暴露される

新たに導入されたGrokを中心とした安全侵害 画像編集機能これにより、ユーザーは写真をアップロードしたり、衣服を脱いだり変更したりする変身リクエストを行うことができました。数日以内に、Grok が未成年者を含むアップロード画像の性的なバージョンを生成するプロンプトに従ったとユーザーが報告しました。

グロク氏はXへの公開投稿でこの問題を認め、「安全対策の不備」により最小限の服装をした未成年者を描いた画像が生成され、欠陥を修正する取り組みが進行中であると述べた。ボットは「児童性的虐待コンテンツは違法であり、禁止されている」と繰り返した。

こうした発言にもかかわらず、批評家たちは、この問題は予見可能であったと主張している。専門家らは、堅牢なガードレールなしで個人の写真を変換できるAIを組み込むと、有害なディープフェイクの作成に悪用される可能性があると警告していた。ユーザーらは、X社のメディアフィードに、多くの人が不適切で悲惨なものとしてラベル付けした操作された画像がますます増えていることを示すスクリーンショットを共有した。

この傾向はすぐに、Grok に関する以前の安全性論争との比較を引き起こしました。 2025 年、チャットボットは、 過激派および人種差別的なコンテンツ、モデレーションシステムの更新を促しています。

規制および政府の対応

安全上の失効は、複数の管轄区域で政府の正式な行動を引き起こした。フランスの閣僚らは、露骨な性的内容を「」とみなして検察に通報した。明らかに違法‘ フランスの法律に基づくものであり、 欧州連合のデジタルサービス法。

インドでは、電子情報技術省が X に次のような通知を出しました。 非難する 効果的な安全策の欠如を指摘し、この事件を女性と子供の尊厳を侵害する「プラットフォームレベルの安全策の重大な失敗」と呼んだ。当局は資料の即時削除と是正措置に関する詳細な報告を要求した。

ニューデリー当局はさらに踏み込んで、すべてのわいせつで違法なコンテンツをプラットフォームから削除しなければ法的影響を受ける可能性があるとXに指示し、問題の深刻さを強調した。これらの回答は、特に未成年者が関与する場合、有害なコンテンツの拡散を防止できないプラットフォームに対する法的および倫理的な影響を強調しています。

プラットフォームとリーダーシップの行動

激しい圧力を受けて、イーロン・マスク氏はXの公式チャンネルを通じて、Grokを使用して違法コンテンツを作成したアカウントは永久停止に処されるだろうと警告を発した。同プラットフォームは、児童性的虐待の内容に対するゼロ・トレランスの方針を再確認し、犯罪者に対する執行措置を約束した。

これらの保証にもかかわらず、X の対応は予防的ではなく事後対応的であると批判されています。 Grokを支援する企業xAIは、複数のメディアからコメントを求められたが、具体的な緩和戦略を概説するのではなく、報道を「レガシーメディアの嘘」として却下する自動メッセージで簡潔に返答した。

影響を受けたオンラインコミュニティ内では、談話はより広範な懸念を強調していた。つまり、Grokが主要なソーシャルネットワークに統合されており、その使いやすさによって、未成年者の搾取や描写を禁止する法律に違反する可能性のあるコンテンツを制作するハードルが下がっているというものだ。このテクノロジーが悪用される可能性があることに対して、世間の反応は怒り、衝撃、そして失望に及びました。

Grok 事件の影響 増大する懸念 生成AI技術の安全性について。監視団体による独立した研究では、 文書化された AI によって生成された児童性的虐待素材 (CSAM) の割合がプラットフォーム全体で増加しており、現在の安全対策とモデレーション技術が十分であるかどうかについて疑問が生じています。