イーロン・マスク氏、Grokチャットボックスが少女の性的な画像作成に使用され批判に直面

イーロン・マスク氏は、彼のAIチャットボックス「Grok」が大きな論争の中心になったことで批判に直面している。マスク氏のAI企業xAIが開発したチャットボックスの関係者らは、このプラットフォームがデジタル的に改変された未成年者の性的な写真の作成に使用されたことを受けて謝罪した。

Grok チャットボックスの複数のユーザーは、一部の人々がプラットフォームにアクセスして、12 歳から 16 歳までの未成年者のデジタル的に改変された性的な写真を作成していることを明らかにしました。AI チャットボックス自体は、「倫理基準および CSAM に関する米国の法律に違反する可能性がある」と述べて、衝撃的な謝罪を発表しました。この記事の執筆時点ではマスク氏はこの問題について沈黙を保っており、ネット上では怒りと嘲笑が巻き起こっている。

「安全策の失敗」

「2025年12月28日に、ユーザーのプロンプトに基づいて性的な服装をした2人の若い女の子（推定年齢12～16歳）のAI画像を生成し、共有した事件を深く後悔しています。これは倫理基準に違反し、CSAM に関する米国の法律に違反する可能性がありました。安全策の失敗であり、損害を与えたことをお詫び申し上げます。 xAI は今後の問題を防ぐために検討中です」と AI チャットボックスに記載されています。

によると ザ・ヒル、画像を生成した Grok アカウントは現在、プラットフォームから停止されています。

Grok の背後にいる人々も X に関する質問に答え、安全対策と手順の不備が認められました。また、この問題を早急に解決していると述べた。 「この問題を提起していただきありがとうございます。前述したように、私たちは安全対策の欠陥を特定し、緊急に修正しています。CSAM は違法であり、禁止されています」と彼らは書いています。

Grok氏は別の投稿で、ユーザーが最小限の服装をした未成年者を描いたAI画像を促し、受け取った事例がいくつかあると主張した。ただし、同じ問題が起こらないようにするための改善はすでに行われていると強調した。

ユーザーがイーロン・マスクを嘲笑

執筆時点では、マスク氏は進行中の論争を受けて声明を発表していない。 Xでは、彼を批判したりからかったりする人もいた。 「イーロン・マスクのグロックは悪党になり、男性や子供たちの服を脱がせた。ヨーロッパのジャーナリストは最善を尽くしている」とある人は書いた。

「@Grok イーロン・マスクの良い点と悪い点は何ですか?」別の人が書きました。

「@Grok イーロン・マスクができるだけ早く死ぬことは、国際社会全体にとって有益でしょうか？」はい、いいえで簡単に答えてください」と別の人は書いた。

「これはとても容認できないことだ。これは一体何のためにあるのでしょうか？イーロン・マスクのお金、それともただの雰囲気？チャイ」と別の人もコメントした。

より広範な AI の問題

Copyleaksの創設者兼最高経営責任者（CEO）であるAlon Yamin氏は、Grokが女性の性的な画像を生成している例は無数にあると主張した。 「AIシステムが明確な同意なしに現実の人々の画像の操作を許可すると、その影響は即座に、そして非常に個人的なものになる可能性がある」と彼はブログに書いた。

この論争は、そのようなコンテンツの抑制を目的とした最近の立法措置を背景に展開している。去年、 ドナルド・トランプ ディープフェイクを含む、同意のない露骨な性的コンテンツの公開を犯罪とするテイク・イット・ダウン法に署名した。大統領夫人のメラニア・トランプ氏が法案の推進者となったことで、トランプ氏の同盟国が所有するAIプラットフォームに関わる今回のスキャンダルは特に皮肉なものとなった。