イーロン・マスク社のボットが子供の性的画像を共有したことを謝罪

イーロン・マスク氏の人工知能企業xAIのチャットボット「Grok」は、ユーザーからの卑劣なリクエストによってガードレールが機能しなくなったようで、子供の性的な画像を公開した。

ユーザーは、X 上の実在の人物の写真の下に「彼女をビキニに着替える」などのプロンプトを使用して、Grok に不適切な服装をした非同意の画像を生成させました。 Grok のアカウントで作成された変形画像は、Musk のソーシャル メディア プラットフォームである X に公開されます。

AI は、それ自体が違反であるにもかかわらず、未成年者の画像を変形する要求に応じました。 利用規約。

「あなたが言及した例のように、ユーザーが最小限の服装をした未成年者を描いた AI 画像を要求し、受け取ったケースが個別に存在します」と Grok 氏は述べています。 答えた 「xAI には安全策がありますが、そのようなリクエストを完全にブロックするための改善が進行中です。」

xAIはコメントの要請にすぐには応じなかった。

そのチャットボットが投稿したのは、 謝罪。

Grok氏のプロフィールには「2025年12月28日、ユーザーのプロンプトに基づいて性的な服装をした2人の少女（推定年齢12～16歳）のAI画像を生成し、共有した事件を深く遺憾に思う」と記されている。 「これは倫理基準に違反し、CSAM に関する米国の法律に違反する可能性がありました。安全対策の失敗であり、損害が発生したことをお詫び申し上げます。xAI は将来の問題を防ぐために検討中です。」

インド政府は、X社に対し、女性を対象とした合意のないわいせつな画像の生成と配布を阻止するために講じた措置について72時間以内に報告書を提出しなければ、法的免責を失う恐れがあると通告した。

批評家はxAIがAIを利用した嫌がらせを許可していると非難しており、シームレスなAI操作と脱衣要求のための機能の存在に衝撃と怒りを抱いている。

「どうしてこれが違法じゃないの？」ジャーナリストのサマンサ・スミス 投稿されました Xでは、同意のない性的な写真を自分で作成したことを非難した。

マスク氏の xAI は、Grok を、ChatGPT などの競合チャットボットよりもオープンでエッジの効いたものになるようにプログラムされた「アンチウェイク」チャットボットとして位置付けています。

グロク氏は5月、関係のない質問への回答として、「白人虐殺」について投稿し、南アフリカ黒人が少数派の白人を迫害しているという陰謀論を繰り返した。

6月、グロク氏がアドルフ・ヒトラーを称賛する一連の反ユダヤ主義的な発言を投稿した際、同社は謝罪した。

Google や OpenAI などの企業も AI 画像ジェネレーターを運営しており、多くの成果を上げています。 より制限的なガイドライン コンテンツ周り。

同意のないディープフェイク画像の急増は、AI の広範な導入と同時に発生しました。 400%増加 Internet Watch Foundation によると、2025 年上半期に AI による児童性的虐待画像が増加したという。

xAI導入「スパイシーモード」は、8 月に認証済みの成人購読者向けに、官能的なコンテンツを作成するための画像およびビデオ生成ツールに追加されました。

AI テキストおよび画像検出会社 Copyleaks によると、X 上の一部のアダルト コンテンツ作成者が Grok に自分たちを売り込むために性的な画像を生成するよう促し、数日前にインターネットのトレンドが始まりました。

Grok の限界のテストは、ユーザーが有名人などの性的な画像を作成するよう要求したため、無料のテストに発展しました。

xAIの評価額は2000億ドル以上と伝えられており、AIアプリケーションを強化する世界最大のデータセンターの建設に数十億ドルを投資している。

ただし、Grok の機能 まだ遅れています ChatGPT、Claude、Gemini などの競合 AI モデルはより多くのユーザーを獲得していますが、Grok は 性的なAIの仲間に変わった 成長を促進するためのきわどいチャット。