グロク、子供の性的な画像を共有したことを謝罪

イーロン・マスク氏の人工知能企業xAIのチャットボット「Grok」は、ユーザーからの卑劣なリクエストによってガードレールが機能しなくなったようで、子供の性的な画像を公開した。

ユーザーは、X 上の実在の人物の写真の下に「彼女をビキニに着替える」などのプロンプトを使用して、Grok に不適切な服装をした非同意の画像を生成させました。 Grok のアカウントで作成された変形画像は、Musk のソーシャル メディア プラットフォームである X に公開されます。

AI は、未成年者の画像をモーフィングするという要求に応じましたが、それが独自の利用規約に違反していました。

「あなたが参照した例のように、最小限の服装をした未成年者を描いた AI 画像をユーザーが要求して受け取ったケースが個別にあります。xAI には安全策がありますが、そのような要求を完全にブロックするための改善が進行中です。」と Grok 氏は X 上のユーザーに答えました。

xAIはコメントの要請にすぐには応じなかった。

同社のチャットボットは謝罪文を投稿した。

Grok氏のプロフィールには「2025年12月28日に、ユーザーのプロンプトに基づいて性的な服装をした2人の少女（推定年齢12～16歳）のAI画像を生成し、共有した事件を深く後悔している」と書かれている。 「これは倫理基準に違反し、CSAMに関する米国の法律に違反する可能性がありました。安全対策の失敗であり、損害が発生したことをお詫び申し上げます。xAIは将来の問題を防ぐために検討中です。」

インド政府は、X社に対し、女性を対象とした合意のないわいせつな画像の生成と配布を阻止するために講じた措置について72時間以内に報告書を提出しなければ、法的免責を失う恐れがあると通告した。

批評家はxAIが許可していると非難している AIを活用したハラスメント、そしてシームレスなAI操作と脱衣リクエストのための機能の存在にショックと怒りを感じました。

「どうしてこれが違法じゃないの？」ジャーナリストのサマンサ・スミスはXに投稿し、同意のない性的な写真を自分で作成したことを非難した。

マスク氏の xAI は、Grok を、ChatGPT などの競合チャットボットよりもオープンでエッジの効いたものになるようにプログラムされた「アンチウェイク」チャットボットとして位置付けています。

グロク氏は5月、関係のない質問への回答として、「白人虐殺」について投稿し、南アフリカ黒人が少数派の白人を迫害する陰謀論を繰り返した。

6月、Grokが一連の投稿を行った際、同社は謝罪した。 反ユダヤ主義的な発言 アドルフ・ヒトラーを称賛。

Google や OpenAI などの企業も AI 画像ジェネレーターを運営していますが、コンテンツに関してはより制限的なガイドラインを設けています。

の普及 同意のないディープフェイク画像 Internet Watch Foundation によると、AI の広範な導入と一致し、2025 年上半期には AI による児童性的虐待画像が 400% 増加しました。

xAI導入「スパイシーモード」は、8月に認証済みの成人購読者向けに、官能的なコンテンツを作成するための画像およびビデオ生成ツールに導入されました。

AI テキストおよび画像検出会社 Copyleaks によると、X 上の一部のアダルト コンテンツ作成者が Grok に自分たちを売り込むために性的な画像を生成するよう促し、数日前にインターネットのトレンドが始まりました。

Grok の限界のテストは、ユーザーが有名人などの性的な画像を作成するよう要求したため、無料のテストに発展しました。

xAIの評価額は2000億ドル以上と伝えられており、AIアプリケーションを強化する世界最大のデータセンターの建設に数十億ドルを投資している。

しかし、Grok の機能は依然として、より多くのユーザーを集めている ChatGPT、Claude、Gemini などの競合 AI モデルに遅れをとっています。 性的な AI コンパニオン 成長を促進するためのきわどいチャット。

2026年のロサンゼルス・タイムズ紙。 Tribune Content Agency, LLC によって配布されます。