1773705962
2026-03-16 22:54:00
に対する新たな訴訟 イーロン・マスクのxAI その主力チャットボットは、 グロク、未成年者3人の性的なディープフェイク画像の作成に使用された――訴状によると、内容は児童性的虐待に相当するという。
月曜日にカリフォルニア州連邦裁判所に提出された集団訴訟案は、AI新興企業が「子供を含む現実の人々の性的略奪」から利益を得ていると非難している。
「AIを開発、マーケティング、販売しているほぼすべての企業は、そのようなツールの危険性を認識しており、児童性犯罪者という極めて危険なグループによる自社製品の使用を防ぐ業界標準のガードレールを制定することを選択した。XAIはそうしなかった」と訴状は述べている。
マスク氏とxAIの代表者はBusiness Insiderのコメント要請にすぐには応じなかった。
マスク氏は以前、Xに関する1月の投稿で、「Grokが生成した未成年の裸の画像については何も知らなかった。文字通りゼロだ」と述べた。
Grok はユーザーのプロンプトに基づいて画像を生成すると彼は書いています。
「Grokの動作原理は特定の国や州の法律に従うことなので、画像の生成を求められた場合、違法なものの生成は拒否するだろう」とマスク氏は述べた。 「Grok プロンプトに対する敵対的なハッキングによって予期せぬことが起こる場合があります。その場合は、すぐにバグを修正します。」
xAIに対する訴訟では、テネシー州の原告は「AIが生成した児童性的虐待素材の制作、所持、配布を知っていたxAIによる軽微な被害者のうちの3人」であると述べている。
法廷書類ではジェーン・ドゥ1、ジェーン・ドゥ2、ジェーン・ドゥ3としてのみ特定されている原告らは、xAIのAIツールがヌード画像やビデオの作成に使用されたと主張している。訴状によると、成人したばかりのジェーン・ドゥ１号は事件当時未成年だったが、他の原告２人もまだ未成年だという。
2025 年 12 月、ジェーン ドゥ 1 さんは、匿名の Instagram アカウントから、彼女の「写真」が彼女の知人によって作成され、グループ チャット プラットフォーム Discord 全体に拡散されたことを警告するメッセージを受け取りました。
訴状には、「匿名ユーザーは一連のメッセージを通じて、加害者が自分や他の未成年の女性を描いた画像ファイルや動画ファイルのフォルダーをDiscordにアップロードしたと説明し続けた」としている。
訴状によると、匿名ユーザーは最終的に、AIが生成した彼女や他の未成年少女たちの性的な画像や動画をジェーン・ドウ1に送信したという。
訴状には、「これらのファイルのうち少なくとも5つ（1つのビデオと4つの画像）には、彼女が見慣れた設定で彼女の実際の顔と体が描写されていたが、性的に露骨なポーズに変形されていた」と記載されている。 「画像には、性器を含む彼女の全身が服を着ていない状態が映っていました。ビデオには、彼女が完全に裸になるまで服を脱ぐ様子が描かれていました。」
訴状によると、ジェーン・ドウ１は画像に写っていた他の未成年者とその家族に警告し、テネシー州で犯罪捜査が開始されたという。また、地元警察は2025年12月にこの事件に関連して容疑者を逮捕したと付け加えた。
訴状によると、ジェーン・ドゥ２号は先月、調査を通じて、彼女の画像のうち少なくとも２枚が、ｘＡＩのツールを使用してＡＩが生成した露骨な性的コンテンツの制作にも使用されていたことを知ったという。
訴状によると、地元の警察当局は少女とその母親に対し、青いビキニを着てビーチで撮影されたある画像は「服を着ていない姿を映すように変形されていた」と告げたという。
訴状によれば、当局はまた、ジェーン・ドウ3号に対し、容疑者の携帯電話から回収されたAI生成画像には「彼女の全裸を描写するために変形された」画像が含まれていたと通知したという。
原告側の弁護士ヴァネッサ・ベイア・ジョーンズ氏はBusiness Insiderに対し、彼女の依頼人は「悪夢」を経験していると語った。
「彼らが未成年だった頃のCSAM画像やビデオは、今では児童性犯罪者のダークネット世界に永遠に存在している」とベイア・ジョーンズ氏は述べた。 「それによる被害は深刻です。」
同弁護士は、この訴訟によってxAIに「説明責任」がもたらされることを望んでおり、「最も重要なことは、このようなことが他の被害者に決して起こらないことだ」と語った。
この訴訟は、不特定の損害賠償を求め、特に児童ポルノの頒布を目的とした制作、児童ポルノの頒布、児童ポルノの所持などでxAIを非難している。
原告側のもう一人の弁護士、アニカ・マーティン氏は、「我が国の法制度では、企業が引き起こした損害の代償として金銭を支払わせる方法である」と述べた。 「企業は利益を追求する組織であるため、企業の意思決定に影響を与える唯一の方法は、企業の財布に打撃を与えることです。」
今年の初めに、 xAIのGrokは大規模な反発を引き起こした AI画像ジェネレーターが現実の人々の同意のない性的な画像を作成するために使用された後。
これに対し、マスク氏が3月にxAIに売却したソーシャルメディアサイトX社は、Grok氏は次のように述べた。 AI画像を生成できなくなりました 性的な服装や露出度の高い服装をした実在の人物。
アシュリー・セント・クレア2024年にイーロン・マスク氏の息子の1人を出産した同氏は、Grokがユーザーの要求に応じて彼女の性的に露骨なディープフェイクを生成したとして、1月にxAIを訴えた。
フランス当局も性的ディープフェイクを巡ってグロクを捜査している。
#XAIのGrokが未成年者の性的ディープフェイクを作成したと訴訟で主張