1768419897
2026-01-14 19:10:00
Grokは性的画像の配布を理由にいくつかの国で停止されているが、カリフォルニアではイーロン・マスク氏のAI企業を対象とした捜査が始まったばかりである。
カリフォルニア州司法長官は水曜日、 インターネット上での裸画像の蔓延により、xAIを対象とした捜査が行われる このイーロン・マスク社が作成した人工知能アシスタント Grok によって生成された女性と子供の数。 「xAI は、インターネット上、特にソーシャル ネットワーク X を介して女性や若い女の子に嫌がらせをするために使用される、親密な画像の同意のない流用 (ディープフェイク) の大規模な作成を促進しているようです。」民主党検察官ロブ・ボンタ氏のプレスリリースを非難し、同氏の捜査は、この事件に関して複数の国で開始された複数の捜査に追加されるものであるとしている。
それに応じて、 「私の事務所は本日、xAIが法律に違反したかどうか、またどのように違反したかを判断するためのxAIに関する調査を正式に発表しました。」プレスリリースで引用されたボンタ検事はこう宣言する。 「私はxAIに対し、このようなことが二度と起こらないよう直ちに行動を起こすよう強く求めます。」彼はこう付け加えた。 「私たちは、AIによる同意のない親密な画像や児童ポルノの作成と配布を一切容認しません。」。
広告をスキップする
Grok と、Grok が画像、特に同じくイーロン・マスクが所有するソーシャルネットワーク X 上で公開された画像を改変する可能性をめぐって、ここ数週間で国際的な憤りの動きが高まっている。一部のユーザーは、女性の写真を含むメッセージを投稿したり、メッセージに返信したりする機会を利用し、次のような指示を添えていました。 「彼女にビキニを着せてください」 引き換えに超現実的なモンタージュを受け取ります (「ディープフェイク」 英語で）。
議論マーケティング
1月9日の時点で、Xの無料ユーザーに対して画像作成機能は無効になっており、Xはこうした違法コンテンツを削除し、影響を受けるアカウントを停止する措置を講じているとしている。カリフォルニア州検察、xAIが人々の裸の可能性を促進したとして批判 「マーケティング上の議論として、当然のことながら関係者の同意なしに性的コンテンツの拡散を引き起こした」。 「xAI は、性行為に関与する子供たちのリアルな画像も生成したと報告されています。」さらにプレスリリースを非難。
先週、NGO AI ForensicsがGrokが生成した2万枚以上の画像を分析したところ、半数以上が露出度の高い服装をした人々が描かれており、そのうち81％が女性、2％が未成年者であることが判明した。インドネシアとマレーシアは週末にGrokへのアクセスを停止したが、インドはXに関する数千件のコンテンツが削除されたと発表した。英国やフランスを含む数カ国で調査が進行中である。
#カリフォルニア州検察がxAIの捜査を開始