世界

マスク氏のグロク氏、世界的な反発を受けて脱衣画像の公開を禁止

「追加の保護層」として、XのGrokアカウントを介した画像作成と写真編集機能は、有料会員のみが利用できるようになったと声明は付け加えた。 |写真提供: ロイター イーロン・マスク氏のプラットフォームXは水曜日（2026年1月14日）、同社のAIチャットボットGrokが女性や子供の性的な写真を生成したことに対する世界的な反発を受けて、現実の人物の画像を脱ぐことを防ぐ措置を発表した。この発表は、カリフォルニア州司法長官が露骨な性的内容を巡ってマスク氏のxAI（Grokの開発者）に対する捜査を開始し、複数の国がチャットボットへのアクセスをブロックするか独自の調査を開始した後に行われた。Xは、そのような行為が違法とみなされる管轄区域において、GrokとXのすべてのユーザーが「ビキニ、下着、および類似の服装」を着た人々の画像を作成する「能力を地理的にブロックする」と述べた。Xの安全チームは声明で、「Grokアカウントがビキニなどの露出度の高い服装をした実在の人物の画像編集を許可しないように技術的措置を講じた」と述べた。「この制限は、有料購読者を含むすべてのユーザーに適用されます。」「追加の保護層」として、XのGrokアカウントを介した画像作成と写真編集機能は有料会員のみが利用できるようになったと声明では付け加えた。EUのデジタル監視機関として機能する欧州委員会は先に、「Grokが女性と子供の性的な画像を生成することを禁止するためにXがとっている追加措置」に注目したと発表した。欧州委員会のトーマス・レニエ報道官は、合意のない裸の画像に対する厳しい批判を受けて、「われわれはこれらの変更を慎重に評価し、EU域内の国民を効果的に保護することを確認する」と声明で述べた。'ショッキング'xAIのいわゆる「スパイシーモード」機能により、ユーザーが「ビキニを着せる」「服を脱ぐ」などの単純なテキストプロンプトを使用して女性や子供の性的なディープフェイクを作成できるようになってから、xAIに対するGrokの抑制を求める世界的な圧力が高まっていた。カリフォルニア州司法長官ロブ・ボンタは、「ここ数週間、xAIが制作しオンラインに投稿した合意のない、露骨な性的資料を詳述する大量の報告書は衝撃的である」と、カリフォルニア州司法長官ロブ・ボンタは1月14日水曜日に述べた。「私たちは、同意のない親密な画像や児童への性的虐待素材の AI ベースの作成と配布を一切容認しません。」ボンタ氏は、露骨な画像が「インターネット上で人々に嫌がらせをするために使用された」ことを受け、カリフォルニア州の捜査でxAIが州法に違反したかどうかが判断されると述べた。カリフォルニア州知事のギャビン・ニューサム氏は、性的に露骨なディープフェイクの拡散を容認するというxAIの「卑劣な」決定を受けて、司法長官に同社の責任を問うよう強く求めたと述べた。マスク氏の会社に対する圧力をさらに強めたのは、水曜日（1月14日）、28の市民社会団体の連合がアップルとグーグルのCEOに公開書簡を提出し、性的な画像が急増する中、アプリストアからGrokとXを禁止するよう求めた。インドネシアは土曜日（1月10日）、Grokへのアクセスを完全にブロックした最初の国となり、日曜日（1月11日）には隣国のマレーシアも続いた。インドは日曜日（1月11日）、Xが苦情に応じて数千件の投稿と数百件のユーザーアカウントを削除したと発表した。英国のOfcomメディア規制当局は月曜日（1月12日）、Xが性的画像に関して英国の法律を遵守していないかどうか調査を開始すると発表した。そしてフランスの児童委員サラ・エル・ヘアリー氏は火曜日（1月13日）、グロクが生成した画像をフランス検察、アルコムメディア規制当局、欧州連合に照会したと述べた。先週、パリの非営利団体AI ForensicsがGrokが生成した2万枚以上の画像を分析したところ、半数以上に「最小限の服装をした人物」が写っており、そのほとんどが女性で、2％が未成年とみられることが判明した。 発行済み - 2026 年 1 月 15 日午前 9 時 21 分（IST） #マスク氏のグロク氏世界的な反発を受けて脱衣画像の公開を禁止