企業

XがGrokの脱衣画像をブロックする措置を発表

イーロン・マスク氏のプラットフォームXは、同社のAIチャットボット「Grok」が女性や子供の性的な画像を生成したことに対する世界的な反発を受け、現実の人物の画像を脱ぐことを防ぐ措置を発表した。 Xは、そのような行為が違法とみなされる管轄区域において、GrokとXのすべてのユーザーが「ビキニ、下着、および類似の服装」を着た人々の画像を作成する「能力を地理的にブロックする」と述べた。 Xの安全チームは声明で、「Grokアカウントがビキニなどの露出度の高い服装をした実在の人物の画像編集を許可しないように技術的措置を講じた」と述べた。 「この制限は有料会員を含むすべてのユーザーに適用される」と彼らは付け加えた。 この声明は、カリフォルニア州司法長官がここ数週間で「合意のない露骨な性的コンテンツ」の生成を巡り、マスク氏のxAI（Grokの開発者）に対する捜査を開始したわずか数時間後に発表された。 ユーザーが女性や子供の性的なディープフェイクを作成できる機能があったことを受けて、xAIに対してGrokを抑制するよう国際的な圧力が高まっていた。 インドネシアはGrokへのアクセスを完全に遮断した最初の国となり、隣国のマレーシアもこれに追随した。 インドは、Xが苦情に応じて数千件の投稿と数百件のユーザーアカウントを削除したと発表した。 英国のOfcomメディア規制当局は、Xが性的画像に関して英国の法律を遵守していないかどうか調査を開始すると発表した。 フランスの児童委員サラ・エル・ヘアリー氏は、グロクが生成した画像をフランス検察、アルコムメディア規制当局、欧州連合に紹介したと述べた。 #XがGrokの脱衣画像をブロックする措置を発表