企業

Grokは違法な脱衣画像をブロックした

イーロン・マスク氏のプラットフォームXは、同社のAIチャットボット「Grok」が女性や子供の性的な画像を生成したことに対する世界的な反発を受け、現実の人物の画像を脱がせないようにする措置を発表した。 Xは、そのような行為が違法とみなされる管轄区域において、GrokとXのすべてのユーザーが「ビキニ、下着、および類似の服装」を着た人々の画像を作成する「能力を地理的にブロックする」と述べた。 Xの安全チームは声明で、「Grokアカウントがビキニなどの露出度の高い服装をした実在の人物の画像編集を許可しないように技術的措置を講じた」と述べた。 「この制限は有料会員を含むすべてのユーザーに適用される」と彼らは付け加えた。 この声明は、カリフォルニア州司法長官がここ数週間で「合意のない露骨な性的コンテンツ」の生成を巡り、マスク氏のxAI（Grokの開発者）に対する捜査を開始したわずか数時間後に発表された。 ユーザーが女性や子供の性的なディープフェイクを作成できる機能があったことを受けて、xAIに対してGrokを抑制するよう国際的な圧力が高まっていた。 これは、ガルダ国家サイバー犯罪局長であるバリー・ウォルシュ刑事部長が、グロクに関して進行中の捜査が行われていることを認めた後に発表された。 ニアム・スミスは、Xがアイルランドの法律を遵守しない場合、アイルランドでGrokを禁止すべきだと述べた この問題は昨日、道教とAI担当のニアム・スミス大臣との間の会議で議論された。来週円卓会議が開催されます。 スミス大臣は、Xが子供と大人の両方の性的画像の作成に関するアイルランドの法律を遵守しない場合、Grokはアイルランドで禁止されるべきであると述べた。 同大臣はRTÉのプライムタイムに出演し、AIが生成した性的画像の作成と普及に関しては法律が整備されており、法執行が必要だと述べた。 英国のOfcomメディア規制当局は、Xが性的画像に関して英国の法律を遵守していないかどうか調査を開始すると発表した。 フランスの児童委員サラ・エル・ヘアリー氏は、グロクが生成した画像をフランス検察、アルコムメディア規制当局、欧州連合に紹介したと述べた。 インドネシアはGrokへのアクセスを完全に遮断した最初の国となり、隣国のマレーシアもこれに追随した。 インドは、Xが苦情に応じて数千件の投稿と数百件のユーザーアカウントを削除したと発表した。 #Grokは違法な脱衣画像をブロックした