当局は、 ブラジル 彼らは今週水曜日に、 レッドソーシャルX、億万長者から エロンク・マスク、によって生成された性的性質の画像の作成を防止するための即時措置を講じること。 グロク、あなたのアシスタント 人工知能 (IA）。
ユーザーが実際の人物に写真やビデオから裸になるよう要求できるこのツールに対する国際的な反発を受け、いくつかの国がこのプラットフォームに対して訴訟を起こした。
X は「Grok から始まる、 性的なコンテンツ あるいはエロティックな扱いを受けた子供や青少年、そして同意を表明していない成人だ」とブラジル検察局、データ保護局ＡＮＰＤ、消費者弁護事務局セナコンは述べた。
両団体はプラットフォームに対し、罰金と法的措置を講じた上で、決定に従うための５日間の猶予を与えた。
ブラジル当局によると、1月末の警鐘の後、Xは「数千の投稿を削除し、数百のアカウントを停止した」と主張し、新たなセキュリティ対策を発表した。
しかし、技術的な調査の結果、この種のコンテンツが生成され、プラットフォーム上で流通することを可能にする「持続的な欠陥」が見つかった、と彼らは付け加えた。彼らは、X の「対応が不透明だった」と報告した。
Xは1月中旬、この種の画像の作成が違法な国における自社のAIツールの制限を発表したが、この制限がどこで実施されているかはまだ正確には不明である。
Grok、マスク氏の xAI 会社出身では、ユーザーは「ビキニを着せる」「服を脱ぐ」などの簡単な指示で、実際の人物の画像を変更できるようになりました。
によると、 デジタルヘイトと戦うセンター インターネット上の誤った情報の悪影響を調査する監視機関である CCDH によると、チャットボットは数日で推定 300 万枚の女性と未成年者の性的な画像を生成しました。
イーロン・マスク氏のプラットフォームがブラジルで問題に直面するのはこれが初めてではない。
2024 年には、古い ツイッター 南米の巨人は、大統領の命令により40日間の出場停止処分を受けた。 連邦最高裁判所 虚偽情報との戦いに関する一連の司法判断に従わないことによる。
#ブラジルGrokが生成した性的コンテンツに対する措置をXに命令