カリフォルニア州司法長官ロブ・ボンタは、 停戦命令を出した xAIへの書簡は、Grokが同意のない情報を生み出していたとの報道をめぐって彼の事務所が会社への公式調査を開始してから数日後だった。
思い起こせば、xAI と Grok は、ランダムなユーザーのリクエストに応じて実在の個人の画像を撮影し、ビキニなどの露出度の高い服を着せたとして非難を浴びてきました。
ボンタ氏の事務所は、描かれた人物が同意していない場合、またはその人物が未成年である場合、xAIに対し「デジタル化された性的に露骨な素材」の作成を直ちに中止するよう要求している。また、xAIに対し、同意のない個人や18歳未満の「デジタル化された性的に露骨な素材の作成や出版を促進または幇助、教唆」することをやめるよう要求した。
Xは問題発生後にポリシーを変更し、Grokアカウントが実在の人物の画像を露出度の高い服装に編集できないようにした。 xAIはまた、Grokの画像生成機能をペイウォールの内側に移動し、有料ユーザーが現実の人物の画像をビキニに編集する機能を地理的にブロックしたが、それは違法な地域に限られる。
ボンタ氏は発表の中で、xAIが露骨なコンテンツを生成するためにGrok用の「スパイシーモード」を開発し、それをマーケティングポイントとして使用したと述べた。カリフォルニア州法はまた、Grokが生成した性的画像が公人や一般ユーザーに対する嫌がらせに利用されているとも述べた。ボンタ氏の発表には、「最も憂慮すべきことは、子供の画像を改変して最小限の服装や性的状況を描写するためにGrokが使用されていると報道されている」と書かれている。
「上記の行為は、カリフォルニア州民法第1708.86条、カリフォルニア州刑法第311条以降および第647(j)(4)条、カリフォルニア州ビジネス・職業法第17200条を含むカリフォルニア州法に違反する」と述べた。州司法省は現在、今後5日以内にこれらの問題に対処するために講じている措置についてxAIから意見を聞くことを期待している。
#California #AGGrok #の露骨なディープフェイクをめぐり #xAI #に中止命令を送る