科学＆テクノロジー

AIが生成した同意のないヌードをめぐって、十代の若者たちがマスク氏のxAIを訴える : –

Grok チャットボットを開発するイーロン・マスク氏の人工知能会社 xAI が、同社の AI モデルが同意のないヌードを作成するために使用されたとして、十代の若者たちから訴訟を起こされている。 ニコラス・トゥカット/-、ゲッティイメージズ経由 キャプションを隠す キャプションを切り替えます ニコラス・トゥカット/-、ゲッティイメージズ経由 テネシー州のティーンエイジャー3人が、イーロン・マスク氏の人工知能企業xAIに対して集団訴訟を起こし、その大規模な言語モデルがアプリを動かして、少女時代に同意のないヌードや性的に露骨な画像や動画を作成するために使用されたと主張した。 「闇の芸術によって命を吹き込まれた縫いぐるみ人形のように、これは [AI-generated] 子供は、どんなに病気であっても、どんなにフェチ化されていても、どんなに違法であっても、どんなポーズにも操作することができます。訴状には、「視聴者にとって、結果として得られるビデオは完全に本物に見える。子供にとって、彼女を識別する特徴は、自分の子供への性的虐待を描いたビデオに永久に付加されることになる」と書かれている。 加害者はxAIのチャットボット「Grok」やソーシャルメディアプラットフォームX（これもxAIが所有）を使用していなかったが、訴訟では法執行機関の話として、加害者はxAIのアルゴリズムを使用した名前のないアプリに依存していたと主張している。 原告らは、xAIが自社の技術を意図的に米国外のアプリメーカーにライセンス供与していると非難し、「このようにして、xAIは自社の極めて危険なツールの責任を外部委託しようとする可能性がある」と訴状には述べられている。 この訴訟は、xAIがそのモデルが生成したとされる児童性的虐待素材に描かれた未成年者によって訴えられた初めての訴訟である。 xAI の画像生成ツールは、 何百万もの人々の性的な画像の制作に関与している 過去 1 年間にわたって。マスク氏との間に子供がいるインフルエンサーのアシュリー・セントクレア氏は今年初め、10代の頃の自身のヌードを描いたX上のAI生成画像について同社を訴えた。 集団訴訟の訴状によると、性的な画像を作成した加害者は原告の1人と「親密で友好的な関係」にあり、原告が送った写真や卒業アルバムやソーシャルメディアで集めた写真を使用して画像や動画を作成したという。あるビデオには、原告の一人が「完全に裸になるまで服を脱ぐ」様子が映されていた。訴状は主張した。原告らは、その画像とビデオがどれほど本物そっくりであるかに動揺した。さらに、訴状によれば、その素材にはAIが生成したというラベルが貼られていなかったという。 告訴状によると、加害者は他にも18人の性的露骨な素材を作成し、オンラインで他の人の画像と交換したという。訴状によると、彼は逮捕されたという。 原告側の弁護士ヴァネッサ・ベーア・ジョーンズ氏は、訴状でジェーン・ダズ1、2、3と特定された十代の若者たちは、AI企業が露骨な性的コンテンツに関するビジネス上の意思決定を行う方法を変えたいと考えていると述べた。[a business decision] それはもはやビジネス的に意味がありません」と彼女は言いました。 原告らは、画像によって引き起こされた精神的苦痛やその他の損害に対する損害賠償を裁判所に求めている。 いわゆるヌード機能を備えたアプリは、インターネットの影で長年存在していました。しかし昨年、Google、OpenAI、xAIなどの大手AI企業は、ユーザーがビキニ姿になることができるように画像生成ツールをアップデートした。しかし、GoogleとOpenAIが作成した画像には、AIの出所を明らかにする電子透かしが含まれている。これまでのところ、xAI はそのような標準を採用していません。 xAIはコメントの要請に応じなかった。 #AIが生成した同意のないヌードをめぐって十代の若者たちがマスク氏のxAIを訴える #-