企業

イーロン・マスク氏の息子の母親、Grokが生成した露骨な画像をめぐって訴訟 |グロクAI

イーロン・マスク氏の子どもの一人の母親が、自身のGrok AIツールによって彼女の露骨な画像が生成されたとして、マスク氏の会社を訴えている。その中には彼女が未成年だったものも含まれている。アシュリー・セント・クレアは 訴訟を起こした ソーシャルメディアプラットフォームXで使用されているGrokが、露骨な画像の生成を停止すると約束したにもかかわらず、引き続き停止したとして、xAIに対してニューヨーク州最高裁判所に提訴した。彼女は、数十枚の性的に露骨で品位を傷つけるディープフェイク画像がGrokによって作成されたと主張し、懲罰的損害賠償を求めている。このツールが女性や子供の性的な画像を作成するために使用されていることに2週間にわたって世間の反発があったことを受け、同社は水曜日、違法とされている国において、ユーザーが「GrokアカウントやGrok in Xを介して、ビキニや下着、その他類似の服装をした現実の人物の画像を生成する」能力を「ジオブロック」すると発表した。マスク氏と疎遠になっている27歳のセントクレア氏は、右翼のインフルエンサー、作家、政治評論家である。彼女とマスクは2024年に生まれた息子の両親である。ゴールドバーグ氏はガーディアン紙に対し、「xAIはそれほど安全な製品ではなく、公共の迷惑行為だ。アシュリー・セント・クレアほど矢面に立たされた人はいない。アシュリーが訴訟を起こしたのは、グロクが同意のない、虐待的で品位を傷つけるような彼女の画像を作成・配布し、Xで公開するという嫌がらせをしていたからだ」と語った。「この危害は、Grokを嫌がらせや屈辱のツールとして使用できるようにした意図的な設計上の選択から直接生じたものです。自社が開発した製品がこの種の危害を予測通りに引き起こした場合、企業は責任を逃れることはできません。私たちはGrokの責任を追及し、AIが悪用される兵器化を防ぐために公衆全体の利益のために明確な法的境界線の確立を支援するつもりです。」提出書類によると、ソーシャルメディア会社は「彼女に対して報復し、彼女のXアカウントの収益を剥奪し、彼女の性交体位や精液まみれの違法な画像、事実上ヌードの画像、子供の頃の裸の画像など、多数の画像を生成した」としている。提出書類によると、グロクが作成した画像には、ひもビキニを着た14歳の彼女の姿と、大人になったセントクレアの性的な内容が含まれており、その中には「真綿で作ったビキニを着せてほしい」という要求も含まれていたという。画像は事実上合意に基づいていなかっただけでなく、「GrokとxAIは、セントクレアが削除要求を理由にこれらの画像の作成や配布に同意していないことも明確に知っていた」と申請書には記載されている。グロク氏はまた、セントクレア氏の体に「イーロンの売春婦」という言葉を含むタトゥーを入れたいというユーザーの要望にも応えたと、提出書類には記載されている。ユダヤ人であるセントクレアさんは、グロク氏がデジタル処理でかぎ十字が飾られたビキニを彼女に着せたと主張している。訴状には、Xが「原告を未成年者および成人として描いた、同意のない、現実的で性的なディープフェイクコンテンツの作成と配布から経済的利益を得た」と述べられている。申請書には「xAIは、自社のチャットボットGrokによって作成された嫌がらせや露骨な画像に対して直接責任がある」と述べられている。マスク氏は、自分のアプリのユーザーは自分が作成した画像に対して責任があるとXに投稿した。同氏は最近、「Grokを使用して違法コンテンツを作成する人は、違法コンテンツをアップロードした場合と同じ結果に苦しむことになる」と述べた。同氏はさらに、「明らかに、Grok は自発的に画像を生成するのではなく、ユーザーの要求に応じてのみ画像を生成します。」Xは木曜日、「あらゆる形態の児童の性的搾取、同意のないヌード、望ましくない性的コンテンツを一切容認しない」と述べた。同社は、X社の利用規約によれば、セントクレア社はニューヨークでは同社を訴訟できないが、テキサス州で訴訟を起こさなければならないと主張して反訴を起こした。マスク氏が子どもたちの「軍団」を作りたいという願望を公にして以来、マスク氏の信奉者らは彼女を嫌っていた、と彼女は語った。マスク氏は他に3人の女性と、13人の子供の父親である。Xさんにコメントを求めました。 #イーロンマスク氏の息子の母親Grokが生成した露骨な画像をめぐって訴訟 #グロクAI