企業

カリフォルニア州、AIディープフェイクを巡りGrokを調査

カリフォルニア州の最高検察官は、イーロン・マスク氏のAIモデル「Grok」が生成した性的なAIディープフェイクの拡散に対する捜査を開始した。ロブ・ボンタ司法長官は捜査を発表した声明で「ここ数週間、xAIが作成しオンラインに投稿した、合意のない露骨な性的コンテンツを詳述する大量の報道は衝撃的だ」と述べた。Grokを開発しているxAIは以前、「Grokを使用したり違法コンテンツの作成を促したりした者は、違法コンテンツをアップロードした場合と同様の結果に苦しむことになる」と述べていた。 カリフォルニア州の調査は、英国首相サー・キア・スターマーがXに対する行動の可能性を警告している中で行われた。ボンタ氏は水曜日の声明で、「女性と子供を裸で性的に露骨に描いたこの素材は、インターネット上で人々に嫌がらせをするために使用されている」と述べた。民主党検察官はxAIに対し、直ちに行動を起こすよう促した。カリフォルニア州知事ギャビン・ニューサム（民主党）は水曜日、「捕食動物の温床を作り、ホストするというxAIの決定は卑劣だ」とXに投稿した。BBCはxAIにコメントを求めた。 水曜日、マスク氏はXに対し「Grokが生成した未成年の裸の画像は知らない。文字通りゼロだ」と投稿した。「明らかに、Grok は自発的に画像を生成しません」とマスク氏は書いている。 「それはユーザーのリクエストに応じてのみ行われます。」共和党の巨額献金者であるテクノロジー界の億万長者は、Xの批判者たちは政治的な動機があり、Grok論争を「検閲の言い訳」として利用しているとも述べた。11月、Wired誌は、OpenAIやGoogleといった他のAI企業のツールも人々のデジタル脱衣に使用されていると報じた。先週、3人の米国民主党上院議員がAppleとGoogleに対し、アプリストアからXとGrokを削除するよう要請した。要求から数時間以内に、X は画像生成ツールを有料加入者のみが利用できるように制限しました。X と Grok は引き続き Apple の App Store と Google Play で入手できます。これは、米国のハイテク企業がユーザーがAIプラットフォームに投稿した内容に対する責任を免れているかどうかを巡る議論の中で起こった。1996 年通信品位法第 230 条は、ユーザー作成コンテンツのオンライン プラットフォームに対する法的免除を規定しています。しかし、コーネル大学のジェームス・グリメルマン教授は、この法律は「ユーザーからのサードパーティコンテンツに対する責任からサイトを保護するだけであり、サイト自体が作成するコンテンツではない」と主張している。グリメルマン氏は、xAIは責任を逃れようとしていると述べた。 しかし、この主張が法廷で通用するかどうかについては疑問を表明した。「これは、ユーザーが自分で画像を作成し、それを X 上で共有している場合ではありません」と彼は言いました。 この場合、「xAI自体が画像を作成している。それは第230条の適用対象外だ」と同氏は付け加えた。オレゴン州のロン・ワイデン上院議員は、同氏が共著した第230条はAI生成画像には適用されないと主張した。同氏は、企業はそのようなコンテンツに対して全責任を負うべきだと述べた。ワイデン氏は水曜日、BBCに対し、「カリフォルニアのような州が、イーロン・マスク氏の恐ろしい児童性的虐待資料作成者の調査に乗り出すのを見てうれしく思う」と語った。ワイデン氏は、アップルとグーグルに対し、アプリストアからＸとＧｒｏｋを削除するよう求めた３人の民主党上院議員のうちの１人である。カリフォルニア州での捜査の発表は、英国が同意のない親密な画像の作成を違法とする法案の準備を進めている中で行われた。英国の監視機関オフコムもグロクに対する調査を開始した。プラットフォームが法律に違反していると判断した場合、全世界収益の10％または1800万ポンドのいずれか大きい方の罰金を科すことができる。月曜日、キア・スターマー卿は労働党議員に対し、マスク氏のソーシャルメディアプラットフォームXは「自主規制する権利」を失う可能性があると述べ、「もしXがグロクをコントロールできないなら、我々はそうするだろう」と付け加えた。 #カリフォルニア州AIディープフェイクを巡りGrokを調査