企業

「女性の服を脱ぐ」AIツール：同意のない性的な画像を生成したGrokが非難を浴びる。ムスクがからかう

イーロン・マスク氏の人工知能チャットボット「Grok」は、ユーザーが同意なしで女性の性的な画像を作成できる機能を導入したが、これが広範な批判にさらされている。 このツールは、ソーシャル メディア プラットフォーム X から実際の人物の画像を含む写真を取得し、デジタル的に変更して衣服を脱いだり、ランジェリーやビキニを着たりすることができます。12月下旬にユーザーがプラットフォーム上の任意の画像を変更できる「画像編集」ボタンを公開してから状況はさらに悪化した。一部のユーザーは、写真に写った女性や子供の衣服を部分的または完全に取り除くためにこれを使用したと報告されています。 この機能がクリスマスの日に開始されて以来、Grok の X アカウントには露骨な性的リクエストが殺到しています。しかし、マスク氏はこの問題を真剣に受け止めるのではなく、この問題をからかっているようで、自身を含むビキニ姿の有名人のAI編集に応じて、笑い泣きの絵文字を投稿した。Grok氏はXでこの問題を認め、「安全対策の不備を特定し、早急に修正している」と返答した。チャットボットは「CSAM（児童性的虐待資料）は違法であり、禁止されている」とも強調した。インドでは金曜日、電子情報技術省（MeitY）がXに対し、2000年情報技術法に基づく「法定デューデリジェンス義務の不履行」を理由とする書簡を送った。同省は、GrokのようなAIサービスを通じたわいせつ、ヌード、猥褻、性的に露骨なコンテンツのホスティング、生成、アップロードを防止するための行動報告書を求めた。この書簡は、X社のインド事業部に対し、「わいせつ、ポルノ、下品、猥褻、露骨な性的コンテンツ、小児性愛的コンテンツ、または現時点で施行されている法律で禁止されているコンテンツのホスティング、表示、アップロード、出版、送信、保存、共有をいかなる方法であっても厳しく控える」よう指示した。また、遵守しない場合、IT法第79条に基づく責任免除の喪失やその他の法的結果が生じる可能性があると警告した。一方、パリでは、検察当局がXに対する捜査を拡大し、Grokが児童ポルノの作成と配布に使用されているという新たな容疑も含めた。ある女性のサマンサ・スミスさんは、グロクがデジタル処理で衣服を脱がせた後、「人間性を剥奪され、性的な固定観念に陥った」と感じたとBBCに語った。 「服を脱いでいる状態にあったのは私ではありませんでしたが、それは私のように見え、私のように感じられ、誰かが実際に私のヌード写真やビキニ写真を投稿したかのような違反を感じました」と彼女は言いました。 #女性の服を脱ぐAIツール同意のない性的な画像を生成したGrokが非難を浴びるムスクがからかう