イーロン・マスクの AI への批判: Grok は現実の人々の暴露画像を生成する

イーロン・マスクス グロク AI画像ジェネレーターが未成年者を含む現実の人々の同意のない性的な画像を生成するために使用された後、強い批判を引き起こしました。

過去 1 週間にわたり、一部の X ユーザーが Grok を使用して、写真内の人物の服をデジタル的に脱がせました。 KIモデル 人物の肌の露出を増やしたり、ビキニを着たり、姿勢を変えたりする偽の画像を作成します。

OnlyFans のモデルが Grok に自分の服を脱ぐよう求めるなど、要求の中には合意に基づくものもあります。グロクに対し、自分たちではない大人の衣服を脱ぐよう求めた人もいた。関係ユーザーがソーシャルメディアプラットフォームに投稿したスクリーンショットや、Business Insiderが確認した他のいくつかの例によると、これらの画像の中には未成年者も含まれている。

こちらも読んでください

イーロン・マスクはレブロンよりも健康で、マイク・タイソンを倒すだろうか？ Grok のこれらの主張は波紋を呼んでいます

さまざまな政府の代表者がすでにコメントしている

XAI の利用規約では、「ポルノ的な方法での人物の描写」と「児童の性的対象化または搾取」を禁止しています。

コメントを求められたとき、xAI は問題に対処しない自動電子メール応答を送信しました。

フランス当局はAIが生成したGrokのディープフェイクの増加を捜査しているとパリ検察がPoliticoに語った。フランスでは、許可されていないディープフェイクをインターネット上に拡散すると、懲役 2 年の刑が科せられます。

インド電子情報技術省 手紙を書きました X社のインドの最高コンプライアンス責任者に宛てて、ユーザーが「女性を軽蔑する目的で軽蔑的または下品な方法で画像やビデオを配布した」という報告について説明した。

同省はXに対し、「包括的な技術的、手続き的、行政的審査」を受け、インドの法律に違反するコンテンツを削除するよう求めた。

アレックス・デイビス＝ジョーンズ英国女性と少女に対する暴力被害者担当大臣は、 要求された イーロン・マスクのCEO。 X親会社 xAI、AI画像を何とかする。

「女性のことをそんなに気にかけているのなら、なぜ X 人のユーザーが女性を搾取することを許すのでしょうか」と彼女は書いた。 「グロックは毎分何百人もの女性の服を脱がすことができますが、多くの場合、描かれている人物の知識や同意なしに行われます。」

こちらも読んでください

「AIのゴッドファーザー」は、人工知能が人類を操作する可能性があることを懸念していると語る

デイビス・ジョーンズ氏も次のように言及しました。 イギリスの提案、性的に露骨なディープフェイクの作成と配布を犯罪化することになる。

未成年者が関与した事件

Grok が未成年者の性的な画像のスクリーンショットを撮っていたという X ユーザーの報告に応えて、 答えた Grokの公式アカウントは、同社が「セキュリティ上のギャップを特定し、緊急に対処している」と説明しているが、Grokの応答がxAIによって検証されたのか、それとも単にAIによって生成されたのかは不明だ。

「あなたが言及した例のように、ユーザーが最小限の服装をした未成年者を映すAI画像を要求し、受け取ったという個別のケースがあります」とGrokの公式アカウントは別のスレッドで回答した。 「xAI には保護メカニズムがありますが、そのようなリクエストを完全にブロックするための改善に取り組んでいます。」

他のAIもヌード画像の生成に使用されています

マスク氏はGrokのNSFW機能を宣伝しているが、ディープフェイクはAI企業にとって継続的な問題であり、モデレーションの課題となっている。

8 月に、Grok の画像およびビデオ ジェネレーター Imagine が導入しました。 「スパイシー」モード ユーザーが AI によって生成された女性のポルノ画像を作成できるもの。写真のアップロードでは「スパイシー」オプションは利用できませんでしたが、ユーザーは「シャツを脱いで」などのカスタム プロンプトを入力できました。

Grokの「服を脱ぐ」トレンドは、 有線 は12月23日、OpenAIのChatGPTとGoogleのGemini AIモデルを使用して、着衣写真からビキニを着た本物の女性の画像を生成したと報告した。

自分が作成した AI の偽物から身を守る能力は人によって異なります。

米国では、テイク・イット・ダウン法により、同意のないディープフェイクが保護されており、その範囲は年齢と描かれた体の部位に応じて異なります。成人の場合、この法律は性器または性行為を示すディープフェイクにのみ適用されます。未成年者にとってこの法律はより厳しく、「人を虐待、屈辱、嫌がらせ、または貶める」こと、あるいは「人の性的欲求を刺激する、または満足させる」ことを目的としたディープフェイクが対象となる。

他の一部の州もディープフェイクの配布に関してより厳格な法律を可決した。

AI によるディープフェイクの作成は、より複雑な責任問題を引き起こしますが、1996 年通信品位法第 230 条は主に、ユーザーが投稿したコンテンツに対する責任からオンライン プラットフォームを保護しています。

こちらも読んでください

OpenAI 創設者サム アルトマンが AI ディープフェイクによる詐欺に対するソリューションを提示

8月にBusiness Insiderに語ったところによると、テクノロジー利用型虐待弁護士のアリソン・マホーニー氏は、プラットフォームをクリエイターとみなすことが、AI生成ツールのせいで「免責を剥奪」されるのではないかと疑問を呈した。

マホニー氏は「プラットフォームに不正行為の責任を問う明確な法的手段が必要だ」と述べた。