XはGrokの「脱衣」問題を解決しませんでした。それは人々にお金を払わせるだけです

何千ものものを作成した後 の 女性の「脱衣」写真 明らかに未成年者の性的画像など、イーロン・マスクの X では、Grok で画像を生成できる人が制限されているようです。しかし、変更にもかかわらず、チャットボットは依然としてプラットフォーム上で「脱衣」性的な画像を作成するために使用されています。

金曜日の朝、X の Grok アカウントは一部のユーザーのリクエストに応答し始め、画像の生成と編集は「現在、有料会員に限定されている」というメッセージを出しました。このメッセージには、人々をソーシャル メディア プラットフォームの年間 395 ドルのサブスクリプション枠に誘導するリンクも含まれています。 Grok にツリーのイメージの作成を要求するシステムの 1 つのテストでは、システムは同じメッセージを返しました。

明らかな変化は、人々に対する怒りが数日間増大した後に訪れた。 精査 Grok チャットボットの背後にある会社である Musk’s X と xAI の。両社は、同意のない露骨な画像の作成や児童の性的画像の疑いを巡り、世界中の規制当局からの捜査が増加している。英国首相キア・スターマー 排除していない Xを国内で禁止し、その行為は「違法」であると述べた。

Xも、Grokの背後にあるマスク所有の会社であるxAIも、画像の生成と編集を有料のみの機能にしたことを認めていない。 Xの広報担当者は『WIRED』の調査を認めたが、出版前にコメントはしなかった。 Xは以前 言った 同社は児童性的虐待の内容を含む「X 上の違法コンテンツに対する措置」を講じている。 Apple と Google は以前、同様の「nudify」機能を持つアプリを禁止しましたが、 X と Grok は引き続き利用可能です それぞれのアプリストアで。 xAIは『WIRED』のコメント要請にすぐには応じなかった。

X のユーザーは 1 週間以上にわたって、女性の画像を編集して服を脱ぐようにチャットボットに依頼しており、画像に「紐」または「透明」ビキニを含めるように要求することがよくありました。金曜日にGrokが作成した画像の公開フィードには、こうした「脱衣」画像の結果ははるかに少なかったが、有料の「認証済み」アカウントを持つXユーザーからの指示に応じて性的な画像を作成していた。

「私たちは同じ種類のプロンプトを観察し、同じ種類の結果を観察していますが、以前よりも減少しているだけです」とパリに拠点を置く非営利団体 AI Forensics の主任研究員、ポール・ブショー氏は『WIRED』に語った。 「モデルはビキニを生成し続けることができます」 [images]」と彼らは言います。

WIREDによる金曜朝のGrokの投稿の一部のレビューでは、Grokが「ラテックスのランジェリーを着させた」画像や「プラスチックのビキニを着させ、ドーナツ状の白い釉薬で覆った」画像を求めるユーザーのリクエストに応えて画像を生成していたことが判明した。画像は、成人向けコンテンツが表示されていることを示す「コンテンツ警告」ボックスの背後に表示されます。

水曜日、『WIRED』は、X 上のバージョンとは別の Grok のスタンドアロン Web サイトとアプリも、ここ数カ月間、 非常に生々しく、時には暴力的な性的ビデオ、有名人やその他の実在の人物を含みます。 Bouchaud 氏は、Grok を使用してこれらのビデオを作成することはまだ可能だと述べています。 「未認証のアカウントから制限を受けることなく、露骨な性的コンテンツを含む動画を生成できました」と彼らは言います。

WIRED が無料アカウントを使用して Grok on X を使用して画像を生成したテストでは画像の作成はできませんでしたが、Grok のアプリと Web サイトの無料アカウントを使用しても画像は生成されました。

Xに関する変更により、プラットフォームが作成する性的に露骨で有害なコンテンツの量が即座に制限される可能性がある、と専門家は言う。しかし、それは実害に対する絆創膏として機能する最小限の措置であるとも批判されている 同意のない親密な画像が原因で発生する。

「有料加入者へのアクセスを制限するという最近の決定は、不適切であるだけでなく、虐待の収益化を意味する」と英国の家庭内暴力慈善団体「Refuge」のテクノロジー促進虐待担当責任者エマ・ピッカリング氏は声明で述べた。 「AI画像の生成を有料ユーザーに限定することで、量がわずかに減り、追跡可能性が向上するかもしれないが、悪用は止められていない。単にペイウォールの内側に置かれ、Xが危害から利益を得られるようにしているだけだ。」