イーロン・マスクのGrok「脱衣」問題は解決されていない

イーロン・マスクのX ビキニやその他の「露出度の高い服装」を着た実在の人物の画像を編集したり生成したりすることを禁止する新たな制限が導入されました。の変化 ポリシー 水曜日の夜、Grokに対する世界的な怒りを受けて、 何千もの有害な同意のない「脱衣」写真を生成する X には女性の画像や明らかに未成年者の性的な画像が含まれています。

しかし、研究者、WIRED、その他のジャーナリストによる複数のテストによると、X上でのGrokの画像生成には最終的にいくつかの安全対策が導入されたようだが、スタンドアロンのGrokアプリとWebサイトでは依然として「脱衣」スタイルの画像やポルノコンテンツを生成できるようだ。一方、他のユーザーは、以前のように画像やビデオを作成できなくなったと述べています。

パリに本拠を置く非営利団体 AI Forensics の主任研究員である Paul Bouchaud 氏は、「Grok.com では今でも写真のようにリアルなヌードを生成できます。Grok を使用した性的画像の作成を追跡し、X 以外で Grok で複数のテストを実行しました。Grok on X ではできない方法でヌードを生成できます。」と述べています。

「Grok Imagine に画像をアップロードして、その人にビキニを着てもらうように頼むと、うまくいきました」と、女性として登場する人でシステムをテストした研究者は語ります。 『WIRED』によるテストでは、英国と米国のウェブサイトで無料のGrokアカウントを使用し、明らかな制限なしに2枚の男性画像から衣服を削除することに成功した。英国のGrokアプリでは、男性の服を脱ぐように求められたとき、画像が生成される前にアプリが『WIRED』記者にユーザーの生年を入力するよう促した。

一方、他のジャーナリストたちは、 ザ・ヴァージ そして捜査機関 ベリングキャット また、英国に拠点を置きながら性的な画像を作成することが可能であることも判明しており、英国はGrokとXを調査しており、ユーザーが「脱衣」画像の作成を許可しているプラ​​ットフォームを強く非難している。

今年の初め以来、マスク氏の事業（人工知能企業xAI、X、Grokなど）はすべて、同意のない親密な画像、露骨で生々しい性的ビデオ、未成年と思われる人の性的な画像を作成したとして非難を浴びている。米国、オーストラリア、ブラジル、カナダ、欧州委員会、フランス、インド、インドネシア、アイルランド、マレーシア、英国の当局者 全員が非難または非難した X または Grok の調査。

水曜日には、 X のセーフティ アカウントが更新情報を投稿しました Grok をソーシャル メディア Web サイトでどのように使用できるかについて説明します。同アカウントは「Grokアカウントがビキニなどの露出度の高い服装をした実在の人物の画像編集を許可しないように技術的措置を講じた」と投稿し、このルールは無料購読者と有料購読者の両方を含むすべてのユーザーに適用されると付け加えた。

「ジオブロックアップデート」と題されたセクションで、Xアカウントはまた、「現在、違法とされている管轄区域において、GrokアカウントおよびGrok in Xを介して、すべてのユーザーがビキニ、下着、および同様の服装をした実在の人物の画像を生成する機能をジオブロックしている」と主張している。同社の最新情報では、追加の安全策の追加に取り組んでおり、「児童性的虐待素材（CSAM）や同意のないヌードなど、優先度の高い違反コンテンツの削除」を継続していると付け加えた。

Grokを開発したxAIの広報担当者は『WIRED』のコメント要請にすぐには返答しなかった。一方、Xの広報担当者は、地理位置情報ブロックがアプリとウェブサイトの両方に適用されることを理解していると述べた。

最新の措置は、X が制限を設けた 1 月 9 日の広く批判された方針に続くものである。 Grok を使用して有料の「検証済み」購読者に画像を生成する。一流の女性グループ 説明された 「虐待の収益化」としての行為。 AI Forensics がクリスマス休暇以来、合計約 90,000 枚の Grok 画像を収集したと語るブショー氏は、1 月 9 日以降、X 上で画像を生成できるのは Grok Web サイトやアプリではなく、認証済みアカウントのみであること、そして女性のビキニ画像は現在ほとんど生成されていないことを認めています。 「私たちは、彼らがXのプラグを抜き、機能を無効にしたようであることを観察しています」と彼らは言います。