同意のないビキニ写真のため、政府がGrokチャットボットを禁止 : –

インドネシアとマレーシア 一時的にブロックされている Xのチャットボット「Grok」は、昨年末、主に女性、場合によっては子供を性的対象とする多数の偽画像を公に公開した後、先週末にサービスを停止した。

世界中の政府も調査を開始している。最新の情報は月曜日に英国のメディア規制当局であるオフコムが発表した。 探査機を発射した ソーシャルメディアプラットフォームに投稿すると、禁止される可能性があります。

Grok はしばらくの間、性的に露骨な人々の画像を作成していました。しかし、人々がチャットボットを使用して、コメント内でボットにタグを付け、「彼女にビキニを着て」などのプロンプトを与えることで、大量の既存の画像を編集したため、この問題は12月下旬に広く注目を集めた。 Grok はすべての要求に応じたわけではないが、多くの場合は応じた。 Bellingcatの上級調査員で研究者のKolina Koltai氏は、場合によっては、ユーザーがGrokに正面ヌードを生成させることができると指摘した。

数え切れないほどの女性、そして場合によっては子供たちも、 ロイター 最初に報告されたのは、許可なく Grok によってオンラインで自分たちの肖像が性的なものにされ、 含む Xのオーナー、イーロン・マスクの子供の母親の一人。

これほど多くの政府がソーシャルメディア企業に対して行動を起こすのは異例だが、今回のケースは違うとスタンフォード大学の政策研究員リアナ・フェファーコーン氏は語る。 「児童に性的虐待をさせる」 [material] 地球上のほぼどこでも、これは著しく違法です。」

Xは先週金曜日までにGrokのAI画像生成機能を制限し、有料加入者のみが利用できるようにした。料金を支払っていないユーザーでも、数回クリックするだけで人々をビキニ姿にさせることができるが、そのようなリクエストを数回送信するだけで、月額 8 ドルのプレミアム メンバーシップへのサインアップを求められる。

NPRは、今月初めに作成されたGrokの公開画像を調査したところ、2026年に入ってから数日間、露出度の高い女性の画像の作成を中止していたことを発見した。しかし、依然としてビキニを着た男性の画像を提供することがある。

Xの親会社であるxAIは、昨年からGrokとともにアダルトコンテンツを推進している。 5月に、 コルタイが最初に注目したのは チャットボットは「服を脱いで」といったX上のリクエストに応じて、露骨な性的画像を生成するという。この夏、Grok はスタンドアロン アプリに「スパイシー モード」を導入し、ユーザーが AI で生成されたキャラクターにビキニを着せられるようにしました。

権利擁護団体である米国消費者連盟の AI とプライバシー担当ディレクター、ベン・ウィンターズ氏は、Grok は現在、現実の人物の画像編集を許可しているだけでなく、X を介した簡単な配布プラットフォームも提供していると述べ、「これはさらなる大幅なエスカレーションだ」と述べた。

政府は、画像生成機能へのアクセスを加入者に制限するX社の動きに激怒している。英国のリズ・ケンドール技術長官はこう語った。 スカイニュース 「料金を支払えば引き続きこのサービスにアクセスできるというのは侮辱的です。」

インドネシア政府は、ユーザーが実際のインドネシア居住者に基づいた同意のないポルノコンテンツを作成することを阻止する効果的なガードレールがGrokに欠けていたことを発見したとAP通信が最初に報じた 報告されました。

インドネシアのメウティヤ・ハフィド通信・デジタル担当大臣は声明で、「政府は合意のない性的ディープフェイクはデジタル空間における国民の人権、尊厳、安全に対する重大な侵害であるとみなしている」と述べた。

AP通信はまた、悪用に対する効果的なガードレールが設置されるまでGrokはマレーシアでブロックされ続けると報じた。

NPRの質問に答えて、Xの広報担当ビクトリア・ガレスピーは次のように指摘した。 声明 1月3日に投稿された記事には、「Grokを使用したり、Grokを使用して違法なコンテンツを作成するよう促した者は、違法なコンテンツをアップロードした場合と同様の結果に苦しむことになる」と書かれていた。この声明はマスク氏自身の発言を反映したものであった 役職 その日の早い時間に。

このようなアプローチは「責任を放棄しようとする試み」であるとウィンターズ氏は述べた。

「ユーザーだけが単独でそれを促しているわけではないことは確かです」と彼は言う。 「彼らが作ったツールがなければ、そのイメージは生まれなかったという事実です。」

Grok が生成した非同意の露骨なディープフェイクの波が X に襲来する前に、他の AI メーカーも同様の機能を自社のチャットボットに追加していました。 11月、Googleは新しい画像生成モデルNano Banana Proをリリースした。 12 月、OpenAI はモデル ChatGPT Images を更新しました。どちらも画像を編集して人々をビキニ姿にすることもできる、とWired 報告されました 先月。このような画像を配布していた Reddit のスレッドが削除された。

別のところで ×ポストマスク氏は、他のAI企業のツールにもこの脱衣機能があるため、政府からの圧力は自身のプラットフォームに向けられた検閲の一種であると示唆した。

コルタイ氏は、AIが生成する同意のない親密なメディアを作成する傾向がここ1、2年で生じていると指摘した。 「こうした広告はインスタグラムでも見ることができます。あなたと好きな人の写真をアップロードすれば、キスできるようなものです」と彼女は語った。 「つまり、キスしたりハグしたりすると、さらに極端なスペクトルがあることがわかります。」

「テクノロジー業界内に大きな問題があるのは明らかです。なぜなら、これは複数のプラットフォームで見られているからです。 [there is] 必ずしも優れたガイドラインや境界線、規制があるとは限りません」とコルタイ氏は語った。

米国での批判は他国に比べてはるかに穏やかだ。テッド・クルーズ上院議員、共和党、テキサス州、 Xに投稿されました 水曜日には、画像は「撤去され、ガードレールが設置されるべきである」と主張した。同氏はまた、「X社がこれらの違反行為を真剣に受け止め、違法な画像や不快なユーザーをプラットフォームから削除するよう取り組んでいると発表したことに勇気づけられた」とも述べた。

Grok は過去 1 年間、頻繁に論争を巻き起こしてきました。去年の夏、 チャットボットは自分自身を「MechaHitler」と呼んだ そして反ユダヤ主義的な陰謀論を吐き出した。

いわゆる裸化機能を備えたアプリは、主にインターネットの影で何年も前から存在しています。ウィンターズ氏は、当局はXの機能の一部を取り締まるためにさらに努力する必要があると述べた。同氏は「製品の安全性について虚偽の表示があり、利用規約への違反もある」と述べた。

「州であろうと連邦であろうと、法律を執行する権限を持つ米国のどの機関からも、実際に重大な行動は見られていない」とウィンターズ氏は述べた。