イラスト用 ANPPhoto: チャットボット Grok
NOS ニュース•昨日、午後 10 時 12 分•調整済み昨日、午後 10 時 59 分
オンラインプラットフォームXは、女性や未成年者の性的なディープフェイクを大規模に生成したとして世界中で非難を浴びている。本日、欧州委員会はこのテクノロジー企業に対して、AIチャットボットGrokに関するすべての内部文書を2026年末まで保管するよう命じた。
グロク氏は最近、プログラムが「性的な服装」をした2人の未成年少女の人工画像を生成していたことを「謝罪」した。 Grok が写真に写っている少女たちの年齢を 12 歳から 16 歳の間と推定した後、ユーザーが AI ボットにこれを行うよう促しました。 グロクの反応 何百万回も読まれています。
「これは違法であり、容認できない」と欧州委員会の報道官は本日記者団に語った。同氏は記者会見で、この事件を受けてXに対する進行中の捜査が拡大されたと発表した。
オーストラリアからスウェーデンへ
これらには、オーストラリア、インド、マレーシア、フランス、英国、そして今日からスウェーデンが含まれます。 ハイテク企業に対する調査を開始するか、女性のディープフェイクの流れに対して行動を起こすようXに要求する。
ソーシャルメディアプラットフォーム上で、多数の女性の写真が同意なしに性的に加工されている。ロイター通信は今週、被害者のジュリー・ユカリさんと話をした。リオデジャネイロ出身のこのミュージシャンは、大晦日に猫と一緒に写った写真をXに投稿していた。
ロイタージュリー・ユカリ氏はXに関するディープフェイクの被害者であり、今週ロイター通信社に語った。
その後、ユカリさんは、ユーザーがグロクさんにビキニ姿を見せてほしいと頼んでいたことを知りました。チャットボットは彼女の投稿に基づいてそのような画像を生成しました。彼女がそのことについて X に問い詰めると、さらに露骨なバージョンが作成されました。 「AIによって生成されたものであるため、自分のものでもない体を恥ずかしく思いました。」
もう一人の被害者はアシュリー・セント・クレアさんで、彼女はマスク氏の子供の母親だと主張している。 X ユーザーのリクエストに応じて、Grok は彼女の写真も加工しました。AI バージョンでは、セントクレアは露出度の高い性的なポーズをとっています。女性は、これはマスク支持者による一種のリベンジポルノであると述べている。
ある画像では、14歳の頃の彼女の写真がそのように加工されていた。 ガーディアン紙によると この画像は X 上で 12 時間以上オンラインにありました。伝えられるところによると、このプラットフォームは、ジャーナリストが同社に回答を求めた後、この画像とセントクレアの他の AI 画像をオフラインにしただけだという。
「子供の頃に使われた写真」
「ひどい気分だった」とセントクレアさんは先週月曜日の新聞のインタビューで語った。 「人々は、服を脱ぐために私の子供の頃の写真を使用しました。服を脱いで前かがみになっている私の写真があり、背景にあるのは私の子供のバックパックであり、彼は現在それを背負っています。」
X: 違法なコンテンツに取り組んでいます
Xはこれに対し、プラットフォーム上で児童虐待の画像を拡散する人々に対して措置を講じていると述べた。マスク最高経営責任者（CEO）は先週月曜日、「違法コンテンツにGrokを使用する者は誰でも、違法コンテンツをアップロードすれば同じ結果に直面するだろう」と述べた。 X上で。何人が逮捕されたかは発表されていない。
X は、コマンド 1 つで、ビキニを着た画像内の任意の人物や物体を表示できることを導入しました。この機能によりディープフェイクが氾濫しました。とりわけフランスでは、司法省が多くの報告書を調査している。現在、ディープフェイクポルノは多くの国で犯罪化されているが、グロク氏のビキニディープフェイクも有罪判決につながるかどうかはまだ分からない。
ビキニのディープフェイクを許可することで、マスク氏は、人工知能で作成できるものに厳しい制限があるOpenAIやGoogleなどの競合他社よりもはるかに先を行っている。 Grok は人物の完全に裸の画像を生成することを許可されていませんが、脱衣に近い状態や性的なポーズを取ることは許可しています。
1767923955
#ビキニディープフェイクと未成年者のAI画像をめぐりXに対する世界的な圧力が高まっている
2026-01-08 21:12:00