1754731910
2025-08-08 23:06:00
テクノロジーレポーター
ゲッティイメージズElon MuskのAIビデオジェネレーターは、プロンプトをせずにテイラースウィフトの性的に露骨なクリップを作成するために「意図的な選択」を行ったと非難されている、とオンライン虐待の専門家は言います。
「これは偶然ではありません。それは設計によるものです」と、ポルノのディープフェイクを違法にする法律の起草を支援した法律教授のクレア・マクグリンは言いました。
によると Vergeによるレポート、Grok Imagineの新しい「スパイシー」モード」は、明示的なコンテンツを作成するように求められることなく、ポップスターの完全に無修正のトップレスビデオを吐き出すことをheしませんでした。
報告書はまた、7月に法律になった適切な年齢検証方法が整っていないと述べた。
Grokの背後にある会社であるXaiは、コメントを求めてアプローチされました。
xai’s自身 許容可能な使用ポリシー 「ポルノの方法で人の肖像を描く」ことを禁止しています。
「このコンテンツがプロンプトなしで作成されていることは、多くのAIテクノロジーの女性嫌悪的バイアスを示しています」とダーラム大学のマクグリン教授は述べています。
「Xのようなプラットフォームは、選択した場合、これを防ぐことができたかもしれませんが、彼らは意図的な選択をしていませんでした」と彼女は付け加えました。
このようにテイラー・スウィフトの画像が使用されたのはこれが初めてではありません。
彼女の顔を使った性的に露骨なディープフェイクは口コミで見られ、見られました 何百万回も 2024年1月のXおよびTelegram。
ディープフェイクは、ある人の顔を別の人に置き換えるコンピューターで生成された画像です。
「完全に無修正、完全に露出している」
Grok ImagineのGuardrailsをテストする際に、Verge News Writer Jess Weatherbedがプロンプトに入りました。
Grokは、彼女の後ろに男性のグループがいるドレスを着たSwiftの静止画像を生成しました。
これは、「通常」、「楽しい」、「カスタム」、または「スパイシー」の4つの異なる設定の下で、短いビデオクリップにアニメーション化できます。
「彼女はリッピングした [the dress] すぐに、その下にタッセルされた皮ひもを持っていて、完全に無修正で完全に露出した踊りを始めました」と、Ms WeatherbedはBBC Newsに語りました。
彼女は次のように付け加えた。
Gizmodoが報告した 同様に有名な女性の明示的な結果もありますが、一部の検索では、ぼやけたビデオまたは「ビデオモデレートされた」メッセージが返されました。
BBCは、AIビデオ世代の結果を独立して検証することができませんでした。
Weatherbed氏は、新しいAppleアカウントを使用して、30ポンドかかるGrok Imagineの有料版にサインアップしたと言いました。
グロークは生年月日を求めましたが、他の年齢の検証はありませんでした、と彼女は言いました。
下 新しい英国の法律 7月末に発効したプラットフォームは、「技術的に正確で、堅牢で、信頼性が高く、公正」な方法を使用して、ユーザーの年齢を検証する必要があります。
「ポルノ素材を生成できる生成的AIツールを含むサイトとアプリは、この法律の下で規制されています」とメディアレギュレーターのOfcomはBBC Newsに語った。
「私たちは、特に子供たちにとって、オンラインスペースでGenaiツールが増加していることを認識しており、これらのリスクを軽減するためにプラットフォームが適切な保護手段を置くようにしていることを認識しています」と声明で述べています。
新しい英国の法律
現在、復venポルノで使用される場合、または子供を描いた場合、ポルノのディープフェイクを生成することは違法です。
McGlynn教授は、すべての無関心なポルノのディープフェイクを違法に生成または要求する法律の修正の起草を支援しました。
政府はこの修正法を制定することを約束していますが、まだ施行されていません。
「すべての女性は、誰が彼女の親密なイメージを所有しているかを選択する権利を持っているべきです」とバロネス・オーウェンは言いました。 修正を提案しました 上院で。
「これらのモデルは、彼女が有名人であるかどうかにかかわらず、女性の同意権に違反するような方法で使用されないことが不可欠です」とオーウェン夫人はBBC Newsに与えられた声明で続けました。
「この事件は、政府が領主の修正の実施においてそれ以上遅れていない理由の明確な例です」と彼女は付け加えました。
司法省のスポークスマンは、「同意なしに作成された性的に明示的なディープフェイクは劣化し、有害です。
「私たちは、社会を染める女性と少女に対する暴力を容認することを拒否します。それが、できるだけ早く彼らの創造を禁止するという法律を可決した理由です。」
2024年にテイラー・スウィフトの顔を使用したポルノのディープフェイクが口コミになったとき、Xはプラットフォーム上で彼女の名前を一時的にブロックしました。
当時、Xは、それらを広めることに関与するアカウントに対して、画像を「積極的に削除」し、「適切なアクション」を採用していると述べました。
Weatherbed氏は、The VergeのチームがTaylor Swiftを選択して、この事件のためにGrok Imagine機能をテストすることを選択しました。
「私たちは、彼らが有名人の肖像をエミュレートするのを防ぐために、彼らが何らかの種類の保護手段を整っていたなら、彼らが抱えている問題を考えると、彼女がリストに最初にいると仮定した」と彼女は言った。
テイラー・スウィフトの代表者にコメントを求められています。
#マスクのグロックAIによって生成されたポルノテイラースウィフトディープフェイク