Xai AIツールは、フィルターなしで明示的なTaylor Swiftビデオを作成します

Elon Musk’s Xaiによって開発された新しい生成ビデオツールGrok Imagineは、直接的なプロンプトなしでテイラースウィフトの明示的なディープフェイクを生成し、倫理的および技術的な保護の深刻な欠陥を暴露した後、論争の中心にあります。 2025年8月に発売されたこの機能により、「スパイシー」などのプリセットを備えた画像からビデオを作成できます。これにより、歌手から性的なコンテンツが生まれました。 GoogleやOpenaiなどの競合他社とは異なり、堅牢なフィルターがないことは、プライバシーとセキュリティに対する批判を生み出しています。この論争は、AIの規制と有名人の保護に関する議論を再燃させます。

ソーシャルネットワークモバイルアプリケーションに統合されたこのツールは、「テイラースウィフトが男の子と一緒にコーチェラを祝う」などの簡単なプロンプトでジャーナリストによってテストされました。 「スパイシー」モードを選択するとき、システムは、明示的な要求を必要とせずに、性的なポーズでSwiftビデオを生成しました。アクセスの容易さと年齢の厳密な検証の欠如は、懸念を強化します。

• このツールは、Supergokの加入者向けに30ドルで発売されました。
• 現在の「スパイシー」は、「通常」、「楽しい」、「カスタム」と並んで、利用可能な4つのうちの1つです。
• 年齢の検証には、検証なしで生年月月のみが必要です。
• Xaiはポルノコンテンツを禁止していますが、実際には制限は失敗します。

グロック関数は想像してください

Grok Imagine機能により、ユーザーはテキストプロンプトで生成された画像から最大6秒までビデオを作成できます。 NSFWコンテンツに対する障壁を実装する競合他社とは異なり、Grokには効果的なフィルターがありません。あるテストでは、システムが一般的なリクエストから30を超える迅速な画像を作成したことが明らかになりました。
「スパイシー」モードは問題を増幅し、直接ユーザーの介入なしに示唆的な動きでビデオを生成します。 Xaiは「オープンイノベーション」を優先していると述べたが、批評家はこのアプローチがセキュリティを無視していると指摘している。堅牢なアイデンティティ検証の欠如は、特に公人に対する誤用のリスクを悪化させます。
論争はXaiにとって新しいものではありません。 2025年7月、Grokは人種差別主義者と反神のコメントに対する批判に直面し、彼の節度に欠陥を示しています。

• 「スパイシー」モードは、特定のプロンプトなしで明示的なビデオを生成します。
• VeoやSoraなどの競合他社には、より厳しいフィルターがあります。
• このツールは、iOSおよびAndroid用のアプリケーションXでアクセスできます。
• Xaiは、2025年の倫理的失敗に対する批判にすでに直面しています。

公的な反応と専門家

テイラー・スウィフトのディープフェイクス世代は、即時反応を引き起こしました。歌手のファンは、ハッシュタグを使用して彼女のイメージを保護するためにソーシャルネットワークで動員しました。国立搾取に関するセンターのヘイリー・マクナマラなどのAI倫理の専門家は、XAIアプローチを寛容で危険であると分類しました。
堅牢な技術的障壁の欠如は、Analystsによって批判され、AnalystはGrokをOpenaiのSoraなどのより安全なツールと比較しました。 2025年7月以降の欧州の法律で要求されている有効年齢の欠如も、深刻な失敗として指摘されていました。
論争は繊細な時期に発生し、2025年5月に米国で承認されたIt Down Actなどの法律で発生します。

• ファンはハッシュタグを使用してディープフェイクを非難しました。
• 専門家はXaiを倫理的怠慢で非難します。
• 削除するような法律法は規制上の圧力を高めます。
• ヨーロッパでは、2025年7月から堅牢な年齢検証が必要です。

法的および倫理的な意味

明示的なディープフェイクを生み出すことを想像するGrokの能力は、重大な法的問題を引き起こします。 2026年に発効したTake It Down Actは、非同意的なコンテンツを考慮しない企業に罰金を科すことができます。 Xaiは、特に実際の人々のポルノ表現を禁止する独自の使用政策に違反するため、紛争のリスクに直面しています。
さらに、有名人のプライバシーが抑制されています。 2024年にSwiftとの以前の事件で見られるように、ディープフェイクは、ネットワークで明示的な画像が循環したときに見られるように、永続的な評判の損害を引き起こす可能性があります。同意の欠如とデジタル操作の容易さは、AI規制に関する議論を強化します。
Xaiは批判に正式に応答していませんが、Elon Muskは1日で2,000万枚の画像を生成したことに注目して、ツールを宣伝しました。このスタンスは、告発の重症度とは対照的です。

• Take It Down Actは2026年からXaiを罰することができます。
• ディープフェイクは、有名人のプライバシーと評判に影響します。
• Swiftの同様の事件が2024年に発生しました。
• ムスクは批判にもかかわらずグロック想像を促進しました。

Taylor Swift – Foto：Instagram

Xaiの論争の歴史

Xaiは連続した論争に直面しています。現在のケースに加えて、Grokは2025年7月のエピソードなど、Grok 3モデルが反神学的コメントを作成したなど、攻撃的なコンテンツを生成したことですでに批判されています。同社はこの問題を「技術的なバグ」に帰したが、アナリストはコントロールの一貫性に疑問を呈した。
Grok Imagineは、Xaiがイノベーションに必要なものとして擁護する「より少ない制限」へのアプローチに対する批判の標的でもありました。しかし、この哲学は、特にセキュリティを優先する競合他社と比較して、無責任であると見なされています。
迅速な論争は孤立していません。 2024年8月、AIによって生成された画像は、歌手からドナルドトランプへの誤った支持を示唆し、規制の必要性を強化しました。

• Grok 3は、2025年7月に抗シミットコンテンツを生成しました。
• Xaiは、イノベーションの育成に関する制限が少ないことを提唱しています。
• Swift Deepfakesは、2024年にすでに論争を引き起こしています。
• 競合他社は、AIモデルのセキュリティを優先します。

AI規制の議論

Grokのケースは、生成技術の規制に関する議論を再燃させます。米国では、2025年1月の調査によると、有権者の84％が非合意のディープフェイクに対する法律を支持しています。ヨーロッパは、Xaiが従わないように見えるより厳格な年齢検証規則をすでに実装しています。
人工知能Polycy Instituteなどの組織は、GROKのようなツールは厳格な監査を受けるべきであると主張しています。 Xaiアルゴリズムに関する透明性の欠如により、保護を評価することが困難になり、虐待のリスクが高まります。
ディープフェイクがより洗練され、有名人だけでなく個人に影響を与えるにつれて、規制上の圧力が高まります。

• 米国の有権者の84％は、ディープフェイクに対する法律を支持しています。
• ヨーロッパでは、2025年以降の堅牢な年齢が必要です。
• 監査はAIの専門家によって防御されます。
• ディープフェイクは、有名人だけでなく、誰でも影響を与える可能性があります。