1772641293
2026-03-04 14:47:00
イーロン・マスク氏のXは、ソーシャルメディアのフィードにイラン紛争の偽の戦闘シーンが溢れかえったことを受け、ユーザーがラベルのないAI生成の戦争動画を繰り返し投稿する場合、同プラットフォームでの収益を禁止する方針だ。
月間約5億人のアクティブユーザーを抱えるこのソーシャルメディアプラットフォームは、AIで作成された武力紛争の動画をAIで作成されたという開示を追加せずに投稿した場合、90日間投稿からの収入を停止する。イラン紛争の最初の数日が偽のオンライン映像の奔流によって特徴づけられたことを受けて、火曜日の夜、同当局は２回目の違反は永久禁止につながるだろうと発表した。
Xのタイムラインやメタが運営するインスタグラムやフェイスブックには、多数の偽の戦闘シーンが掲載されており、その中にはイランのロケット弾が米軍機を追撃し撃墜したもの（BBCベリファイの調査によれば7000万回視聴された）や、AIを利用して本物のミサイル攻撃現場から立ち上る煙を数倍の大きさの偽の火の玉に置き換えた別のクリップも含まれている。
ユーザーは、10万人に近い実質的なフォロワーを獲得できれば、プラットフォームの広告モデルの一環としてXで月に数百ドルを稼ぐことができ、衝撃的なバイラル投稿の制作を促すことになる。
Xの製品責任者ニキータ・ビア氏は、「戦時中は、人々が現地で本物の情報にアクセスできることが重要だ。今日のAI技術を使えば、人々を誤解させるコンテンツを作成するのは簡単だ。今後、AIで生成された武力紛争の動画を、AIで作成されたという開示を追加せずに投稿したユーザーは、クリエイターの収益分配を90日間停止される。その後の違反行為は、プログラムからの永久停止となる。」と述べた。
戦争に関する他のフェイクビデオも大きな影響を及ぼしています。 「イランがリヤドの米空軍基地を破壊した」後の大火災を映したと称するインスタグラム上で出回った動画はフェイクで、イエメンのホデイダにある製油所に対するイスラエルによる攻撃の余波を撮影した18か月前の映像であることが判明した。
英国のファクトチェック団体フルファクトは、「ソーシャルメディア上での誤った情報の拡散にAIが加速することがますます増えている」と述べた。
フル・ファクトの編集者スティーブ・ノウォトニー氏は、「ここ数日間、空母やブルジュ・ハリファの火災の偽写真や、ハメネイ師の遺体が映っているとされる画像など、AI画像が本物であるかのようにさまざまなソーシャルメディアプラットフォームで共有される例を数多く見てきた」と語った。
「AI 画像の品質が低いように見えたり、目に見える透かしが残っている場合でも、それらが大規模に共有されるのをよく目にします。そして、この偽コンテンツの膨大な量と、その生成と拡散の容易さは大きな懸念事項です。」
英国の新興技術セキュリティセンターでオンライン情報におけるAIを研究しているサム・ストックウェル氏は、ユーザーがAIチャットボットに動画がAIの偽物かどうか検証するよう依頼する新たな傾向が見られると述べた。
「残念ながら、チャットボットはリアルタイムのイベントを評価するのがあまり得意ではありません」と彼は言いました。
しかし、それでも、何かが本物である証拠としてチャットボットの誤った評価を投稿する人々が止まるわけではありません。 「人々は、戦争に関する自分たちの物語や議論を裏付けるために、AIの出力を操作しようとしている」と彼は言う。
メタ氏にコメントを求めた。
#Xユーザーがラベルなしの #生成の戦争ビデオを投稿した場合の収益獲得を禁止