国防総省の爆発ツイートはデマだった。 それでも、それは急速に広まりました。

全体として、このデマ（一部のソーシャルメディアユーザーを騙すためにAIが生成した一連の画像の最新のもの）は、直接的な被害をほとんど与えていないようだ。 Twitterはその後、実際のブルームバーグメディア組織とは関係のないブルームバーグフィードアカウントを停止し、約20分以内に地元当局がこの報道の誤りを暴いた。

国防総省があるバージニア州アーリントンの消防署の隊長ネイト・ハイナー氏は、「画像自体を見ただけでは、あれは国防総省ではない」と語った。 「あの建物が何なのか分かりません。 アーリントンにはそのような建物はありません。」

しかし、大規模なプロパガンダアカウントによる画像の増幅から株式市場のほぼ瞬時の反応に至るまで、関与するメカニズムは、AIツールがソーシャルメディアの管理、ニュース執筆、株取引などの分野に進出し続ければ、こうした悪戯がさらに起こる可能性を示唆している。 。

そして、新オーナーのイーロン・マスク氏が人間の労働力を削減し、ウイルスの傾向を事実確認していたチームを解雇し、アカウント認証を手動の認証プロセスから大部分が自動化され有料のプロセスに変更したため、Twitterがその媒介となる可能性はますます高まっている。 -遊ぶため。 署名の青いバッジは、かつては公人、大組織、有名人、その他なりすましの危険にさらされている人々に対する権威を示していました。 現在、Twitter は月額 8 ドルを支払い、電話番号を確認する意思のある人にこの特典を授与します。

ツイッター社はコメントの要請に応じなかった。

AI が人間の何百万もの仕事に影響を与えると専門家が予測しているため、AI が生成する誤った情報が人々を誤解させるかどうかだけでなく、他の自動化システムにも誤解を与えるのではないかという懸念が高まっています。

「これは、それ自体 AI の問題ではありません」と、スタンフォード インターネット観測所の研究マネージャーであり、誤った情報がどのように流通するかについての専門家であるレネー ディレスタ氏は述べています。 「Photoshop の経験がある人であれば、あの画像を作成できたはずです。皮肉なことに、おそらくもっとうまくできたはずです。 しかし、これは、高解像度の非現実を作り出す能力が誰にでも利用できるようになったのと同じように、Twitter 上のニュース速報に関する情報が信頼できるかどうかを人々が判断するのに役立つシグナルがどのように役に立たなくなったかを明らかにするものです。」

認証済みアカウントがニュースを広める

偽の出来事について最初に投稿したアカウントの 1 つは、OSINTdefender という認証済みアカウントで、午前 10 時 4 分に爆発の報告と偽の画像を 336,000 人のフォロワーにツイートしました。写真の建物は、実際の建物とはほとんど似ていません。ペンタゴンですが、AI によって生成されたという特徴がいくつかあります。 ツイートは削除されました。

OSINTDefenderアカウントの所有者はTwitter経由で、数分前にソーシャルプラットフォームDiscord上で「ウォルター・ブルームバーグ」というハンドルネームのユーザーからこの報告を初めて聞いたと語った。 彼らによると、この画像はアーリントンで働いていると主張する人物のフェイスブックページ（現在は削除されている）からのものだという。

次の数分以内に、他の大規模アカウントも同様の文言を投稿しました 両方のプラットフォームで同じハンドル名を使用しているウォルター・ブルームバーグを含む、Twitterでの虚偽報告。 午前10時6分の彼のツイートは少なくとも73万回の再生回数を獲得した。

それを再共有したアカウントの多くは、金融ニュースの収集者を装っています。 ハンドル名が @financialjuice で、「Breaking Market News」という名前の 386,000 人のフォロワーを持つアカウントと、本物の Bloomberg とは無関係の「Bloomberg Feed」という名前の別のアカウントです。

一部のアカウントには青色の「認証済み」チェックマークが付いていましたが、真実を共有している正当な組織にはチェックマークが付いていませんでした。 の公式アカウントです。 国防総省軍保護局国防総省を監視する組織は青色のチェックマークの代金を支払っておらず、Twitterも認証された機関であることを示す灰色のチェックマークを与えていない。 同庁は、午前10時27分に「爆発はなかった」とする地元法執行機関のメッセージをリツイートした。 の つぶやき 午後4時の時点で再生回数はわずか78,000件

地方自治体が慌てる

北バージニア署の緊急通信を担当するアーリントン消防署のハイナー消防長は、ツイッター上の報道が偽りだと気づくのに約５分かかったと語った。

午前10時10分、最初の電話を受けたとき、ハイナー氏は会議中だった。 彼は調査するために会議から退出した。

最初に何かが起こった兆候はありましたか？ 同氏は、同省の緊急ソフトウェア「First Due」からの警報を受け取っていなかった。このソフトウェアは出動を監視し、火災などの重大な事件に対して初期対応者が出動するとプッシュ通知を送信するものだ。

次に、彼はモバイル データ端末 (基本的にはアーリントンで発生したすべての 911 事件をリストするラップトップ) をチェックしましたが、国防総省の近くで何かが起こっている兆候は見つかりませんでした。

「医療通報も火災通報も事件も何もなかった」と彼は語った。

そのとき、彼はついに自分自身でソーシャルメディアを立ち上げ、Twitterで目撃者のアカウントが見つかることを期待した。 しかし、またしても何もありませんでした。 彼が見たのは加工された爆発の写真だけだった。

偽の AI 画像を見分ける 5 つの方法 — そして、偽の AI 画像について慌てる必要がない理由。

その時点で、彼は国防総省と国防総省の報道官に連絡を取った。 午前10時27分までに、同氏はアーリントン火災のツイッターアカウントに、報道は虚偽であると投稿した。

ツイートには「国防総省の居留地またはその近くで爆​​発や事件は起きていない」「公衆に対する差し迫った危険や危険はない」と書かれている。

ハイナー氏は、近所で消防車を見たアーリントンの住民から奇妙な問い合わせを受けたり、スキャナーのトラフィックに基づく誤った電話を受けたりすることがあると語った。 しかし、「100パーセント不正確な緊急事態がソーシャルメディアで報告されたとき」はもう思い出せない、と同氏は語った。

古い問題に対する新しいひねり

ハリケーン サンディの最中に高速道路で撮影されたサメのフォトショップ画像から、有名人の死亡に関する誤った報道まで、Twitter 上で拡散する嘘は何も目新しいものではありません。 フェイクニュース記事を作成できる ChatGPT などのチャットボットから、Midjourney や Stable Diffusion などの AI アート ツールに至るまで、生成 AI ツールは、詐欺師のキットの最新ツールにすぎません。 これらはここ数カ月、ドナルド・トランプ氏が逮捕される様子を映したものや、ファッションステートメントをするフランシスコ教皇を描いたものなど、他のウイルス画像を作成するために使用されてきた。

ほとんどの場合、主流メディアは誤った情報をうまく反論し、世界は以前と同じように進んでいます。 それでも、程度の差こそあれ、一部のデマは混乱を引き起こしています。 2013年、ある事件に関する偽のツイートがあった。 ホワイトハウスへの攻撃 金融市場の急落が始まった。

時間が経つにつれて、ソーシャルメディアユーザーとニュースメディアは、特に未確認の情報源からのウイルスレポートに懐疑的な目を向けるようになりました。 しかし、Twitterの新しい認証システムは、かつてはアカウントに対するわずかな権限を伝える視覚的なショートカットだった青いチェックマークがその機能を果たさなくなったことを意味する。

フェイク画像や偽情報を研究している人権団体ウィットネスの事務局長サム・グレゴリー氏は、月曜日にツイートされた国防総省の爆発画像には、視覚的な欠陥や国防総省の不正確な表示など、偽物の複数の特徴があると述べた。 グレゴリー氏によると、こうした偽物の課題は、インターネット上での拡散速度にあるという。

「これらは急速に流通しており、組織レベルで事実確認や誤りの暴き、検証を行う能力は遅くなり、同じ人々に届きません」と同氏は述べた。

一部の人にとってこの画像は明らかに偽物かもしれないが、権威ある主張に添付されていたという事実により、注目を集める可能性が非常に高くなったとグレゴリー氏は付け加えた。

「人々がこのような浅薄なフェイクにさらされる方法では、注目を集めるために、何かが他のものとまったく同じように見える必要はありません」と彼は言う。 「人々は、見た目は正確ではないが、正しいと感じられるものをすぐに受け入れ、共有します。」

なぜ偽物が共有されたのかについては不明だ。 政治的なポイントを獲得するために共有された偽物もあれば、荒らしやアカウントが収益化を望む視聴者を構築するために使用された偽物もあります。

「彼らは悪意を持ってやっている場合もあれば、単に多くの再生回数を稼ぐためにやっている場合もあります」と彼は言う。 「これにより、すぐに多くの聴衆を獲得できます。これは強力な麻薬です。」

アーリントン郡理事会のクリスチャン・ドーシー委員長（民主党）は、AIによりもっともらしい偽情報が迅速に生成されやすくなっているため、アーリントン市のような地方自治体は誤情報への対応がますます厳しい課題に直面していると述べた。 同氏は、当局は住民に対し、「適当なツイッターハンドル」ではなく、ツイッターで地方自治体をフォローし、信頼できる情報を求めるよう住民を誘導しようとしていると述べた。 アーリントン郡とその警察、消防/救急部門はすべて、Twitter 上の「シルバーチェック」で認証されており、政府が運営するアカウントであることが示されています。

しかし、それだけでは十分ではない可能性があることを彼は認識しています。

「私たちのフォロワー数は、最も人気のあるソーシャルメディアアカウントのいくつかと比較すると見劣りします。 それほど深く浸透しないというリスクが常にあります」とドーシー氏は語った。 しかし、「これらのプラットフォームが最良の真実の情報のみを確実に伝えるという特効薬がない限り、それが私たちにできる最善のことだと思います。」

Jeremy Merrill と Faiz Si​​ddiqui がこのレポートに貢献しました。