1706178231
2023-05-23 07:00:00
これは、AIが生成した画像が株式市場を動かすほどの混乱を引き起こした初めての事例となる可能性がある。
国防総省の隣で爆発が起きた偽画像がソーシャルメディアで拡散し、月曜日の米国株式市場の一時的な下落を引き起こした。
今度は誤りであることが判明した画像には、米国国防総省本部の横に立ち上る煙が映っていた。 専門家らは、これは人工知能（AI）によって生成された特徴があり、この技術が誤った情報の面でもたらす脅威を示していると述べている。
この画像は、「認証済み」の青いチェックマークが付いた多くのツイッターアカウントによって共有されており、その中には「@BloombergFeed」と呼ばれるブルームバーグ通信社になりすましたアカウントも含まれており、現在このアカウントは停止されている。
その後、このフェイクニュースは、ロシアの国営ニュースネットワークRTを含む他の数十のTwitterアカウントによって拡散された。RTはEUではブロックされているが、プラットフォーム上に300万人以上のフォロワーがいる。
偽の画像をツイートしたアカウントの多くは陰謀やロシアのウクライナ戦争に関係しているようで、青いチェックマークが付いた仮想通貨アカウントも多数あった。
そのうちの 1 つである「WhaleChart」は、「速報: ペンタゴン付近で爆発」というテキストとともに画像をツイートしました。 そのツイートは50万回以上閲覧されています。
このフェイクニュースはアーリントン郡消防局によって反論され、同署は次のように述べた。「国防総省防衛局とACFDは、国防総省近くでの爆発に関するソーシャルメディアの報告がオンライン上で広まっていることを認識している。 国防総省の居留地またはその近くで爆発や事件は起こっておらず、公衆に対する差し迫った危険や危険もありません。」
しかし、米国の複数の報道機関は、画像がツイッター上で拡散し始めた直後にウォール街の株価が著しく下がったと指摘した。 本物のブルームバーグは、これを「おそらくAIが生成した画像が市場を動かした最初の例」とさえ呼んだ。
この事件により、AIツールがフェイクニュースを広め、社会を不安定化し、さらには選挙前の有権者を動揺させるために悪用される可能性についての懸念が高まっている。
Twitterブルーチェックカオス
Twitterは、昨年10月に同社を440億ドル（408億ユーロ）で買収したイーロン・マスク氏のリーダーシップの下、物議を醸す認証システムの変更を開始した。
以前は、著名な専門家、有名人、ジャーナリスト、または組織であるため、注目に値するとみなされたアカウントは身元確認で確認できました。
新しいポリシーでは、誰でも料金を支払えば青色の認証チェックマークを取得でき、身分証明書を提示する必要はありません。
この変更により、プラットフォーム上でなりすましが蔓延する可能性があるとの警告が出され、その数は大幅に増加しました。
マスク氏は、自身のリーダーシップの下、広告収入の大幅な減少と同社に対して起こされた多数の訴訟を受けて、同社の価値は現在、購入価格の半分以下になっていると述べた。
Twitterは電子メールでのコメント要請にうんちの絵文字で返答した。
「瓶から出てきた魔神」
この偽画像は、生成 AI とそれがもたらす可能性のある潜在的な危険性を巡る懸念が続く中で拡散されました。
5月17日に発表されたロイター/イプソスの世論調査によると、アメリカ人の3分の2以上がAIの悪影響を懸念しており、61％がAIが文明を脅かす可能性があると考えている。
OpenAIのサム・アルトマン最高経営責任者（CEO）は先週、公聴会で政治家らにAIの規制システムを考案するよう奨励し、その中で上院議員のコリー・ブッカー氏は「この魔神を瓶に詰める方法はない。世界的に見て、これは問題だ」と述べた。爆発する」。
広告欧州連合は現在、このテクノロジーを規制するための独自の AI 法の起草を進めています。
#Twitterで共有された国防総省の爆発の偽画像がどのようにしてウォール街の実質的な落ち込みを引き起こしたのか