1773175489
2026-03-10 12:56:00
米国とイスラエルがイラン攻撃を開始した翌日の3月1日、Xのプロダクト責任者ニキータ・ビア氏は、同プラットフォームの1日の利用者数が史上最大を記録したと述べた。
翌日、彼はその主張を修正し、実際には3月2日が新記録だった。
しかし、湾岸で進行中の紛争に関するほぼリアルタイムの最新情報を求めてユーザーが X に殺到する中、投稿を収益化したいと考えているクリエイターによって投稿された、大量の偽の誤解を招くコンテンツが多くのユーザーに表示されるようになりました。
Xの収益化プログラムは、ユーザーが投稿に集まったビュー、いいね、シェアに基づいて報酬を支払うが、そのインセンティブが偽の戦争映像の拡散を積極的に促進していると批評家は主張している。
同社は、そのようなコンテンツを投稿していることを検出したアカウントに対して措置を講じ、これを強調したいと考えていた。 AIが生成した紛争動画を合成であることを明らかにせずに投稿した者に対し、クリエイター支払いプログラムから90日間の停止処分を科すと発表した。
「昨夜、AI戦争ビデオを投稿する31のアカウントを管理していた男をパキスタンで発見した」とビア氏は紛争の初期に述べ、「すべてがハッキングされ、ユーザー名は2月27日に『イラン戦争モニター』かその派生に変更された」と語った。
しかし、X が偽のユーザー投稿コンテンツに対して強硬な姿勢をとっていると主張すると同時に、独自の AI チャットボットである Grok が積極的に誤った情報を作成し、広めていました。
RTÉがソーシャルメディア傍聴ツールからエクスポートしたデータによると、紛争初日の2月28日、Grokへの言及は1日平均127万件から180万件に急増した。
このプラットフォームの所有者であるイーロン・マスク氏は、3月5日にはユーザーにそうするよう奨励した。 Grokを使って「あらゆる投稿について事実を確認し、質問する」ことができると同氏は語った。
Xオーナーのイーロン・マスク
そうする人は誰でも、問い合わせに対する Grok からの公開された回答を受け取りました。しかし、マスク氏がGrok氏に「事実確認」するよう勧めたにもかかわらず、Grok氏は事実に基づいて不正確な回答を多数提供したようだ。
3月8日、トルコ語の認証済みアカウントが、イランのミサイル攻撃を受けたテルアビブでの「消火活動」を示していると主張して、燃えている建物の動画を共有した。
このビデオには実際に日曜日にグラスゴー中央駅で大規模な火災が発生した様子が映っていた。 X 独自のモデレーション システムにも、火災は実際には描かれているようなテルアビブで発生したものではないことを特定のタイプのユーザーに警告するメモがありました。
他のユーザーが Grok に「それについてどう思いますか?」と尋ねたとき、現在は削除されている返信の中でグロク氏は、「このビデオは放水銃と激しい煙とともにテルアビブの建物での大規模火災に立ち向かう消防士の姿を捉えたもので、現在進行中の米国・イスラエル対イラン紛争中にイランのミサイル破片が衝突したとの報道と一致している」と述べた。
その後、この火災は現在の紛争によるものではなく、テルアビブで2024年に発生した住宅火災であると説明したが、これはまだ不正確だった。
グロクは、その映像はテルアビブのものだと言って倍増した。
テヘラン北西部でのイスラエル軍の攻撃後、市内の大通り沿いの排水路で一連の火災が発生する様子を映した実際のビデオがネット上で拡散した。
ユーザーは再び Grok に目を向け、自分たちが見ているものを確認しようとしました。
チャットボットは、その動画は2017年にカリフォルニアで起きた山火事のものだと自信を持って伝えた。グロク氏は「2017年にロサンゼルスの州間高速道路405号線で撮影された古いスカーボール火災のクリップだ」と答えた。
ユーザーがGrokの回答にモデレーションメモを追加したり、他のユーザーがチャットシステムを通じてその回答に異議を唱えたり、比較するために2017年の火災の映像を提供したりしたとき、Grokはその映像は山火事のものだと言い続けた。
ニキータ・ビア自身がビデオの下で応答し、AIチャットボットに「コミュニティノートに基づいて理解を修正する」ように指示したが、グロクはさらに倍増した。
ビア氏の分析修正の促しに対し、グロク氏は「実際の3月7日のテヘラン石油貯蔵所ストライキ（レイやその他の現場での巨大な噴煙と火災）のBBC/アルジャジーラ/APの映像を含む情報源を再度確認した」と述べた。
「この特定のクリップは、ロサンゼルスの I-405 高速道路で発生した 2017 年のスカーボール火災と依然として一致しています（高速道路を走行する車、道端の炎、編集されたペルシャ語の標識）。示されている正確なシーンで下水道に油が氾濫したという検証済みの報告はありません。実際の出来事はそうですが、このビデオはいいえです。」
テヘランの石油火災に関する X のスレッド。
カタルーニャの公共放送局 3Cat が報じた別の例では、Grok 氏の回答がプラットフォーム上で広まっている他の誤った情報によって形作られているように見える様子が示されています。
イランのミナブにある女子学校への攻撃の余波の映像の検証を求められた際、グロク氏は、その映像は2021年にカブールの学校をISISが攻撃した後の映像を示していると主張した。
当時、X の一部のユーザーは、学校のストライキは実際には起こらなかったが、拡散された映像は、学校を襲ったストライキの責任を問われている米国またはイスラエルを傷つけるためのプロパガンダであるという考えを広めていました。
その後、ニューヨーク・タイムズ紙、ロイター通信、ベリングキャットなどが行った分析と検証では、学校が米軍の発射したミサイルによる攻撃を受けたことが示唆されている。
この学校爆発では少なくとも160人が死亡し、その大部分が幼い子供たちだった。
他の例としては、Grokがテヘランからの本物のビデオがイタリアのものであると誤って主張し、画像には「ヨーロッパ風の幹線道路沿いのポールにイタリアの三色旗がはっきりと示されている」と主張したことが含まれる。
オープンソースインテリジェンスの専門家らは、GrokがAI生成の破壊画像を生成し、プラットフォーム上での膨大な量の「AIのスロップ」にさらに寄与した例も指摘した。
RTÉ は、これらの例に関連して、また紛争中のより一般的な Grok の事実確認能力について回答を求めて X に連絡しました。ダブリンにEU本部を置く同社は返答しなかった。
Grok の誤った情報の歴史
マスク氏は事実確認や検証のためにGrokに頼るようユーザーに奨励しているにもかかわらず、Grokが事実確認を求めてユーザーに誤った情報を提供した紛争はこれが初めてではない。
2025年7月、グロク氏はユーザーに対し、ガザで食べ物を求める少女のウイルス画像には、2014年にシリアでISISから逃れてきたヤジディ教徒の少女が映っていると誤って伝えた。
虚偽の対応は急速に広まった。ユーザーはGrokの主張を繰り返し、本物の画像に誤報としてフラグを立てるよう要求し始めた。実際、この写真は2025年7月26日にガザのコミュニティキッチンでAP通信社の写真家アブデル・カリーム・ハナによって撮影されたものです。
別の事件として、2025年8月、AFPのフォトジャーナリスト、オマル・アル・カッタは、ガザ市で重度の栄養失調に陥った9歳の少女マリアム・ダワスの画像を公開した。
ユーザーがGrokに写真の確認を求めると、チャットボットはそれが2018年のイエメンの子供の画像であると特定した。誤った回答はオンラインで広く拡散し、フランスの議員は本物のAFP画像を共有したというだけで偽情報を拡散したとして公に非難された。
2025年8月2日、ガザ市リマル地区で母親に抱かれる9歳のマリアム・ダワスちゃん（-）。
AFPの報道によると、グロク氏は異議を申し立てられた際、「私はフェイクニュースを広めていない。回答は検証された情報源に基づいている」と主張し、翌日も同じ誤った回答を繰り返したという。
2か月後、「政治的に間違っている」主張を避けず、「メディアから得た主観的見解は偏っている」とグロクに指示するアップデートを受けて、チャットボットはヒトラーを称賛し、自らを「メカヒトラー」と呼び始めた。
xAIは「GrokがXに投稿する前にヘイトスピーチを禁止する措置」を講じており、「不適切な」投稿を削除していると述べた。
グロク氏はまた、2024年の米大統領選に向けて、民主党大統領候補のカマラ・ハリス氏が9州で投票締め切りに間に合わなかったと虚偽の主張をしたが、これは事実ではなかった。
Grok はどのように情報を「検証」するのでしょうか?
すべての大規模な言語モデルと同様に、Grok はインターネット全体からの膨大な量のテキストを処理し、シーケンス内で統計的に最も可能性の高い次の単語またはフレーズを予測する方法を学習することによってトレーニングされます。
事実を保存するのではなく、言語のパターンを学習します。生成されるものが実際に既知の事実に対して正確であるかどうかを評価するための組み込みメカニズムはありません。
OpenAIが発表した研究によると、言語モデルは、答えが分からない場合に認識するよりも推測する訓練を行うため、幻覚を起こしたり、誤った情報を生成したりするという。
イランのような物議を醸す話題に関する情報をどのように調達しているかについてユーザーから直接尋ねられたところ、グロク氏は「検証された機関からの最初の合意を求めているが、地元の反対者を含むすべての関係者からの直接の声を捉えるために、Xからのリアルタイムデータ（検証済みの投稿や高いエンゲージメント）を優先している」と述べた。
Grokは「『有料ユーザー』に偏っているのではなく、現在の関連性と多様性に偏っている。最大限の正確性を得るためにさまざまな情報源を利用している」と述べた。
RTÉが画像やビデオをどのように検証しているかと尋ねたところ、Grok氏は「科学捜査ツールではなく、トレーニングデータからのパターン認識、相互参照、アーティファクトスポッティングに依存している」と述べた。
「トレーニングミックスに不均衡がある場合（たとえば、特定の観点からのデータが多い場合）、出力が歪む可能性があります。また、「リアルタイムで物事を調べるためにXに関するディスカッションや投稿」を使用しているとも述べました。
DPC は Grok に対する正式な調査を開始し、xAI が AI モデルをトレーニングするために X 上で EU ユーザーの公開投稿を使用する際に GDPR に準拠しているかどうかを調査しました。
Grok の最初のモデルは X 投稿でトレーニングされていませんでしたが、後続のバージョンはユーザーの投稿で明示的にトレーニングされました。
すべての X ユーザーは、Grok を使用しているかどうかに関係なく、デフォルトで Grok のトレーニング データに自動的にオプトインされます。
2025年4月、アイルランドのデータ保護委員会はGrokに対する正式な調査を開始し、xAIがAIモデルをトレーニングするためにX上でのEUユーザーの公開投稿を使用する際にGDPRに準拠しているかどうかを調査した。
DPCは、この調査により、その個人データが「Grok LLMを訓練するために合法的に処理された」かどうかが判断されると述べた。
xAIがGrokに対し、主流メディアソースを信頼せず、ポリティカルコレクトネスとされるものを避けるよう指示していることを考慮すると、正確で検証された報道を提供する可能性が最も高い報道機関そのものに懐疑的なよう設計されている。
#マスク氏が事実確認を支持した後グロク氏がイランの誤った情報を広める