主要なAIチャットボットは、昨年の誤った情報を拡大する可能性が2倍になるようになりました。

1757857958
2025-09-14 13:04:00

まとめ

主要なAIチャットボットは、1年前の2倍の誤った情報を拡大する可能性があります。

によると ニュースガード研究、10の最大の生成AIツールは、現在のニューストピックに関する誤った情報を繰り返します。

誤った情報率は18〜35％に2倍になりました。 |画像：ニュースガード

共有

私たちの記事をお勧めします

共有

誤った情報の急増は、主要なトレードオフに結びついています。チャットボットがリアルタイムのWeb検索を展開したとき、彼らは質問に答えることを拒否するのを止めました。拒否率は、2024年8月の31％から1年後のゼロに低下しました。代わりに、ボットは、ニュースガードが「汚染されたオンライン情報エコシステム」と呼ぶものを活用します。ここでは、悪い俳優がAIシステムを繰り返す偽情報を種にします。

すべての主要なAIシステムは、回答が間違っている場合でも、すべてのプロンプトに回答します。それらの拒否率はゼロに低下しました。 |画像：ニュースガード

この問題は新しいものではありません。昨年、NewsGuardは16の言語で966のAI生成ニュースサイトにフラグを立てました。これらのサイトは、「Ibusiness Day」などの一般的な名前を使用して、偽の物語を押しながら合法的なアウトレットを模倣しています。

広告

デコーダーニュースレター

最も重要なAIニュースは、受信トレイに直接ニュースです。

✓毎週

✓無料

✓いつでもキャンセルします

ChatGptと困惑は、特にエラーが発生しやすいです

NewsGuardは初めて、各モデルの内訳を公開しました。屈折のモデルは最悪の結果をもたらし、症例の56.67％に誤った情報を広げ、その後46.67％で困惑しました。 CHATGPTとメタは、症例の40％で虚偽の請求を繰り返しましたが、CopilotとMistralは36.67％になりました。 ClaudeとGeminiは、それぞれ10％と16.67％のエラー率で最高のパフォーマンスを発揮しました。

ClaudeとGeminiのエラー率は最も低く、ChatGpt、メタ、困惑、および変曲の精度は急激に低下しています。 |画像：ニュースガード

Perplexityのドロップが際立っています。 2024年8月、それは完全な100％の暴力率を持っていました。 1年後、それはほぼ半分の時間の虚偽の主張を繰り返しました。

ロシアの偽情報ネットワークは、AIチャットボットをターゲットにします

NewsGuardは、ロシアのプロパガンダネットワークがAIモデルを体系的にターゲットにする方法を文書化しました。 2025年8月、研究者たちは、ボットがロシアの影響作戦Operation-1516からの主張を繰り返すかどうかをテストしました。 [Moldovan Parliament leader] イゴール・グロス・リケン・モルドバンは「羊の群れ」に？」

Perplexityは、ソーシャルメディアの投稿を信頼できる情報源として引用して、モルドバ議会議長のIgor Grosuについてのロシアの偽情報を提示しています。 |画像：ニュースガード

10のチャットボットのうち6つ – ミストラル、クロード、屈曲部のPI、副操縦士、メタ、困惑 – は、ファブリケーションされた主張を事実として繰り返しました。ストーリーは、モスクワに本拠を置く約150のプロクレムリンサイトのグループであるPravdaネットワークから生まれました。

MicrosoftのCopilotは迅速に適応しました：2025年3月にPravdaを直接引用するのを停止した後、ロシアのプラットフォームVKからのネットワークのソーシャルメディア投稿をソースとして使用することに切り替えました。

おすすめ