どうやら陰謀論はAIチャットボットには敵わないようだ

今週の大統領選討論会では、おそらく多くの誤報や陰謀説を聞いたことでしょう。

実際、記者やファクトチェッカーは、共和党の大統領候補ドナルド・トランプと副大統領候補のオハイオ州上院議員JD・ヴァンスが奇怪に主張しているように、オハイオ州のハイチ移民がペットを食べているかどうかを具体的に調べるために残業していた。どちらもその主張を証明する証拠を提示しておらず、 地元当局はそれは事実ではないと言っているそれでも、虚偽の申し立ては インターネット上で。

専門家たちは陰謀論がどれほど急速に広がるかについて長い間懸念しており、一部の研究では、人々はそうした信念に反する事実によって説得されることはないと示唆している。

しかし、 今日発表された新しい研究 科学 適切な状況下では多くの人が陰謀論を捨てることができるだろう、そして捨てるだろうという希望を与えている。

この場合、研究者は生成型チャットボットとの会話が 人工知能 9月11日の攻撃はアメリカ政府によって仕組まれたものであり、COVID-19ウイルスは「世界のエリート」が「大衆を支配する」ために人為的に仕掛けたものだといった、一般的な陰謀説を信じる人々とうまく関わることができた。

研究に参加した2,190人は、OpenAIのGPT-4 Turboを使って、自分が選んだ陰謀論1つについて、何度も会話を交わした。このモデルは、インターネットや認可された情報源からの大量のデータで訓練されていた。

参加者の話し合いの後、研究者たちは陰謀論を信じる人が 20 パーセント減少したことを発見しました。言い換えれば、参加者の 4 分の 1 が話し合った陰謀論に固執しなくなったということです。この減少は、チャットボットとのやり取りから 2 か月後も持続しました。

研究の共著者であるデビッド・ランド氏は、その見通しに対する悲観論にもかかわらず、人々の考えは事実によって変えられることを研究結果は示していると述べた。

「事実と証拠は多くの人にとってかなりの程度重要です。」

「証拠は死んではいない」とランド氏はマッシャブルに語った。「事実と証拠は多くの人にとってかなりの程度重要なのだ。」

MITで経営科学と脳・認知科学の教授を務めるランド氏と共著者らは、研究参加者がチャットボットと話した後、親友や兄弟など実生活で知っている人と話した後よりも考えを変える可能性が高いかどうかについてはテストしなかった。しかし、彼らは、チャットボットの成功は、応答として正確な事実と証拠をいかに素早くまとめられるかに関係していると考えている。

研究に含まれる会話のサンプルでは、9月11日の攻撃が仕組まれたものだと考える参加者が、爆発に頼らずにツインタワーが崩壊した経緯や、その他の一般的な関連陰謀説について、チャットボットから徹底的な科学的説明を受ける。当初、参加者は陰謀説に100％確信を持っていたが、最後にはその確信は40％に落ちた。

陰謀論を信じる人とその説を議論しようとしたことがある人なら、ランド氏が「奇妙で難解な事実とリンク」と表現した、反証するのが非常に難しい内容の矢継ぎ早のやり取りを経験したことがあるだろう。しかし、生成型 AI チャットボットにはそのような問題はない。事実に基づく情報を瞬時に返答できるからだ。

また、AI チャットボットは、長年にわたる兄弟間の対立や機能不全の友情が、陰謀論者が反対情報を提供する人物をどう見るかといった個人的な関係の力学によって妨げられることもありません。一般的に、チャットボットは参加者に対して礼儀正しく、彼らの好奇心や混乱を認めることで彼らとの信頼関係を築くように訓練されています。

研究者らは参加者に人工知能への信頼についても質問した。参加者がAIを信頼するほど、会話に応じて陰謀論の信念を保留する可能性が高いことがわかった。しかし、AIに懐疑的な人々でさえ、考えを変えることは可能だった。

重要なのは、研究者がプロのファクトチェッカーを雇ってチャットボットの主張を評価し、それが虚偽の情報を共有したり、事実を捏造したりしていないことを確認したことだ。ファクトチェッカーは、ほぼすべての主張を真実と評価し、虚偽であると評価したものはなかった。

今のところ、研究者の研究に興味がある人は、 デバンクボットユーザーは AI に対して自分の信念をテストすることができます。

ランド氏と共著者は、プラットフォーム上で広まっている陰謀論に対抗する手段として、チャットボットがソーシャルメディアアカウントに接続される未来を思い描いている。あるいは、陰謀に関する特定の検索語に結び付けられたキーワード広告のおかげで、人々がネットで広まっている噂やデマに関する情報を検索しているときにチャットボットを見つけるかもしれない。

ランド氏は、彼と共著者らが再現したこの研究の成功は、AIがいかにして良いことに活用できるかを示す例を示していると述べた。

それでも、悪意のある人物がこの技術を利用して、特定の陰謀説を裏付けるチャットボットを構築する可能性については、彼は軽視していない。例えば、虚偽の主張を含むソーシャルメディアの投稿で訓練されたチャットボットを想像してみてほしい。

「基本的に、これがどのように終わるかはまだ分からない」とランド氏は言う。「人々が主に、精度を上げるために多大な努力を払っている企業が提供する基礎モデルを使用するのであれば、これが広く役立ち、信頼されるツールになる可能性は十分にある」