AIは人々を陰謀論の罠から救うことができる

だいたい アメリカ人の半分 購読する ある種の陰謀論、そして彼らの仲間の人間たち あまり成功していない 彼らを説得する ウサギの穴から抜け出して。

おそらく彼らは、 AI搭載チャットボット。

一連の実験で、人工チャットボットは人々の4分の1以上に、彼らが最も大切にしている陰謀論に対する不信感を抱かせることに成功した。会話の平均時間は8分半未満だった。

の 結果 木曜日にサイエンス誌に報告された。

事実が人々を納得させることができなかった 本当に月に着陸したアルカイダが本当に 9/11攻撃の責任者そしてバイデン大統領は本当に 2020年の選挙に勝つ、とりわけ、 ポスト真実の時代 客観的な証拠よりも個人的な信念を優先する。

「陰謀論を信じる人は、考えを変えることはほとんどない」と研究リーダーは述べた。 トーマス・コステロ、アメリカン大学の心理学者で、政治的・社会的信念を調査している。「ある意味、エントロピーとカオスが支配していると信じることよりも、すべてをコントロールしている秘密結社があると信じるほうが気分がいいのです。」

しかし、この研究は、問題は事実の説得力にあるのではなく、誰かの懐疑的な理由に対抗するために、正しい事実の組み合わせをまとめることができないということにあると示唆している。

コステロ氏と彼の同僚は、チャットボットの成功の要因として 詳細かつカスタマイズされた引数 同社は、調査に参加した2,190人の参加者それぞれのために準備しました。

たとえば、ジェット燃料は鋼鉄を溶かすほど高温で燃えないため、ツインタワーが飛行機によって倒壊した可能性を疑っていた人は、燃料の温度が1,832度にも達し、鋼鉄が構造的完全性を失って崩壊を引き起こすのに十分な温度であることを知らされた。

リー・ハーヴェイ・オズワルドがジョン・F・ケネディ大統領を暗殺する技術を持っていたとは信じていなかった人物に、オズワルドは海兵隊の狙撃手であり、約90ヤード離れたところから正確に射撃するのはそれほど難しくなかっただろうと伝えられた。

また、ダイアナ妃が殺害されたのはチャールズ皇太子が再婚するためだと考えていた人物は、ダイアナ妃の致命的な自動車事故と将来の国王の二度目の結婚式の間に8年間の空白があったことを思い出し、この2つの出来事が関連しているという主張を弱めた。

研究結果は、「人々が持つ、十分な証拠に基づかないあらゆる種類の信念は、変えられる可能性がある」ことを示唆していると、研究の共著者は述べた。 ゴードン・ペニークックコーネル大学の認知心理学者。

「証拠が重要であることを知ることは、本当に価値があることだ」と彼は語った。

研究者らはまず、COVID-19の原因ウイルスは中国政府によって作成された、米軍はニューメキシコ州ロズウェルへのUFO着陸の証拠を隠している、といった15の一般的な陰謀説をどの程度信じているかをアメリカ人に評価するよう依頼した。無関係なタスクを実行した後、参加者は特に説得力があると思った陰謀説について説明し、なぜそれを信じるのかを説明するよう依頼された。

この要請により、72%の被験者が陰謀論についての意見を述べた。このグループのうち60%がランダムに割り当てられた。大規模言語モデルを用いて議論した。 GPT-4 ターボ。

会話は、チャットボットが人間の陰謀論の説明を要約することから始まりました。その後、人間はその要約にどの程度同意するかを 0 から 100 のスケールで評価しました。

そこから、チャットボットは、怪しいことは何も起こっていないと主張し始めた。説得力を高めるために事実を歪曲していないことを確認するために、研究者はプロのファクトチェッカーを雇い、さまざまな陰謀に関するボットの主張128件を評価した。1件は誤解を招くと判断され、残りは真実だった。

ボットは魅力も発揮した。あるケースでは、ボットは参加者が「歴史的出来事を批判的に検証した」ことを称賛しながら、「理論的に可能なことと証拠によって裏付けられていることを区別することが非常に重要だ」と注意を促した。

各会話には、チャットボットからの証拠が3回提示され、その後に人間からの応答が続きます。（自分で試すことができます。 ここその後、参加者は要約された陰謀論の声明を再度見直した。彼らの同意度は平均で 21% 低下した。

27％のケースでは、その減少は研究者が「陰謀論を信じているかどうか確信が持てなくなった」と述べるほど大きかった。

一方、対照群として参加した40%の参加者も、自分の好みの陰謀論の要約を受け取り、0～100のスケールで採点した。その後、米国の医療制度や猫と犬の相対的な優劣など、中立的な話題についてチャットボットと話した。これらの参加者に陰謀論の要約を再考するよう依頼したところ、平均でわずか1%しか評価が下がらなかった。

研究者たちは、効果が消えたかどうかを確認するために、10日後と2か月後に被験者を診察した。消えてはいなかった。

研究チームは別のグループで実験を繰り返し、人々に陰謀論の信念についてより遠回しに尋ねた。今回は、彼らが選んだ理論についてボットと話し合った結果、評価が19.4%低下したのに対し、他のことについて話し合った人々の評価は2.9%低下した。

会話は「人々の考えを根本的に変えました」と共著者は言う。 デビッド・ランドMIT の計算社会科学者で、人々がどのように意思決定を行うかを研究している。

「どの陰謀が挙げられ、議論されたかによって効果は大きく変わらなかった」とランド氏は言う。「JFK暗殺や月面着陸の偽情報のような古典的な陰謀には効果があった。 イルミナティ、そのようなもの。そして、2020年の選挙詐欺やCOVID-19を含むような、現代のより政治的な陰謀にも有効でした。」

さらに、AI チャットボットから 1 つの陰謀論について質問されたことで、人々は他の陰謀論に対してより懐疑的になった。会話の後、15 の一般的な陰謀論に対する彼らの親近感は、対照群の人々よりも大幅に低下した。

「このことは、人々が陰謀論をあまり信じないようにしている」とランド氏は言う。「また、陰謀をシェアするソーシャルメディアのアカウントを無視したりブロックしたり、あるいは、そうした陰謀論を唱える人々と議論したりするといった行動をとる人々の意図も高まった」

もう一つの心強い兆候は、ボットがCIAの秘密工作のような実際に真実である陰謀を信じないように説得できなかったことだ。 MK-ウルトラ 薬物、拷問、洗脳が尋問を強化するかどうかを無知な被験者を使ってテストするプロジェクト。チャットボットの議論によって、人々がこれらの陰謀論をさらに信じるようになったケースもあった。

「それはマインドコントロールのようなものではなく、人々に自分のしたいことを何でもさせるだけのものでした」とランド氏は語った。「本質的には事実に従うことでした。」

この研究に参加していない研究者らは、これは歓迎すべき進歩だと述べた。

で エッセイ 研究に付随する心理学者 ベンス・バゴ オランダのティルベルグ大学の認知心理学者 ジャン＝フランソワ・ボヌフォン フランスのトゥールーズ経済大学の研究者は、この実験は「誤った信念を再調整するための拡張可能な介入が実現可能かもしれない」ことを示していると述べた。

しかし彼らは、AI ボットが参考にできる事実があまりないほど新しい陰謀論に対してこの手法が機能するかどうかなど、いくつかの懸念も提起した。

研究者たちは7月13日の翌週にこれをテストした。 暗殺未遂 トランプ前大統領の事件に関するAIプログラムによる信頼できる情報提供を手伝った結果、チャットボットとの会話で暗殺関連の陰謀説を信じる人が6～7パーセント減少したことが分かり、コステロ氏はこれを「顕著な効果」と呼んだ。

バゴ氏とボネフォン氏はまた、陰謀論者がボットと関わろうとするかどうかについても疑問を呈した。ランド氏は、それが克服できない問題になるとは思わないと述べた。

「ここでの利点の 1 つは、陰謀論者は自分の信念を恥ずかしがらないことが多いことです」と彼は語った。「陰謀フォーラムに行って、チャットボットと話すことで人々に独自の調査を行うよう勧めるという方法も考えられます。」

ランド氏はまた、検索エンジンに広告を掲載することを提案し、例えば「ディープステート」と入力すると、AI チャットボットと話し合うための招待が表示されます。

ロビー・サットンイギリスのケント大学で人々が陰謀論を信じる理由を研究している社会心理学者のジョゼフ・マクレラン氏は、この新しい研究を「重要な前進」と呼んだ。しかし、研究に参加したほとんどの人は「非常に有能で礼儀正しいチャットボット」から「質の高い、事実に基づいた反論」を受けたにもかかわらず、自分の信念を貫いたと指摘した。

「このように見ると、寛容さよりも抵抗のほうが大きい」と彼は語った。

サットン氏は、今回の調査結果はそもそも人々が陰謀論に惹かれる理由についてはあまり明らかにしていないと付け加えた。

「このような介入は、本質的には崖の底にいる救急車のようなものだ」と彼は語った。「崖の上で何が起きているかにもっと力を注ぐ必要がある」