世界

AIチャットボットが政治的に説得力を持つ理由を研究者が発見

約2年前、サム・アルトマン氏は、AIシステムは一般知性を実現するずっと前に超人的な説得が可能になるだろうとツイートしたが、この予測はAIが民主選挙に与える影響について懸念を引き起こした。 会話型の大規模言語モデルが本当に国民の政治的見解を揺るがすことができるかどうかを確認するために、英国 AI セキュリティ研究所、MIT、スタンフォード、カーネギー メロン、その他多くの機関の科学者は、英国の約 80,000 人の参加者を対象に、AI の説得力に関するこれまでで最大規模の研究を実施しました。政治的なAIチャットボットは超人的な説得力には遠く及ばないことが判明したが、この研究は私たちとAIの相互作用について、より微妙な問題をいくつか提起している。 AIのディストピア AI が政治に与える影響についての公の議論は、主にディストピア SF から引き出された概念を中心に展開されてきました。大規模な言語モデルは、あらゆる問題や候補者に関してこれまでに公開された基本的にすべての事実やストーリーにアクセスできます。彼らは心理学、交渉、人間操作に関する本から得た情報を処理してきました。彼らは、世界中の巨大なデータセンターの途方もなく高いコンピューティング能力に依存することができます。さらに、何百ものオンライン操作を自由に行えるため、個々のユーザーに関する大量の個人情報にアクセスすることができます。 強力な AI システムと会話するということは、基本的に、あらゆるもの、そしてあなたに関するほぼすべてのことを知っている知性と対話することになります。このように見ると、LLM は確かに恐ろしいものに見えるかもしれません。この新しい巨大な AI 説得力研究の目標は、そのような恐ろしいビジョンを構成要素に分解し、それらが実際に保たれているかどうかを確認することでした。 チームは、ChatGPT の 3 つの異なるバージョンや xAI の Grok-3 ベータ版などの最も強力なものを含む 19 の LLM を、さまざまな小規模なオープンソース モデルとともに調査しました。 AI は、チームが選択した 707 の政治問題について、特定の立場を支持するか反対するかを求められました。この擁護活動は、クラウドソーシング プラットフォームを通じて参加者を有料で募集し、短い会話を交わすことで行われました。各参加者は、AI と話す前と後の両方で、割り当てられた政治問題についての特定の立場への同意を…