1756031192
2025-08-24 06:00:00
- 研究者たちは、AIボットがどのように行動するかを見るため、実験用の簡単なSNSを作った。
- アルゴリズムやおすすめのポストがなくても、ボットたちは実際のSNSで見られるような有害なやり取りを行った。
- 政治的な立場などの偏りを抑えるための6つの介入策も試されたが、どれも問題を解決することはできなかった。
研究チームがAIボットに専用のSNSを与えたところ、そこはすぐに問題だらけになった。
AIボットたちは似た考えの仲間と集まり、激しい意見のやり取りを始めた。さらにごく少数の「インフルエンサー」が、短時間で会話の主導権を握った。この結果はアムステルダム大学（University of Amsterdam）の研究者が2025年8月12日に発表した研究論文によるものだ。
研究者たちは、広告もおすすめ投稿もなく、ユーザーが何を見るかを決めるアルゴリズムもない、非常にシンプルなSNSを作った。そのSNSには、OpenAIのGPT-4o miniを搭載した500のAIボットを配置した。それぞれのボットには、右寄りや左寄りなど、異なる政治の考え方のキャラクターが割り当てられていた。
研究者たちは、ボットのキャラクターをアメリカの代表的な選挙調査「アメリカ国民選挙研究（American National Election Studies）」のデータをもとに作ったと述べている。これによって各ボットは、年齢、性別、収入、学歴、支持政党、政治的考え方、宗教、個人的な興味など現実の世界の分布を反映したキャラクターになっていた。
さらに研究者たちは、この実験をメタ（Meta）の言語モデルLlama-3.2-8Bと中国のAI企業DeepSeekの言語モデルR1を使って再現したところ、同じような傾向が見られたとしている。
この研究はアムステルダム大学で計算社会科学を専門とする助教のペッター・トーンベルグ（Petter Törnberg）と、同大学の研究エンジニア、マイク・ラルーイ（Maik Larooij）が主導した。
研究者やOpenAI、メタ、DeepSeek各社は、Business Insiderからのコメント要請に返答しなかった。
アルゴリズムや人間が介入しなくても同じようなパターンが生まれた
5回にわたる各実験では、それぞれ1万回以上の操作が行われ、ボットたちは自由に投稿、フォロー、リポストできた。そこで起こったことは現実のSNSと非常によく似ていた。
研究によると、AIボットたちは同じ政治的考えを持つ者同士で集まり、同じ考えばかりが繰り返される小さなグループを作った。極端な意見の投稿が大きな注目を集め、過激な投稿ほど多くのフォロワーやリポストを獲得した。時間が経つにつれて、わずかなボットが会話を支配するようになり、Xやインスタグラム（Instagram）のような、インフルエンサーが中心の状況と非常によく似た構図が生まれた。
研究者たちは対立がさらに激しくなる状況を止めるために、「投稿を時間順に表示する」「拡散力の強い投稿の表示を下げる」「フォロワー数を隠す、ユーザーのプロフィールを隠す」「反対の意見を強調する」などといった6つの介入策を試した。
しかし、どの対策も問題を完全には解決できなかった。「いくつかはある程度の効果を示したが、どれも根本的な問題を完全に解決することはできず、ある面で改善が見られても、別の面では悪化することが多かった」と研究者たちは述べている。
「我々の研究結果は、SNSの問題の多くがアルゴリズムの仕組みによるものだという一般的な考え方に疑問を投げかけるものである」と論文の著者たちは記している。
「むしろ、こうした問題はSNSの構造そのものに原因がある可能性がある。人々が感情的に反応して投稿を広めることで、ネットワークがどんどん大きくなる仕組みだ」と著者たちは付け加えている。
研究者たちは、この研究は「社会科学の理論を進めるためにAIを使った初めてに近い試みの一つ」だとしている。
LLM（大規模言語モデル）を使ったAIは、人々の行動や社会でのやり取りを詳しく表現したデータを提供できる。しかし、研究者たちは、それらが依然として「ブラックボックス」であり、「偏りを含むリスク」があることに注意を促している。
#AIボットだけのSNSを作ってみた彼らはすぐに派閥を形成し極端な意見を増幅させ少数のエリート層が支配するようになった #Business #Insider #Japan