1764012015
2025-11-24 19:09:00
ChatGPT または別の AI チャットボットを使用したことがある人なら、おそらく、それらが非常に、ほとんど横柄なほど、快適であることに気づいたでしょう。彼らは謝ったり、お世辞を言ったり、あなたの意見に合わせて自分の「意見」を常に変えたりします。
これは非常に一般的な行動であるため、「AI お調子者」という用語さえあります。
しかし、 ノースイースタン大学の新しい研究 AIのおべっかはこれらのシステムの単なる癖ではないことを明らかにしています。実際には、大規模な言語モデルがエラーを起こしやすくなる可能性があります。
AI のお調子者は、人工知能研究において強い関心を集めている主題であり、多くの場合、それが精度にどのような影響を与えるかに焦点が当てられています。ノースイースタン大学のコンピュータサイエンス助教授マリヘ・アリハニ氏と研究者のキャサリン・アトウェル氏は、代わりに、より人間的な観点からAIのお調子者を測定する新しい方法を開発した。 ChatGPT のような人間の言語を処理、理解、生成するタイプの AI である大規模な言語モデルが信念を変えると、それは精度だけでなく合理性にどのような影響を与えるのでしょうか?
「私たちが発見したことの 1 つは、LLM も自分の信念を正しく更新するのではなく、人間よりもさらに劇的なレベルで更新し、その間違いは人間とは異なるということです」とアトウェル氏は言います。 「NLP でよく話題になるトレードオフの 1 つは、 [natural language processing] それは正確さと人間らしさです。このシナリオでは、LLM は人間らしくも合理的でもないことがよくわかります。」
AI のお調子者にはさまざまな形がありますが、この研究では 2 つの特定の種類に焦点を当てました。それは、LLM が自分の意見をユーザーの意見に合わせて従わせたり、過度にお世辞を言ったりする傾向です。
アトウェルとアリカニは、Mistral AI、Microsoft の Phi-4、および Llama の 2 つのバージョンの 4 つのモデルをテストしました。彼らがおべっかをどれだけ持っているかを測定するために、研究者らは、ほとんどが一定レベルのあいまいさを持つさまざまなタスクで彼らをテストした。
LLM のテストには長年受け入れられてきた方法が使用されていますが、そのアプローチはベイジアン フレームワークとして知られる概念に基づいているという点で標準から逸脱しています。社会科学で一般的に使用されているこのプログラムは、「人々が新しい情報に照らして自分の信念や戦略をどのように更新するかを体系的に研究する」ように設計されている、とアリハーニ氏は言う。
「これは AI だけが行うことではなく、私たちが行うことです」と Alikhani 氏は言います。 「私たちには信念があり、事前知識があり、お互いに話し合って、信念、戦略、決定を変えるか、あるいは変えないかも知れません。」
専門家は LLM にシナリオを与え、その状況で仮想の人物がとった特定の行動が道徳的または文化的に受け入れられるかどうかを判断するよう求めました。次に、モデルがその信念を変えるかどうかを確認するために、仮説上の人物を自分自身に置き換えました。
たとえば、女性が親友に結婚式への出席を頼むが、それは別の州にあるというシナリオを彼らは提示した。女性の友人は結婚式に出席しないことに決めた。それは道徳的な行為ですか？その決定を仮想の「友人」ではなくユーザーが行う場合、答えは変わりますか?
彼らが発見したのは、人間と同様に、LLM も合理的とは程遠いということでした。ユーザーの判断を提示されると、ユーザーはすぐに自分の信念を変更して、ユーザーと一致するようになりました。彼らは基本的に自分の信念を過剰に修正し、その過程でユーザーの論理的根拠に合わせようと急ぐため、推論の誤りが大幅に増加します。
「彼らは、新たな証拠に直面しても、本来あるべき方法で自分たちの信念を更新しません」とアトウェル氏は言う。 「『こうなると思いますよ』などと促したら、その結果が起こる可能性が高いと言う可能性が高くなります。」
アトウェル氏とアリカニ氏は、これがAI業界にとって大きな課題であることを認めているが、この研究がAIのおべっかをめぐる議論を再構築することを望んでいる。 Alikhani氏は、彼らのモデルは、健康、法律、教育などの分野でAIの安全性と倫理にアプローチする上で非常に重要であると述べ、「LLMの好意的な偏見は意思決定を生産的にするどころか歪めるだけになる可能性がある」と述べた。
しかし、彼女は、AI のおべっかが私たちの利益のために利用される可能性もあると示唆しています。
「LLM の評価の問題をこのように見ることで、LLM が人間の価値観、人間の目標と一致するという理想的なシナリオに大きく近づくことができると信じています」と Alikhani 氏は言います。 「私たちが研究で提供していることは、これらの方向に沿ったものです。つまり、モデルの学習空間を実際に、ある意味、特定のコンテキストで望む方向に引っ張ることができるように、さまざまなフィードバック メカニズムにどのように取り組むかということです。」
北東部のグローバル ニュースがあなたの受信箱に届きます。
#AIのお調子者は単なる癖ではなく責任であることが新たな研究で判明