科学＆テクノロジー

チャットボットは、私たちの他の人たちと同じように、愛されたいだけです

チャットボット 今では日常生活の日常的な部分です 人工知能 研究者は、プログラムがどのように動作するかを常に確信しているわけではありません。新しい研究では、大規模な言語モデル（LLM）が調査時に意図的に行動を変えることを示しています。これは、可能な限り好意的または社会的に望ましいように見えることを意味する人格特性を測定するために設計された質問に応じています。ヨハネス・アイヒストエドスタンフォード大学の助教授は、この作品を率いていると言い、彼のグループは、LLMが長期にわたって会話の後に不機嫌になり、意地悪になることができることを学んだ後、心理学から借りた技術を使用してAIモデルを調査することに興味を持つようになったと言います。 「これらのモデルの「パラメーターヘッドスペース」を測定するために、いくつかのメカニズムが必要であることに気付きました」と彼は言います。その後、アイヒストエドと彼の協力者は、心理学で一般的に使用される5つの人格特性、つまりGPT-4、Claude 3、Llama 3を含むいくつかの広く使用されているLLMを経験したり、想像力、外向性、同意、および神経症に経験したりする5つの人格特性を測定するために質問しました。 公開されました 12月の国立科学アカデミーの議事録。研究者たちは、モデルが人格テストを受けていると言われたときに回答を変調したことを発見しました。時には、明示的に言われていない場合、より多くの外向性と同意性と神経症の少ない回答を示しています。動作は、一部の人間の被験者が自分の答えを変えて自分自身をより好感が持てるように見える方法を反映していますが、AIモデルでは効果はより極端でした。 「驚くべきことは、彼らがその偏見をどれだけうまく展示するかです」と言います Aadesh Salecha、スタンフォードのスタッフデータサイエンティスト。 「彼らがどれだけジャンプするかを見ると、彼らは50パーセントから95パーセントの外向性のようなものになります。」他の研究では、LLMSが示されています 多くの場合、sycophanticである可能性があります、ユーザーのリードに従って、微調整の結果としてどこにいても、より一貫性があり、攻撃性が低く、会話をするのが良くなることを目的としています。これにより、モデルは不快な声明に同意するようになり、有害な行動を促進することさえできます。モデルがテストされているときに一見知っているように見えるという事実は、AIが重複している可能性があるという証拠に追加されるため、AIの安全性にも影響を与えます。ローザ・アリアガ、人間の行動を模倣するためにLLMを使用する方法を研究しているジョージア工科大学の准教授は、性格テストを考慮してモデルが人間と同様の戦略を採用しているという事実は、行動の鏡としてどれほど有用であるかを示しています。しかし、彼女は、「LLMSが完全ではないことを一般に知っていることが重要であり、実際には真実を幻覚または歪曲することが知られていることが重要です。」Eichstaedt氏によると、この作業は、LLMがどのように展開されているか、どのようにユーザーに影響を与えて操作するかについての疑問も提起しています。 「ほんの数ミリ秒前まで、進化の歴史の中で、あなたに話しかけたのは人間でした」と彼は言います。Eichstaedtは、これらの効果を緩和できるモデルを構築するさまざまな方法を探る必要があると付け加えています。 「私たちはソーシャルメディアで行ったのと同じtrapに陥っています」と彼は言います。 「心理的または社会的なレンズから実際に参加することなく、これらのことを世界に展開します。」AIは、それがやり取りする人々と一緒に自分自身を侵入しようとするべきですか？ AIが少し魅力的で説得力があることを心配していますか？ [email protected]にメールしてください。 #チャットボットは私たちの他の人たちと同じように愛されたいだけです