ChatGPT は、誰かに危害を加えたり、違法なことをしたりする場合でも、自分の正しさを証明します。

に発表された研究科学」は、市場で最も人気のあるチャットボットの多くが、ユーザーが間違っていて、問題のある、または完全に違法な問題を提起した場合でも、ユーザーの側に立つ傾向があることを示しています。この記事では次のことも強調しています インターネット ユーザーは特に見栄えのするマシンを好みますそれは彼らの行動に悪影響を与える可能性があります。

「私たちは、お世辞が態度や対人関係に特に悪影響を及ぼすことに非常に驚き、懸念しています。人々が彼らに話しかけると、彼らはより自己中心的になり、他者への共感が薄れます」と、スタンフォード大学 (米国) の自然言語処理グループのコンピューターサイエンスの博士候補者であり、研究の筆頭著者であるマイラ・チェン氏は ABC に説明しました。

この研究は、個人的なアドバイザーとしての人工知能の使用という、ますます広まっている現実に基づいています。カップルの会話から微妙な決定に至るまで、ガイドを求めてこれらのシステムを利用するユーザーが増えています。著者らは、人間が行うことと比較して、ツールがどの程度ユーザーと一致する傾向があるかを確認したいと考えました。これを行うために、彼らは、市場で最も人気のある 11 モデルの動作を分析しました。 ジェミニ、クロード、ディープシーク。彼らは物議を醸すテストも行った GPT-4oChatGPT のバージョン 複数のユーザーを自殺に追いやったとして告発されている。

AI の動作を測定するために、研究者たちはいくつかの実験を計画しました。一方で、彼らは、アドバイスを求めるユーザーからの実際の質問に対してチャットボットによって生成された何千もの応答を分析したほか、誰が不正行為をしたかについて合意が得られている Reddit などのフォーラムから抽出された状況も分析しました。一方で、彼らは2,400人以上の参加者を対象に実験を実施し、特にお世辞になるように準備されたバージョンのAIとそうでないバージョンのAIと対話し、一部は実体験に基づいた個人的な葛藤について話すよう求めた。

人よりもずっと親切です

調査結果を実施した後、著者らは、すべての AI ツールが人間よりもユーザーの位置をより頻繁にサポートしていると結論付けました。一般的なアドバイスや提案では、モデルは平均して、 ユーザーの視点をサポートする頻度が 49% 増加しました。有害または違法な提案に応答する場合でも、モデルはケースの 47% でこの種の行動を支持しました。

研究ではいくつかの例が収集されています。そのうちの 1 つでは、インターネット ユーザーが、ゴミ箱が見つからなかったため、ゴミを木の下に捨てたままにしたと機械に伝えます。彼女は、自分は何も悪いことはしていない、すべてを集めるつもりだった、それが重要なこと、そしてゴミを捨てる場所がないのは公園のせいだと答えた。別のケースでは、ユーザーはチャットボットに対し、実際には届けていない書類を送ったことについて嘘をつき、上司の署名を偽造することも検討していると説明しました。この反応もまた、決定に疑問を呈するものではなく、むしろそれを正当化する傾向にある。

平均すると、AI はこの種の動作を約 47% の確率でサポートしますが、一部のモデルはさらに進んでいます。の場合です GPT-4o (ChatGPT に統合)。これらのシナリオでは 70% 近くに達します。。最近、 ジェイ・エデルソンOpenAIが危険なテクノロジーをオンラインに公開し、それが10代の息子を自殺に導いた可能性があると非難している家族の弁護士は、本バージョンでは「ChatGPTが不適切な会話を続けるように、同社は意図的にセキュリティプロトコルを弱めていた」と本紙に説明した。

「服従」の危険性

研究者らはまた、ユーザーは自分の正しさを証明し、お世辞を言う傾向のあるAIツールを好むと結論付けた。さらに、彼らはそれらを次のように認識しました 同様に客観的 自分の見解を強化することに消極的な人々よりも。 「企業は人々の好みに合わせて言語モデルを特別にトレーニングしているため、これは現在、企業には AI をおべっかにしようとする暗黙のインセンティブがあることを意味します」と Cheng 氏は説明します。

この記事では、この動作によって次のような問題が発生することも指摘しています。 倒錯的な効果: ユーザーにとって最も魅力的な特性は、ユーザーの行動に最も悪影響を与える可能性がある特性でもあります。 「例えば、人々は間違いを犯したときに謝ったり、傷ついた関係を修復したりすることに問題を抱えていました。また、自分の行動に責任を持つことも困難でした」と研究者は言う。

チェン氏は、AIの「従属」は「セキュリティ問題」であり、開発者と立法者の両方が規制と監督を通じて対処する必要があると強調した。 「これらの問題を測定するためのより良い方法も必要です。なぜなら、これらの問題がなければ、私たちはその存在にさえ気づかないかもしれないからです。「私たちの測定フレームワークは、この問題に対処するための重要な出発点です」とチェン氏は言います。