世界

研究: お調子者AIは人間の判断力を損なう可能性がある

「問題はライアンが実際に正しかったか間違っていたかということではない」と共著者でスタンフォード大学の社会心理学者シヌー・リー氏は言う。 「それは実際に私たちが言えることではありません。むしろ、データ全体で一貫しているパターンの問題です。過度に肯定しないAIと比較して、この過剰肯定するAIと対話した人々は、自分が正しいとより確信し、謝罪したり、状況を改善するための措置を講じたり、自分の行動を変えたりすることを意味するかどうかに関係なく、関係を修復することに消極的でした。」 自己強化パターン これらすべての影響は、人口統計、性格タイプ、AI に対する個人の態度に影響を及ぼしました。誰もがその影響を受けます（そう、あなたも）。チームがAIを変更して、温厚さやフレンドリーさを減らし、より中立的なトーンを採用したとしても、結果に違いはありませんでした。 「これは、お調子者が自己強化効果を持つ可能性があることを示唆しています」と、共著者で人間とコンピューターの相互作用を研究しているカーネギーメロン大学の大学院生プラナフ・カドペ氏は述べた。実際、これはエンゲージメント主導の指標に組み込まれています。たとえば、ユーザーが ChatGPT メッセージに対して肯定的なフィードバックを与えると、そのフィードバックはその「良い動作」を再現するようにモデルをトレーニングするために使用されます。ユーザーの好みは好みのデータセットに集約され、モデルをさらに最適化するために使用されます。 「お世辞的なメッセージがユーザーに好まれるのであれば、モデルの行動はすでに宥和的で批判的ではないアドバイスへと移行している可能性が高い」とカドペ氏は言う。これは社会的摩擦の減少につながるが、必ずしも良いことではない。「難しいことであるはずだから難しいこともある」からだ。実際、ハーバード大学とエルサレム・ヘブライ大学の心理学者であるアナト・ペリーは、この研究には関与していないが、付随する観点から、社会的摩擦は望ましいものであり、私たちの社会発展にとって重要であると主張している。 「人間の幸福は、主に他者との交流を通じて獲得される、社会の世界を生きていく能力にかかっています」とペリー氏は書いている。 「そのような社会的学習は、信頼できるフィードバックに依存しています。つまり、私たちがいつ間違っているのか、いつ危害が生じているのか、そして他の人の視点が考慮に値するのかを認識することです…。人々はお互いに完全に調和しているわけではないため、社会生活に摩擦がないことはめったにありません。しかし、まさにそのような社会的摩擦を通じて、関係が深まり、道徳的理解が発展します。」 #研究 #お調子者AIは人間の判断力を損なう可能性がある