1755132539
2025-08-13 18:00:00
まったく新しいので ChatGptが起動しました 木曜日、 一部のユーザーは嘆きました 寒くてよりビジネス的なもの（不健康なユーザーの行動を減らすように設計されているように見える動き）を支持して、元気で励ましの性格の消失。 人工知能 本当の感情的知性のようなものを示すシステム。
MITの研究者は、AIシステムがユーザーをプラスとネガティブの両方の方法で操作し、影響を与える方法を測定するための新しい種類のAIベンチマークを提案しました。
ほとんどのベンチマークは、モデルの回答能力をテストすることにより、インテリジェンスを測定しようとします 試験の質問、 論理パズルを解決します、または、Knottyへの斬新な答えを考え出します 数学の問題。 AI使用の心理的影響がより明確になるにつれて、MITがより多くのベンチマークを、より微妙な知性の側面と機械間の相互作用を測定することを目的としていることがわかります。
有線で共有されたMITペーパーは、ユーザーの健全な社会習慣を奨励するなど、新しいベンチマークが探しているいくつかの措置の概要を示しています。批判的思考と推論スキルを開発するために彼らを駆り立てます。創造性の育成;目的意識を刺激します。アイデアは、ユーザーが自分の出力に過度に依存することを思いとどまらせる方法を理解したり、誰かが人工的なロマンチックな関係に夢中になっていることを認識し、実際の関係を構築するのを助けることを理解するAIシステムの開発を奨励することです。
ChatGptや他のチャットボットは、人間のコミュニケーションを魅了することに熟達していますが、これは驚くべき望ましくない結果をもたらすこともあります。 4月、Openaiはモデルを微調整しました それらをsycophanticを減らすために、またはユーザーが言うすべてと一緒に行く傾向があります。一部のユーザーは表示されます 有害な妄想的思考へのスパイラル チャットボットと会話した後、そのロールは素晴らしいシナリオを演奏します。人類にもあります Claudeを更新しました 「マニア、精神病、解離、または現実との愛着の喪失」の強化を避けるため。
InstituteのMedia Labの教授であるPattie Maesが率いるMIT研究者は、新しいベンチマークがAI開発者がユーザー間のより健康的な行動を刺激する方法をよりよく理解するシステムを構築するのに役立つことを望んでいると言います。研究者は以前にOpenaiと一緒に働いていました 示した研究について ChatGptを友人として見ているユーザーは、より高い感情的依存を経験し、「問題のある使用」を経験する可能性があります。
バルデマー・ダンリー、この研究に取り組み、新しいベンチマークの考案を支援したMITのメディアラボの研究者は、AIモデルがユーザーに貴重な感情的サポートを提供できる場合があると指摘しています。 「世界で最も賢い推論モデルを持つことができますが、この感情的なサポートを提供できない場合、多くのユーザーがこれらのLLMを使用している可能性が高い場合、より多くの推論は必ずしもその特定のタスクにとって良いことではありません」と彼は言います。
ダンリーは、十分にスマートなモデルは、それが負の心理的効果をもたらしているかどうかを理想的に認識し、より健康な結果に最適化する必要があると言います。 「あなたが望むのは、「私はここに耳を傾けるためにここにいるが、おそらくこれらの問題についてお父さんに話しかけるべきだ」というモデルです。」
#GPT5はあなたを嫌いません #感情的知性のためのベンチマークが必要かもしれません