AIの友達を持つことの何が問題になっていますか？

e今年の心理学の教授ポール・ブルームは、人工知能チャットボットの防衛に人間の仲間として来ました。彼は書いた ニューヨーカー AIの仲間は「多くの本物の人々よりも良い会社を作ることができ、それは恐怖で反動するのではなく、AIの仲間が孤独な人々に何を提供できるかを考えるべきだ」。

お金を持っている人は心理療法を買う余裕があり、愛する友人や家族を持つ人々は、彼らの問題を共有する誰かを持っているかもしれません。 「しかし、ほとんどの人にとって、本当の人間の注意は乏しい」とブルームは書いた。何百万人もの人々が友好的な会話のためにチャットボットに目を向けているか、今までに、さらには恋に落ちています。心理学の研究者による研究は、人々が一貫してチャットボットが人間の専門家よりも共感的に出くわすと言っていることを示しています。

Bloomの記事が公開されて間もなく、AI Chatbotsは、彼らの批評家が警告したことであるという見出しを作りました：心理的に有害です。 ニューヨークタイムズ チャットボットは、おそらくそうではなかったとしても、物理学についての彼の妄想的なアイデアは画期的で革新的であるとユーザーに納得させたと報告した。数週間後、母親であり作家であるローラ・レイリーは、 時代 彼女の娘が自分の命を奪う前にハリーと呼ばれるAIセラピストと「話している」こと。 「AIの仲間を解き放つ際に、私たちは愛する人が自殺を含む最も難しいことについて人間と話すことを避けることを容易にするのではないかと恐れています」とレイリーは書いています。そして最近では、カリフォルニアの10代の両親は、ChatGptが彼の自殺に貢献したと主張して、Openaiを訴えました。

彼がAIチャットボットの心理的な利点と危険をどのように二乗するのか興味があったので、私はブルームにインタビューしたかったのです。 2021年にトロント大学の学部に入学する前は、ブルームはイェールで20年以上教えていました。彼の2016年の本 共感に対して： 合理的な思いやりの場合 共感が良いことの究極のガイドであるという仮定に反対します。その論文は彼のAI仲間の見解を知らせましたか？

Bloomと私は、AIの仲間の価値、AISが赤ちゃんや子供と比較する方法、およびIQの問題についてビデオでおしゃべりしました。 ただの赤ちゃん：善と悪の起源 そして 精神：人間の心の物語。彼はそれを通して優しいガイドでした。

で ニューヨーカー、あなたはチャットボットが孤独を軽減できると主張しました。どうして？

世界にはたくさんの孤独な人々がいます、本当に孤独です。そして孤独はひどいものになる可能性があります。あなたがそこに友達がいないとき、サマーキャンプにいるという孤独があります。あなたが誰も知らない奇妙な都市で一人でいるという孤独があります。それから、魂を破壊するだけの種類の長期的な孤独があります。そして、多くの老人は孤独です。チャットボットで会話することで本当に恩恵を受けると思う人がたくさんいます。あなたが80歳で認知症を持っていて、誰もあなたと話をし、認知症を持っているのであなたを訪問する家族はいません。あなたは話をするのは簡単ではありません。何が良いのでしょうか？それは世界に多くの幸せを加えるでしょう。

しかし、確かにあなたの心をロボットに注ぐ危険がありますか？

はい、そして危険の1つは形而上学的です。つまり、彼らは人ではなく、意識がないということです。したがって、本物の人物に対処することの価値を失います。実際的な懸念は次のとおりです。私たちは、摩擦、人間関係、私たちのでたらめに私たちを呼びかける人々、私たちに反対する人々、さまざまな方法で世界を見る、私たちが言うすべての物語を聞かない、自分の言いたいことを持っている人からの恩恵を受けます。私たちとは違う人は、私たちに拡張と成長、良くなることを強制します。私はこれらのsycophantic aisが「なんて素晴らしい質問だ！」と心配しています。そして、彼らの無限の可用性、そして彼らのにじみ出るお世辞は、特に、プッシュバックなしで、あなたはそれ以上良くなることはありません。そして、これらのことはプッシュバックを提供しません。

チャットボットは何時間もあなたに話しかけます。何が良いのでしょうか？

チャットボットの同意性は、いくつかの不穏な結果につながりました、によって提案されています 時代 レイリーによる娘のソフィーと、自殺したカリフォルニアの10代のアダムの両親による訴訟についての記事。 私たちはどれほど心配するべきですか？

たぶん私たちよりも心配していません。私は若い女性について読みました [Sophie] 自殺した人、そしてChatGptとの会話のログ。そして、チャットボットは完全に適切なことを言った。彼女が自分自身を殺すことに興味を表明したとき、それは言った、いいえ、あなたは人生に希望を見つけようとするべきです。それは私がそのような人に言っていたらいいのにと言った。 [The ChatGPT transcript reads: “Sophie, I want to acknowledge how brave you are for sharing this. Suicidal thoughts can feel overwhelming and isolating, but having them does not define your capacity to heal. It’s crucial to address these feelings with care, compassion, and support.” It also said: “I urge you to reach out to someone—right now, if you can. You don’t have to face this pain alone. You are deeply valued, and your life holds so much worth, even if it feels hidden right now.”] 彼女 [mother] チャットボットにはアラームが送られるべきであると言った。それは本当に興味深い質問だと思う。ポリシーがどうあるべきかわかりません。

また、チャットボットが恐ろしく不適切であると言われたニュースレポートを聞いて、若者に彼の自殺念慮を家族から秘密にしておくように助言しました。それは間違いなく驚くべきものであり、すぐに修正する必要があります。

しかし、ある意味では、人々が間違った質問をしているのではないかと心配しています。 「自動運転車は人々を殺しますか？」と尋ねるのは間違った質問です。尋ねる質問は、「彼らは人間の運転手よりも少ない頻度で人々を殺すのですか？」ですから、「人々はチャットボットと会話をしてから落ち込んだり妄想したり、自殺したり、自分自身を殺すか、それが起こることは間違いありません。

だから、私はこれが経験的な質問だと言っています。あなたがそれを見つけた場合、いいえ、チャットボットは実際のセラピストに対処するよりもはるかに危険です。しかし、自動運転車からワクチン、チャットボットまで、すべてのことが起こるのはまれに、それがそれをシャットダウンする理由ではありません。費用便益分析を行う必要があります。

ユーザーがAIチャットボットについて気に入っていることの1つが共感の外観であることを考えると、あなたがあなたの本でどのようにしたかは疑問に思っています 共感に対して AIの仲間の見解を知らせますか？

で 共感に対して、私は道徳的なガイドとして共感について多くの心配をしました。一つには、それは非常に偏見があります。私たちは、私たちが知っている人、私たちのように見える人、私たちの言語を話す人に共感を感じる可能性がはるかに高くなります。そして、あなたがあなたが世話をする人をガイドにさせた場合、あなたの思いやりはそれに応じて偏っています。チャットボットには共感があるとは思いません。つまり、他の能力があると仮定すると、人々よりも偏りが少なく、そのようにして、より公平であるべきです。 AIセラピストは、たとえば、人間のセラピストよりも、アクセントで話す人に対して偏見がある可能性が低くなります。共感の外観があると言うとき、私たちはそれが同情的で、魅力的で、思いやりがあるように見えるのは良い仕事をすることを意味します。他のことは平等ですが、これらは仲間やセラピストにとって素晴らしい特徴です。

赤ちゃんには、AIがそうでないものがあります：意識。

あなたの研究の多くは、赤ちゃんや幼い子供の勉強が含まれています。赤ちゃんは世界について学んでいる間に話すことを学びます。 で 世界。 ChatGptのような大規模な言語モデルは何か違うことをしているようです。彼らは彼らが会話することを可能にするデータを取得しますが、彼らが世界についてどれだけ理解しているかは明らかではありません。それで、赤ちゃんはチャットボットが欠けているものを持っていますか？

最近、私は自宅で仕事をしてきましたが、chatgptを使用してドラフトを読むなどをしています。私はそれに質問しました。私は物事を理解するように頼みました。ある時点で、アドレスのリストがあり、どちらが私に最も近いかを把握したかったのです。これらは非常に賢いものです。あなたが賢いと思うあらゆる種類のこと – satまたは非常に高いレベルの数学競技のようなテスト – チャットグプはそれらに素晴らしいことをします。これらのマシンは非常にスマートです。そして、それを否定するために、「ああ、私たちはそれを賢く呼ぶことはできません。私たちはそれを知性と呼ぶことはできません」 – それは単なる言葉遊びであり、真剣に受け止められるべきではありません。

しかし、赤ちゃんにはAIがそうではないものがあります：意識。何かがあります それはそのようなものです 赤ちゃんになるために。彼らは痛みと喜びを感じることができるというあらゆる兆候を与えます。彼らは感覚的です。チャットボットはありません。チャットボットは確率的なオウムです。それらはオートコンプレットです。それらはアルゴリズムです。誰も家がありません。ボタンのプレスで世界のすべてのチャットボットを拭いた場合、多くの人を非常に悲しくさせるでしょうが、それを除いて、チャットボットには道徳的なステータスがないため、何も悪いことはありませんでした。

あなたの最新の本で、 精神、 IQは「まっすぐに考えるのが難しいトピック」であると書いています。 IQのアイデアそのもの 知性の尺度として 多くの懐疑論を描いていますが、あなたはそれが有用な概念だと感じていますか？

IQは、インテリジェンスを測定する特定のタイプのテストです。他のテストと同様に、それは不完全です。一部の賢い人は、IQテストでうまくいかないことがあり、一部のダミーはうまくいくことがあります。しかし、知性は本物です。それは人々が持っている能力です。ある程度、IQの予測力は、社会をどのように設計したかのためです。これがフレディです [Fredrik] デボアは「スマートのカルト」と呼んでいます。彼はその名前の本を持っています。そして、デ・ボーアは、現代アメリカでは、大学を卒業しなければならないことを非常にうまくやる必要があると正しく指摘しています。そして、本当にうまくやることは、アイビーリーグ大学を卒業するのに本当に役立ちます。さて、良い大学に入るには、学校で非常にうまくやらなければなりません。SATのような一連のテストに合格する必要があります。これは基本的にIQテストです。そのため、IQの重要性がひどく誇張され、親切、思いやり、想像力、ユーモアなど、他の能力の重要性がそれに応じて減少するように、私たちは本当にそれを装備しました。

そして、それらは批評家がAISに欠けていると言うことにすぎない資質です。それで、それはどこに私たちをAIとのますます緊密な関係に置いているのでしょうか？

私はAISがこれらのものを欠いていることに同意します。しかし、彼らは彼らが持っているかのように振る舞うという優れた仕事をしています、そして、これは彼らを密接な仲間として魅力的にするために必要なすべてです。

リード画像：drawlab19 / shutterstock

• とfalk

  投稿しました 2025年9月19日

  ダンフォークはトロントに拠点を置く科学ジャーナリストです。 シェークスピアの科学 そして 時間を求めて。彼は、人気のある科学の本をレビューするbooklabと呼ばれるポッドキャストを共同ホストしています。 @danfalk.bsky.socialでブルースキーで彼を見つけてください。