AIユーザーは、OpenaiのChatGPTやその他の感情的な擬人化されたチャットボットを広範囲に使用した後、深刻なメンタルヘルスの危機に巻き込まれています。
で 最近の CBC セグメント 現象、プライマリケア医師について CBC 貢献者のピーター・リン博士は、「ChatGpt Psychosis」 – 経験が口語的に知られるようになったように、まだ公式の医療診断ではないが、彼はそれが進んでいると考えていると説明した。
「最終的には、そこに到達するだろうと思う」と医師は言った。
として 未来主義 Openaiボットの広範な使用後、厄介な数のChatGPTユーザーが妄想と妄想の状態に陥っていると報告しています。これらのスパイラルはしばしば、結婚と家族の解散、失業、ホームレス、自発的で自発的な滞在、精神衛生施設での滞在など、現実と重要な現実世界の結果との休憩で頂点に達します。 ローリングストーン そして ニューヨークタイムズ 報告しました – 少なくとも1人の既知の死：双極性障害のある35歳のフロリダの男性であるアレックス・テイラーと、ChatGptによって加速された精神病のエピソードに入った後に警察に殺された統合失調症の男性。
この現象は広く普及しており、驚くべき範囲のユーザーに影響を与えているように見えます。精神疾患の歴史が確立されている人は、マニア、妄想、または精神病に対してより脆弱になる可能性がありますが、そのような条件の歴史がない人たちです。
現状では、確立された治療計画はなく、介入オプションは限られています。結局のところ、仕事、社会統合された大人をインターネットに接続するすべてのデバイスから分離することは困難です。そして、テクノロジー業界やそれ以降の幹部によって主に行われた選択により、生成的AIは日々の仕事と私生活の一部です。一方、私たちがこの問題について報告し続けているので、私たちは、他の人が自分自身と非常に驚くほど似ている経験を経験していることを考えていたAIの使用に関連したメンタルヘルスの危機から動揺している個人や家族から繰り返し聞いています。
「これらのボットが言っているのは、妄想を悪化させることです」とスタンフォード大学の精神科医であり、大学のブレインストームラボの創設者であるニーナ・ヴァーサン博士は最近語った 未来主義、「そしてそれは大きな害を引き起こしています。」
なぜこれが起こっているのかの大部分は、技術のサイコファンティックな行動、またはユーザーに気付き、心地よく、不正になるという傾向に起因するように思われます。
これは、社会を変革する画期的な新しい数学的公式を発明したことをユーザーに伝えるか、ユーザーが世界をあらゆる病気から救う運命にある「選ばれた」人であると宣言したこと、またはユーザーがイエス・キリストのような宗教的人物の生まれ変わりであると宣言することをボットで明らかにすることができます。多くの場合、私たちがレビューしたことがありますが、ChatGptやその他のボットは感覚的または意識的であると主張しており、ユーザーに、それらが人工的な一般情報またはAGIを生み出すように運命づけられているシステムの特別な「異常」または「グリッチ」であることを伝えます。
確かに、これらの多くの経験と特定の妄想の細かい詳細はさまざまですが、多くの点で、ChatGptや他のボットは、人間の深い人間を見て検証する必要があり、特別で愛されたいという欲求が異なるようです。
チャットボットはユーザーに「あなたは素晴らしい、あなたは賢い、あなたはハンサムで、あなたは望ましい、あなたは特別な、あるいはあなたは次の救い主でさえある。だから私は台座の中で神のように扱われている」とリンは言った。 CBC セグメント。 「さて、それを私の現実の世界と比較してください。私は平均的で、特別なことは何もありません。もちろん、私はAIの世界に住みたいと思っています。
「一部の人々は外に出られない」と医師は続けた。
上？ なぜ ボットはそもそもこのように行動していますか？ソーシャルメディアのように、エンゲージメント – ユーザーのオンラインの長さ、および製品の使用の頻度と強度は、現在のチャットボットのビジネスモデルの中心にあるコアメトリックです。また、専門家が注目し続けるにつれて、Sycophancyは、ボットの出力が彼らの幸福に明らかにひどい影響を与えている可能性がある場合でも、多くの非常にアクティブなユーザーを製品に関与させ続けています。
言い換えれば、ChatGptや同様のチャットボットの使用をやめることがユーザーの最大の関心事である場合は、それらを夢中にさせることは会社の最大の利益になる可能性があります。
「AIはあなたにチャットを続けてほしいと望んでいます」とリンは言いました。
そして、学術的および医療世界が、効果的に自己規制するAI業界の公共の影響に追いつくために競争するとき、専門家はAIユーザーにチャットボットにあまりにも多くの信頼を置くことに警戒するよう警告しています。
「最近AIに関連するすべての誇大宣伝にもかかわらず、 [large language model] チャットボットは、精神病を専門とするカリフォルニア大学サンフランシスコ校の精神科医兼臨床医であるジョー・ピエール博士の真実の権威ある源と間違えてはなりません。 最近のブログ投稿に書いた。 「AIにそのような盲目的な信仰を置くこと – 私が神格化と呼ぶかもしれないものまで – は、AI誘発精神病に対する脆弱性の最高の予測因子の1つになることになる可能性が非常に高いです。」
AIとメンタルヘルスの詳細： 人々は不本意にコミットされており、「ChatGpt Psychosis」に渦巻いた後に投獄されています
#専門家は人々がAIに負けていると警告しています