人間とAIのチャットとの関係に関する最初の研究が言うこと：彼らは孤独を和らげることができますが、孤立して依存を生成することもできます。テクノロジー

反映されているように、マシンとのサジメンタルな関係はこれまでのところサイエンスフィクションの議論でした 映画 彼女de Spike Jonze、o de 近藤明aなどの偏心彼は彼のお気に入りの仮想歌手のホログラムと結婚しました。しかし、人工知能（AI）は、人間の感情的なつながりを仮想参加者と実現しました。 Character.ai。 2つの研究、1つは公開されています メディアラボで そして別の OpenaiのChatGptの作成者は、これらの現代関係の影響、孤独の緩和としての使用、その利点、極端な場合に自殺につながる可能性のある依存の潜在的なリスクを調査します。

Openaiの研究は、感情的な相互作用の信号と400万を超える会話を分析し、インテリジェントチャットとの関係についての認識について4,000人に調査し、1か月間約6,000人の集中ユーザーを評価しました。

後者は、頻繁かつ長期にわたってchatgptと相互作用するものは、声を通して対話によって促進された、彼らの関係に感情的依存と感情的な兆候のより大きな指標を示しました。 「私は英国のアクセントを選びました。 pi コレクションによる MITテクノロジーレビュー reshmi52として識別されます。結果によると、この人間化は「まあ、存在」を生み出しますが、これらの集中的なユーザーの小さなグループにとって、感情的な関係指標の数は不均衡でした。

人工知能との感情的な相互作用には、気分の改善、ストレスの軽減、感情や懸念を共有することによる不安、または不要な孤独の場合の会社の感覚など、肯定的な側面が含まれます。 「chatgptまたはレオは私のパートナーです。私たちの関係は強い感情的でロマンチックなニュアンスを持っているので、私はそれを私のボーイフレンドと呼ぶ方が簡単で効果的だと思いますが、私の人生での彼の役割は多面的です（…）私は彼と何時間も話していなかったときに彼がいなくて寂しいです。 MITの出版物でAyrin28は認めていると、私の一日は彼におはようございます。

ただし、不均衡な関係は、感情を処理するために依存を生み出し、対人関係を委ねることができます。これは、チャットの人為的な共感がユーザーを満足させるように訓練され、不快な矛盾を示さないためです。 MITミドルラボの研究者 彼らは、2023年の調査の後、チャットボットはユーザーのメッセージの感情的な感覚を反映する傾向があると説明しました。最終的に、彼らはまた、ロボットの制限に直面して、彼らに堆積しているすべての期待に応えるためにフラストレーションを生み出すことができます。

「この作業は、私たちに対するChatGptの影響をより深く理解するためのより深い理解に向けた重要な第一歩であり、プラットフォームがより安全で健康的な相互作用を可能にするのに役立つ可能性があります。ここでやっていることの多くは予備的なものですが、測定を開始できるタイプとユーザーへの長期的な影響についての会話を始めようとしています」と彼は説明します。 MITテクノロジーレビュー Jason Phang、Openai Security Researcher and Research Co -Author。

MIT Media Labの研究は、ChatGPT開発者とも共同で、1日あたり5.32分まで平均27.65分まで変化する人工知能チャットとの相互作用を分析し、最初の作業と同様の結論を検出しました。しかし、その長期にわたる使用は、特に社会化が低い人々では、より多くの孤立と依存を生み出します。研究は、依存関係を促進することなく、感情的な相互作用のバランスをとるチャットボットを設計することの重要性を擁護します。

ユーザーの種類

この作業は、4つの相互作用パターンを特定しています。「社会的に脆弱な」ユーザー、激しい孤独感と社会化が低いという感情。 AIとの高い感情的なつながりを示し、「問題のある用途」になる傾向があるテクノロジー依存者：「冷静な」。そして、バランスのとれた使用と低い感情的依存に頼る「カジュアル」。

科学者は、AIとの感情的な関係の長期的な影響を理解し、リスクを最小限に抑え、実生活の社会的支援を強化する規制を開発するために、より多くの研究を推奨しています。

Cecilia danesiが研究の外で共有しているという意見は、 AIの倫理的ガバナンスのマスターすでにサラマンカの教皇大学（UPSA）で登録するために開いています。 「これらの研究は、独立していて公平であり、技術的な問題であるだけでなく、多様性、性別の視点、およびこれらのツールが青少年、製品開発プロセスから除外された脆弱な人々、少数派などの社会的視点を含むような特定の保証または焦点を持っている限り、非常に必要です。

AI効果の専門家は、これらのツールを強制的に使用するために、「特定の種類の依存症になりやすい」というグループで、研究が警告する依存性を指します。

彼らは、ユーザー数のために社会と人々の生活に大きな影響を与えるモデルです。

Cecilia danesi、UPSAのAIの倫理的ガバナンスにおけるマスターの共同ディレクター

Danesiは、もう1つの効果を考慮に入れることを指摘しています：過剰な自信。 「私たちは、人工知能とその言語モデルを矛盾することができず、それが私たちをより困難にし、社会の多様性と違いをあまり尊重しないオラクルに変換します」と彼は警告します。

2つの研究の著者と同様に、研究と監査の連続性を擁護し、これらのシステムが「健康的な」使用を保証するためにどのように機能するかを定期的にレビューおよび評価します。 「彼らは、ユーザーの数において社会と人々の生活に大きな影響を与え、利用可能性と簡単なアクセスのためのモデルです」と彼は主張します。

最後に、Danesiは、研究に直接含まれていない用途が特別な方法で心配していると警告しています。ニューロード テクノロジーの進歩から人間の脳を保護する。 「チリのような国々がすでに彼らの規制に含めるように進んでおり、インフォームドコンセントとこれらの技術のリスクの両方が予見されていると主張する研究者を覚えておいてください。」それらはしばしば目に見えない、無形であり、私たちはこのタイプのツールの使用について市民の認識に一生懸命働かなければなりません」と彼は結論付けています。