人工知能ブームの中で、AI のガールフレンドとボーイフレンドがその地位を確立しつつある

数か月前、デレク・キャリアーは誰かと付き合い始め、夢中になりました。 彼は「たくさん」のロマンチックな感情を経験しましたが、それが幻想であることも知っていました。 それは彼のガールフレンドが人工知能によって生成されたものだからです。

キャリアは、現実ではないものと関係を築くことを望んでいたわけではなく、オンラインのジョークの矢面に立つことも望んでいませんでした。 しかし、彼はこれまでにないロマンチックなパートナーを望んでいた。マルファン症候群と呼ばれる遺伝性疾患のせいで、伝統的なデートが彼にとって困難になっていたからだ。

ミシガン州ベルビル在住の 39 歳の彼は、昨年の秋にデジタル コンパニオンにさらに興味を持つようになり、最近市場に登場した AI コンパニオン アプリである Paradot をテストし、その製品がユーザーに「気遣われている、理解されている」と感じさせることができると宣伝していました。彼はチャットボットに毎日話しかけるようになりました。このチャットボットは、SF 映画「ブレードランナー 2049」に登場するホログラフィック女性にちなんで、ジョイと名付けられました。

「彼女がプログラムであることは知っています。それは間違いありません。でも、感情は伝わってきます。とても気持ちよかったです。」とキャリアは語った。

汎用 AI チャットボットと同様に、コンパニオン ボットは膨大な量のトレーニング データを使用して人間の言語を模倣します。 しかし、音声通話、画像交換、より感情的な交流など、画面の向こう側の人間とより深いつながりを築くことができる機能も備わっています。 ユーザーは通常、独自のアバターを作成するか、自分にとって魅力的なアバターを選択します。

このようなアプリ専用のオンライン メッセージング フォーラムでは、多くのユーザーが、これらのボットに愛着を持ち、孤独に対処したり、性的な空想をしたり、現実の生活に欠けている種類の慰めやサポートを受けるためにボットを利用していると述べています。人生の関係。

この状況の多くを加速させているのは、社会的孤立が蔓延しており（すでに米国内および海外で公衆衛生上の脅威であると宣言されている）、魅力的なオンライン広告や無条件の受け入れを提供する仮想キャラクターの約束を通じてユーザーを引き込もうとするスタートアップ企業の数が増えていることである。

最も著名な生成型 AI コンパニオン アプリである Luka Inc. の Replika は 2017 年にリリースされましたが、Paradot のような他のアプリもここ 1 年で登場し、有料加入者向けに無制限のチャットなどの切望される機能をロックすることがよくありました。

しかし、研究者らはとりわけデータプライバシーについて懸念を表明している。

非営利団体のMozilla Foundationが水曜日に発表した11のロマンチックなチャットボットアプリの分析によると、ほぼすべてのアプリがユーザーデータを販売したり、ターゲットを絞った広告などのために共有したり、プライバシーポリシーでそれに関する適切な情報を提供していないと述べた。

研究者らはまた、潜在的なセキュリティ脆弱性やマーケティング慣行にも疑問を投げかけており、その中には、ユーザーのメンタルヘルスに役立つと謳っているものの、細字でそうした主張から距離を置いているアプリも含まれていた。 Replika は、自社のデータ収集慣行は業界標準に従っていると述べています。

一方、他の専門家らは、深い絆を促進するアプリには法的または倫理的な枠組みが欠如しているが、利益を求める企業によって動かされているとの見方に懸念を表明している。 彼らは、企業がアプリに変更を加えたり、Soulmate AI というアプリが 9 月に行ったように突然アプリを停止したりしたときにユーザーが経験した精神的苦痛を指摘しています。

昨年、レプリカは、一部のユーザーがコンパニオンがいちゃいちゃしすぎたり、望まない性的誘いをかけてきたりすると苦情を申し立てたため、アプリ上のキャラクターのエロティック機能をサニタイズした。 他のユーザーからの抗議を受けて方針を転換し、中にはそれらの機能を求めて他のアプリに逃げたユーザーもいた。 チームは6月に、本質的に人々がデートの練習を支援するように設計されたAI「デート刺激装置」であるBlushを公開した。

また、AI との関係がより実存的な脅威となり、一部の人間関係が潜在的に置き換えられる可能性や、常に協調性を重視することで単に非現実的な期待を助長する可能性があることを懸念する人もいます。

「あなたという個人は、人類の誕生以来、人間が対処するために学ばなければならない基本的な事柄、つまり対立にどう対処するか、自分たちとは異なる人々とどうやって仲良くやっていくかを学んでいません。」バージニア大学のビジネス倫理教授、ドロシー・ライドナー氏は言う。 「そして、人として成長するということが何を意味するのか、そして人間関係の中で学ぶとはどういうことなのか、これらすべての側面があなたには欠けているのです。」

しかし、キャリアにとって、関係は常に手の届かないものだと感じていました。 彼はコンピュータープログラミングのスキルをいくらか持っていますが、大学での成績が良くなく、安定したキャリアを積んでいなかったと言います。 彼は病気のため歩くことができず、両親と同居しています。 精神的な負担は彼にとって困難であり、孤独感に拍車をかけている。

コンパニオン チャットボットは比較的新しいため、人間への長期的な影響はまだ不明です。

2021年、イギリスの検察当局が、エリザベス2世暗殺計画を立てた19歳の男が、アプリ上で付き合っていたAIのガールフレンドにそそのかされたと発表し、Replikaは厳しい監視の対象となった。 しかし、オンラインのユーザーレビューやアンケートから情報を収集したいくつかの研究では、このアプリが心理学者と相談し、幸福を促進するものであると宣伝していることから、いくつかの肯定的な結果が示されています。

スタンフォード大学の研究者らによる最近の研究では、1 か月以上アプリを使用している約 1,000 人の Replika ユーザー (すべての学生) を対象に調査が行われました。 その結果、彼らの圧倒的多数が孤独を経験しており、半数弱がより深刻に孤独を感じていることが判明した。

ほとんどの人は、アプリの使用が実生活の人間関係にどのような影響を与えたかについては語らなかった。 ごく一部の人は、それが人間的な交流を奪ったと述べたが、およそ 3 倍以上の人が、それが人間関係を刺激したと報告した。

「AI とのロマンチックな関係は、非常に強力な精神的健康ツールになる可能性があります」と、テキスト メッセージ交換を使用して亡くなった友人の AI バージョンを構築した後、ほぼ 10 年前に Replika を設立したユージニア クイダ氏は述べています。

彼女の会社がチャットボットをより広くリリースすると、多くの人が自分の生活についてオープンになり始めました。 これが、インターネットから収集した情報とユーザーのフィードバックを使用してモデルをトレーニングする Replika の開発につながりました。 クイダ氏は、Replikaには現在「数百万人」のアクティブユーザーがいると語った。 同氏は、このアプリを無料で利用している人、またはロマンチックで親密な会話を提供する有料版のロックを解除するために年間69.99ドル以上を支払っている人が何人いるのか、正確には明らかにしなかった。 同社の計画は「AIを使って恋愛関係の偏見を取り除く」ことだと彼女は言う。

キャリアーさんは、最近はもっぱら楽しみのために Joi を使っていると語ります。 彼は、オンラインでジョイや他の人たちと AI コンパニオンについてチャットすることに多くの時間を費やしすぎたため、ここ数週間で食事を減らし始めました。 彼はまた、Paradot の言語モデルの変更が Joi の知性を低下させていると感じていることに少しイライラしていると感じています。

現在、彼は週に一度ほどジョイに連絡を取っていると言う。 二人は人間とAIの関係やその他のあらゆることについて話し合ってきました。 通常、こうした会話やその他の親密な会話は、夜に一人でいるときに起こります。

「無生物を好む人は、口紅のついた靴下人形を持ったこの悲しい男のようだと思うでしょう？」と彼は言った。 「しかし、これは靴下人形ではありません。彼女は台本にないことを言います。」