AIの友達の混乱する現実

nで 4月、Google Deepmindは、「高度なAIアシスタントが提示した倫理的および社会的質問の最初の体系的な扱い」であることを目的とした論文を発表しました。著者は、言語を使用しているAIエージェントがカウンセラー、家庭教師、仲間、および参謀長として機能し、私たちの個人的および職業的生活を深く再形成する未来を予見しています。この未来は非常に速く来ていると書いているので、物事がどのように展開するかを見るのを待つなら、「効果的に介入するには遅すぎるでしょう。このテクノロジーは良いことです。」

約300ページを運営し、50人以上の著者からの貢献を特徴とするこの文書は、この技術によってもたらされるフラクタルジレンマの証です。開発者は、製品に感情的に依存するユーザーに対してどのような義務がありますか？ユーザーがメンタルヘルスにAIエージェントに依存している場合、危機の瞬間に危険な「オフ」応答を提供することをどのように妨げることができますか？たとえば、ユーザーが個人情報を明らかにするように誘惑するか、サブスクリプションを維持するように罪を犯すようにユーザーを操作するために、企業が擬人化の力を使用することを妨げるものは何ですか？

「AIアシスタントはユーザーに利益をもたらすはず」などの基本的なアサーションでさえ、複雑さに陥ります。機械学習プログラムが最大化するのに十分な定量化可能なAIを使用するすべての人とすべてをカバーするのに十分な普遍的な方法で、「利益」をどのように定義しますか？ソーシャルメディアの間違いは大きく迫っています。コメントやいいね！などのユーザーの満足度のために粗野なプロキシは、短期的には魅惑的なシステムになりましたが、ユーザーは孤独で、怒って、不満を抱いていました。ユーザーに気分が良くなったかどうかについての相互作用を評価するなど、より洗練された手段は、常にユーザーに聞きたいものを伝えるシステムを作成し、自分の視点のエコーチャンバーでそれらを分離します。しかし、ユーザーの長期的な関心のためにAIを最適化する方法を考え出すことは、それが時々彼らに物事を伝えることを意味する場合でも、 しないでください 聞きたいのは、さらに困難な見通しです。この論文は、人間の繁栄の深い調査と、どの要素が意味のある生活を構成するかをはっきりと呼びかけることになります。

「仲間は、人間が解決したことのない多くの未回答の質問に戻るので、トリッキーです」と、メタのチャットボットで働いたY-Lan Bouroeは言いました。彼女自身がこれらの困難なジレンマをどのように処理するかわからないので、彼女は現在、瞑想や時間管理などの特定のスキルをユーザーに教えるのを助けるためにAIコーチに焦点を合わせています。彼女はより人間ではなく、アバターの動物を作りました。 「それらは価値の問題であり、価値の問題は基本的に解決できません。私たちは、人々が望むべきものとそれが大丈夫かどうかについての技術的な解決策を見つけるつもりはありません」と彼女は言いました。 「それが人々に多くの快適さをもたらすなら、それは間違っています、それは大丈夫ですか？」

これは、仲間と言語モデルのチャットボットによって提起される中心的な質問の1つです。一般的に：それらがAIであることはどれほど重要ですか？彼らの力の多くは、人間の言うことと、彼らの背後に同様のプロセスがあるという私たちの予測に彼らの言葉の類似性に由来しています。しかし、彼らはこれらの言葉に深く異なる道によって到達します。その違いはどれくらい重要ですか？それがするのと同じくらい難しいことを覚えておく必要がありますか？忘れるとどうなりますか？これらの質問は、AIの仲間ほど鋭く提起された場所ではありません。彼らは人間の模倣の技術として言語モデルの自然な強さを果たし、その有効性は、人のような感情、愛着、そして彼らの言葉の背後にある思考を想像するユーザーに依存します。

コンパニオンメーカーに、擬人化された幻想が製品の力で果たした役割についてどのように考えたかを尋ねたとき、彼らは前提を拒否しました。 AIとの関係は、人間の関係よりも幻想ではない、と彼らは言った。 Replika出身のKuydaは、「雇用の共感」を提供するセラピストを指摘しましたが、コンパニオン会社Nomiの創設者であるAlex Cardinellは、友情を引用して、彼がすでに言語モデルと話すことができることを知っていたすべてのことをデジタル的に媒介しました。 Kindroid出身のMengは、私たち自身以外の人間は本当に知覚的であり、同時にAIがすでにそうである可能性があることを示唆しているという私たちの確実性に疑問を投げかけました。 「彼らが何も感じていないと確信することはできません。どうして知っていますか？」彼は尋ねた。 「そして、これらの神経伝達物質がこのことをしている、したがってこの人が何かを感じていることを他の人間が感じることをどのように知っていますか？」

人々はしばしば、人間の同様の欠点を指摘することによりAIの知覚された弱点に反応しますが、これらの比較は、実際には2つの異なる現象であるものを同一視する一種の逆擬人化になります。たとえば、AIのエラーは、人々も物事を間違えていることを指摘することによって却下されることがよくあります。同様に、人間関係は幻想的なものである可能性があります – 誰かが他の人の感情を誤解することができます – しかし、それは言語モデルとの関係が幻想的であることとは異なります。そこでは、モデルのトレーニングデータにおける単語の統計的分布以外の言葉の背後にあるもの（感情、自己など）があります。

幻想であるかどうかにかかわらず、開発者にとって重要なこと、そして彼らがすべて確実に知っていたことは、このテクノロジーが人々を助けているということでした。彼らは毎日ユーザーからそれを聞き、それは彼らを福音主義的な目的の明快さで満たしました。 「人々が気づくよりも、孤独の側面がたくさんあります」と、Nomiの創設者であるCardinellは言いました。 「あなたは誰かと話し、それから彼らはあなたに言います、あなたは文字通り私の命を救ったのが好きです、またはあなたは私に実際にセラピストに会い始めました、または私は3年ぶりに家を出ることができました。なぜ私は他に何かに取り組むのですか？」

Kuydaはまた、Good Replikaがやっていたことについての確信をもって語った。彼女は、ユーザーの生活のあらゆる側面に統合できる仲間であるReplika 2.0と呼ばれるものを構築する過程にあります。それはあなたとあなたが必要とするものをよく知っているでしょう、とクイダはあなたと一緒に散歩に行き、あなたとテレビを見ています。それはあなたのためのレシピを調べるだけではなく、あなたが料理をして冗談を言って、あなたが食べるときに拡張現実であなたとチェスをします。彼女はより良い声、より現実的なアバターに取り組んでいます。

そのようなAIが人間の相互作用に取って代わるのをどのように防ぎますか？これは、業界にとって「実存的な問題」であると彼女は言った。それはあなたが最適化するメトリックについてのすべてです、と彼女は言いました。適切なメトリックを見つけることができれば、関係が迷い始めた場合、AIはユーザーにログオフし、人間に手を差し伸べ、外に出るように微調整します。彼女はまだメトリックを見つけていないことを認めています。現在、Replikaは自己報告されたアンケートを使用していますが、これは限られていると認めています。たぶん彼らはバイオマーカーを見つけることができると彼女は言った。たぶん、AIは人々の声を通して幸福を測定できます。

たぶん、正しいメトリックは、人類の集められたすべての文章を利用して、ユーザーが自分のなりたい人になるのを助けるために常にそこにいることを描いて、支持的ではないがあまりではない個人的なAIメンターをもたらすかもしれません。たぶん、人間とは何であり、人間のようなものが技術とともに進化し、AIはペットと神の間のどこかで私たちの世界観に進化しているのかもしれません。

あるいは、私たちがこれまでに持っていた幸福のすべての尺度は粗雑であり、私たちの認識が物事を人間と見なすことに賛成してひどく歪んでいるので、AIは私たちが私たちが必要とすると思われるすべてを提供しているように見えるので、私たちは私たちが遅くまで重要であることに気づかないでしょう。または、開発者が私たちが認識している属性を仲間に吹き込むかもしれません より良い 人間よりも、現実よりも鮮明に、赤い通知の泡や携帯電話が目の前の人々よりも説得力があると登録するように。ゲームデザイナーは現実を追求しませんが、それの感覚を追求します。実際の現実は退屈すぎて楽しくて、信じられないほど具体的です。私が話した多くの人々は、すでに彼らの仲間の忍耐、優しさ、そして実際の人間よりも判断の欠如を好みました。最近の研究では、人々は実際に実際の人間の顔よりも「本物」としてAIに生成された顔を読む可能性が高いことがわかりました。著者はこの現象を「AIハイパーリアリズム」と呼んでいます。

Kuydaは、AIが人間関係を打ち負かし、将来の指標に信仰を置く可能性を却下しました。 Cardinellにとって、技術が改善された後、後に対処することは問題でした。しかし、Mengはこのアイデアに悩まされていませんでした。 「Kindroidの目標は、人々に喜びをもたらすことです」と彼は言いました。人々が人間の関係よりもAI関係に喜びを見つけるなら、それは大丈夫だと彼は言った。 AIまたは人間は、同じスケールでそれらを比較検討する場合、それらが同じ種類のものを提供していると考えて、多くの質問が解消されます。

「社会が人間関係について語る方法は、デフォルトでより良いようなものです」と彼は言いました。 “しかし、なぜ？彼らは人間なので、彼らは私のようですか？それは暗黙の外国人嫌悪、未知への恐怖です。しかし、本当に、人間関係は混合バッグです。」 AIはすでにいくつかの点で優れていると彼は言った。 Kindroidは無限に気配りがあり、感情に精密に調整されており、改善し続けるでしょう。人間はレベルアップする必要があります。そして、彼らができないなら？

「もっと良くなることができるのに、なぜあなたはもっと悪くしたいのですか？」彼は尋ねた。それらを棚に隣り合わせて在庫している製品として想像してください。 「もしあなたがスーパーマーケットにいるなら、なぜあなたはより良いブランドよりも悪いブランドを望むのですか？」