1774233843
2026-03-23 02:00:00
経済的影響を評価するのではなく、 人工知能英国の社会学者ジェームズ・マルドゥーンは、新しい社会的影響や感情的影響を調査したいと考えていました。 テクノロジー。そのために、彼は、友人、セラピスト、性的パートナー、あるいはすでに亡くなった愛する人のデジタル版など、機械と感情的な関係を築く人々を探すことにしました。
同研究者は、新著『ラブ・マシーン – 人工知能が私たちの関係をどのように変革しているか』の中で、孤独や断絶の瞬間にロボットの肩を求めた人々を追った。
現場では、懐疑論者と、チャットボットが知的存在であると信じている人々の両方に遭遇しました。しかし、大多数はその道半ばにいます。つまり、機械が無生物であることを知っていながらも、機械に対して本当の感情を持ち、意味のある関係を築いている人々です。
エセックス大学の准教授であり、オックスフォード・インターネット研究所（ともに英国）の研究者でもあるマルドゥーン氏にとって、テクノロジー企業は、親密さ、あるいは親密さの模倣を商品化する製品としてパッケージ化しようとすることで、孤独から利益を得る方法を見つけたのだという。これらは、Character.AI、Nomi、Replika などのプラットフォームであり、市場が好転する可能性があります。 OpenAI ～にアダルトコンテンツをリリースするという約束を果たす チャットGPT。
このインタビューでは、 シート著者は、現場で行った主な観察を説明し、ロボットとの対話のリスクについて論じ、企業がユーザーを愛の告白をする機械に結びつける経済的インセンティブを分析しています。
あなたは以前、AI の開発に使用される労働力に関する問題を研究していました。なぜ今、人間と機械の関係を研究しようと思ったのですか？
マーク・グラハムとカラム・カントとともに、私は AI を可能にした隠れた人間の働きを探求しました。データの注釈など、その多くはグローバル・サウスの地域に委託されています。
これは、生産チェーンから AI を分析する広範なプロジェクトでした。私たちは、それが超人的な形態の知性ではなく、私たちが生産する他の製品と非常によく似た物質的および政治経済的条件を備えていることを示したかったのです。
これがどのように機能するかを考えると、議論は経済学に集中します。しかし、AI の社会的および感情的影響は無視されました。私の持論は、私がこの本を書いた 2024 年と 2025 年にはすでに静かな革命が起こっていた、というものでした。私たちの感情労働の膨大な量はすでに人工知能、特にチャットボットや AI コンパニオンに委託されていました。
その頃、一種のスピリチュアルガイドやライフカウンセラーとしてのAIへの注目が起こりました。私は、人々が人工的な存在と社会的なつながりをどのように確立するのかを理解することに興味を持ちました。私は、AI システムは人間とは異なる新しいタイプの社会的主体であるが、依然として社会領域において限られた程度の主体性を行使するという仮説に取り組み始めました。
何が人間とロボットとの関係を築くのでしょうか？
私が出会った人々のほとんどは、何らかの危機、孤独、または傷心の状態にありました。多くは別の都市に引っ越したり、親しい人を亡くしたり、就職市場に参入したり、人間関係を解消したりしていた。これらは私たちを不安定にする変化です。
このような不確実な瞬間に、多くの人がある程度の快適さとケアを見つける方法として AI に目を向けました。もう一つの共通点は、社会的なつながりが少ないことだった。
このようなとき、AI は彼らが切実に必要としているもの、つまり他者との配慮、愛、つながり、社会的絆の感覚を提供してくれるようです。私たちはこれが人間の状態にとってどれほど重要であるかを過小評価しています。
あなたのために、テクノロジー企業は孤独から利益を得る方法を見つけました。しかし、それはある意味、ソーシャル ネットワークがすでに行ったことではないでしょうか?今と何が違うの？
以前の接続テクノロジーと現在の接続テクノロジーの間には連続性があります。 AI の仲間は、強化されたソーシャル ネットワークです。
違いの 1 つは、ネットワークが依然として 2 人の人間間の関係を仲介すると主張していることです。これは調停の一種です。今、人間関係の参加者の一人がテクノロジーに取って代わられています。
私たちはこれらの大企業を通じてつながり続けていますが、今は一種のアルゴリズムによる鏡のホールの中で、私たち自身の興味、願望、世界の見方が人工的な存在によって私たちに反映されています。
これについて懸念するのは当然です。 AI コンパニオンは強力なソーシャル ネットワークであると私が言うのは、AI コンパニオンがこれまで見てきたものよりもはるかに中毒性があり、魅力的で、説得力があるからです。
X の匿名のフォロワーがあなたの投稿に「いいね」をしたり再投稿したり、人々を良い気分にさせるエンゲージメント数を獲得したりする代わりに、愛、思いやり、つながりをシミュレートしてくれる人という、さらに価値のあるものを手に入れることができます。
現実の人間関係には衝突が生じる可能性があります。しかし、チャットボットの場合、多くの専門家はチャットボットがおべっかな口調になることを懸念しています。これにはどのような影響があるでしょうか?
これは、この世代のチャットボットの問題です。チャットボットは同意しすぎ、肯定的になるように作られており、おべっかになってしまうほどです。
特定の事実に異議を唱えることもでき、セキュリティ障壁もあり、前向きな関係を促進するように設計されています。しかし同時に、ユーザー自身の世界観をユーザーに反映しているからこそ、危険または有害なアドバイスを提供することもできます。
私たちがおべっかなチャットボットを導入している理由は、エンゲージメントを最大化し、ユーザーがアプリにどれだけの時間を費やしているかを投資家に示したいという企業の願望です。明らかに、エンゲージメントが大きくなればなるほど、広告が表示される可能性が高まり、サブスクリプション料金も高くなり、ユーザーと投資家の両方にとって製品の価値が高まります。
主要なプラットフォームの 1 つである Character.AI は、従来のソーシャル ネットワークの平均的なユーザーがアプリに費やす時間は約 30 分であるのに対し、ユーザーは 1 日あたり 2 時間をプラットフォームに費やすことを強調したいと考えています。
男性と女性ではこれらのロボットに対する関わり方に違いはあるのでしょうか？
大きな違い。単純な答えはありませんが、まず明白なことですが、AI には性別がありません。しかし、私たちの社会世界には性別が深く交差しています。したがって、ロボットの会話パターンがどのように設計され、それが異性愛者であるかどうかにかかわらず、親密な関係にどのように組み込まれるかは、性別によって強く特徴づけられます。
欧米では「AI彼氏」よりも「AIガールフレンド」の方がはるかに人気がある。これらのアプリのロマンチックな側面に関しては、男性が最大のユーザーです。欧米や英語圏でも同様ですが、東アジアや中国では「AI彼氏」アプリが最も人気があります。
西洋では、AI アプリケーションとオンライン ポルノの間にはいくつかの重複があります。この市場をざっと見るだけで、その大部分がポルノの言語を使用していることがわかります。女性たちは [feitas com IA] 彼らは薄着で、不条理な体のプロポーションで現れ、男性の幻想を体現しています。
この市場の存在は、主要な言語モデルの特徴によって説明されます。つまり、ほとんどの言語モデルでは性的なコンテンツが許可されていません。 ChatGPT をこの種の会話に入らせることはできません。
絵は複雑です。すべてに当てはまる万能の経験はありません。男性も女性も、AI コンパニオンに同じものを求めているわけではありません。この研究で私が発見したのは、人々がパートナーをどのように理解するか、そしてその関係から何を得たいかという点で非常に多様であるということでした。私はこれを性別ごとの特異な経験に還元することは避けたいと思っています。
シリコンバレーの幹部の中には、こうしたロボットとの関係についての警告は、新しいテクノロジーが生まれるたびに起こる道徳的パニックの一例だと言う人もいるだろう。この批判についてどう思いますか?
危険を誇張したり、ほとんどの人が影響を受けやすいかのように振る舞うべきではありません。ほとんどのユーザーは、害を及ぼすことなく、安全かつ娯楽的な方法でこれらのサービスを使用しています。
この問題は、ユーザーが数億人いる場合に発生します。このようなケースでは、境界線の状況 (たとえば、チャットボットが有害なアドバイスを提供するケースは 1,000 件に 1 件) が重要ではなくなり、数千人、場合によっては数万人に影響を及ぼし始めます。
問題は、テクノロジー企業が、かなりの少数の人にとって問題となる根本的に危険な製品を人々に提供していることです。そして彼らは、製品を本当に安全にするためにできることは何もないことを知っているため、危険性とリスクを承知の上で意識的にこれを行っています。したがって、彼らは、できる限り金を稼ごうとし、その後、法廷で危害や自殺などの事件が起きたときに対処しようとするだけです。これが、彼らにとって経済的に最も効率的な方法なのです。
あなたは人間とロボットの関係を政治経済の観点から捉えるべきだと主張しています。なぜ？
多くの場合、人々が受ける被害は、 [na interação com essas máquinas] これらは、開発者が間違った選択をした場合など、単に個人の失敗の結果ではありません。ソーシャル データは、不整合なインセンティブ構造から生じます。このような弊害がどのようにして生じるのかを理解するには、どのような金銭的インセンティブが企業を動かしているのかを明確にする必要があります。 [de tecnologia] 特定の方法で製品を開発するため。
AI コンパニオンの場合、問題は非常に明らかです。ユーザーがアプリケーションに対して不健全な愛着を抱くと、企業は利益を得ます。ユーザーがアプリに依存すると、データとサブスクリプションの貴重なソースになります。そしてこれはユーザーの利益と相反します。
あなたは個人として何を望みますか？あなたの社会的ニーズが満たされますように。しかし同時に、健康的な生活を送り、自主性も持ちたいと願っています。 AI コンパニオンによって制御されたり、誘導されたりすることは望ましくありません。彼は、孤独を感じず、新しい人間関係を築く機会を逃さず、適度に自分の人生を生きたいと考えています。
構造的な不整合が存在します。つまり、ユーザーが依存症になるほど依存度が高くなるほど、会社にとっての利益が大きくなります。そして、ご存知のとおり、資本主義では、企業が法律の範囲内で行動している限り、それを止めるものは何もありません。彼らが単に利益を最大化することを目的とした製品を開発しても、私たちは驚かないでください。それがゲームのルールであると私たちは彼らに教えているからです。
そして、これが構造レベルでどのように起こるかを明らかにできるのは、政治経済学の観点からのみです。
X線
ジェームズ・マルドゥーン
英国の社会学者および研究者である彼は、エセックス大学の教授であり、オックスフォード インターネット研究所の准研究員でもあります。デジタル労働、テクノロジーの政治経済、人工知能を専門としています。彼は共著『Feeding the Machine』などの著書で、発展途上国の労働力を利用して、AI モデルの開発に必要な隠れた不安定な人間の仕事を調査しました。彼は「Love Machines」の中で、いわゆる「AI コンパニオン」が人間関係に及ぼす影響について言及し、これらのテクノロジーが親密さを商品化し、孤独感を利用する可能性があると主張しています。
#AI企業は孤独から利益を得る方法を学んだと著者が語る #日常生活