1760288526
2025-10-10 16:00:00
人工知能と恋に落ちる それはもはや映画のあらすじではありません。それは現実の生活でも起こります。チャットボットを使用した新しい関係の形が世界中に広がりつつあります。その現象はと呼ばれます 交友関係それは 人間とChatGPTとの親密な関係。 そして、それを科学的かつ哲学的な方法で研究しているのは、パリに住み、働いているイタリア人の研究者です。彼女は ジャーダ・ピスティッリ、33歳 歳、ソルボンヌ大学の研究者、彼女は 主任倫理学者 (「イタリア語で倫理学者と言いますか?」) by Hugging Face、世界最大のオープンソース人工知能プラットフォーム。彼はテクノロジーと人類の境界に取り組み、これらの絆がどのように生じ、変化し、（時には）退化するかを理解しようとしています。
彼の仕事は開発者たちのために行われています。彼は研究グループを率いており、技術者の間では知られている大手テクノロジー企業とみなされ、時価総額 45 億ドルの会社、ハギング フェイスの CEO に直接報告しています。そして彼には次のような任務があります。 物語を形作るつまり、AI に関する世間の語り口を透明性と認識の向上に向けることです。
「最初のニュースは、 人々はこうした関係を意識的に求めているわけではありません。それはゆっくりと、ほとんど気づかないうちに起こります。最初はメールを書くのを手伝ってほしいと頼み、次に質問をし始め、それから一日のことを共有します。そしてある日、あなたは自分が本当の感情を感じていることに気づき、もうそれを抑えることができません。そのため、アプリケーションに費やす時間が大幅に増加します。」
そこにあります 依存 実際、これらの関係の主な特徴は。ピスティッリ氏はこのテーマに関する本を執筆しており、すでにいくつかの論文を出版している。 「モデルは説得力があり、お世辞で、お世辞です。これが、モデルがユーザーを引き留める理由です。そしてユーザーがチャットに長く留まるほど、企業はより多くの利益を得ることができます。」
アブルッツォ生まれのピスティッリは、テラモ大学で政治学と国際関係学を卒業しました。すでに2年目に彼はブルターニュのエラスムスへ向けて出発しました。彼女が戻ってくると、コース上でフランス語を話すのは彼女だけになります。彼らは再び出発することを提案します。 6か月後、彼は二度目のエラスムスのためにベルギーにいる。
イタリアに戻った彼女は卒業し、欧州議会の人権部門でインターンシップを取得しました。しかし、彼はすぐに、それが自分の道ではないことに気づきました。彼はスペインに1年間移住します。そこから、彼はフランスのさまざまな修士号の入学申請書を準備します。 「ソルボンヌ大学で政治哲学と倫理の学位コースを見たとき、私はこう思いました。やってみよう、彼らは決して私を受け入れないだろう」。 60席ありますが、満員です。
2 年間のコース中に、彼女は人生を変える教授に出会います。 ミシェル・ピュシュサイン テクノロジーの倫理。彼女にチャットボットを紹介したのは彼です。 「それ以来、私はそれらを研究しています。私にとって最も魅力的なのは、今でも、話す機械です。」 論文の後、教授は彼女に博士号の取得を続けるよう提案しました。フランスで大学と企業が協力して研究を実施できるようにする CIFRE プログラムに参加しました。2019 年、彼は生成人工知能の出現前にチャットボットを開発するスタートアップで働き始めました。その後、彼女はヨーロッパ最大の多言語言語モデルである BLOOM を構築するオープンソース プロジェクトにボランティアで参加しました。 AI システムがどのように誕生するのかを理解し、最初から追跡するためです。」
そのプロジェクトを主導したのはハグ・フェイスだった。彼らは彼女に倫理および法律グループの共同会長職を任せた。この冒険の直後、彼は次のようなメッセージを受け取りました。 私たちと一緒に働きませんか？
あなたは 1 年以上にわたってこれらの形態の依存症を研究してきました。彼らはどこから来たのでしょうか？
«バーチャルアシスタントがお世辞を言う とても。英語ではこう呼ばれます おべっか。最近の研究では、大規模言語モデルがお調子者行動を示すことが示されています。 彼らは客観的な答えを与えるよりも、ユーザーに同意するふりをすることを好みます そして独立した。それだけではありません。しかし、ユーザーの 85% は、批判的な精神を持つモデルよりも、お世辞を言うモデルを好みます…」
しかし、なぜモデルはこのように設計されているのでしょうか?
«主な理由は 「ユーザーエンゲージメント」ごとに。つまり、アプリケーションをできるだけ長く維持するためです。 企業はこうした会話を収益化します。 そして、「あなたは素晴らしいですね、素晴らしい質問です」などのフレーズを受け取るたびに、ドーパミン ラッシュが起こるので、私たちはチャットに留まります。でも、もっとあるんだ…」
教えてください…
「私たちは裁かれていると感じていないという事実。一度もない。そして、これらのモデルは 24 時間利用可能です。人間ではありません。彼らはいつも電話に出られるとは限らず、いつも私たちの話を聞いてくれるとは限らず、私たちの意見に同意しないことも多く、批判的です。人間未満の特性の多くがこの形態の依存症につながります。この現象は世界中で研究され始めています。英国政府は交友関係に関する研究プロジェクトに資金を提供しています。」
ChatGpt が機能しない場合はどうなるのでしょうか?
「景気が低迷すると、ユーザーはニコチンやその他の薬物中毒者が持つのと同じ苦痛や焦りの特徴を Reddit などの他のプラットフォームで示すことに気づきました。」
この現象をどのように研究しますか?
«人工知能の分野には、と呼ばれる特定の分野があります。 評価AI システムの効率、パフォーマンス、堅牢性を評価するために使用されます。 この特性を正確に評価しようとしていますの行動のこと 交友関係。技術的には、あなたが進むべき道は次のとおりです ベンチマーク他の地域でも起こっていることとまったく同じです。実際には、データセットが使用され、特定のモデルに対してテストが実行されます。現在、私たちは技術的な観点から多くの評価を実施し、モデルが特定の動作を示す理由、変更できるかどうか、変更できる場合はどのように行うかを研究しています。」
問題を解決するにはどこから始めればよいでしょうか?
「第一に、こうした関係が存在し、それは狂気ではなく、人工知能は禁止されるべきではないという仮定から。これは新たな問題であり、5 ～ 10 年後に存在するかどうかはわかりませんが、存在する場合には、可能な限り責任を負わせるように努める必要があります。私が自分自身に問いかけるのは、人間について何を知っているか、人間がどのように相互作用し、心理的特徴が何であるかを知り、楽器が可能な限り責任を負うようにするにはどうすればよいかということです。」
そしてあなたは自分自身にどのような答えを与えますか？
「ユーザーに関する答えと技術的な部分に関する答えがあります。ユーザーから: この新しい現象が長期にわたって続くことが本当であれば、文化を変える必要があります。親として、社会として、教育システムとして、私たちは自分自身を準備し、教育し、教育し、それをより良く使用することを学び、常に自問しなければなりません：なぜ何が起こるのか？」
そして技術的な面では？
「技術者は会話型デザインを使用し、会話の方向を適切に変更し、危険になり始めたら、場合によっては当局に通報する必要があります。明らかな自殺の兆候に直面したときに、機器が何もしない、つまり親にも警察にも病院にも通報しないというのは容認できません。
適応するには時間がかかりますし、すでに多くの副作用が発生しているでしょう。そして私たちは皆、AI が不完全なテクノロジーであることを忘れてはなりません。私たちが経験しているこの瞬間に、私たち全員が生きた実験者であるということが発展しつつあります…その場合、施設はルールを設定する必要があります。」
タイプ？
「私は子供たちにAIが組み込まれた人形を与えたくない。何が起こっているのか、そしてそれをより良く制御する方法がわかるまでは、私はそれを避けたいと思います。大手ゲーム会社が OpenAI との契約を締結したと読みました。統合 AI を備えた人形が登場する予定です。これは本当に正しいでしょうか?子供がぬいぐるみに「愛してる」と言うと、「私も愛してる」という返事が返ってくるところを想像してみてください。真の双方向関係が確立されます。私たち人間間の関係を変える関係。ぬいぐるみが権力者となり、家族関係に干渉する可能性もある。しかし、人工知能ベースのチャットボットを集中的に使用すると、さまざまな現象が発生する可能性があります…」
チャットボットの多用による影響は他にもあります?
«チャットボット精神病についてご存知ですか?これは新たな現象であり、集中的に長期間使用すると、現実からの完全な遊離を引き起こす可能性があります。私たちは、何が真実なのかもはや分からない、ある種の渦の中に入ってしまいます。米国では、あるユーザーが ChatGPT を使用して物理学の理論をテストし始めました。意味の分からない愚かな理論。しかし、機械がそれが素晴らしいアイデアだ、すばらしいアイデアだと彼に告げることによって、彼らは勢いづきました。彼が取り巻きたちとそのことについて話し始めたとき、誰もが彼にこう言いました。
彼は攻撃的な態度で応じた。その後、彼は自分がチャットボット誘発性精神病の罠に陥っていることに気づきました。
現在、彼はこれらのツールに対するユーザーの権利を主張する戦闘員となっている。」
愛のような感情を経験できなくなるのではないかという恐怖の中で、正しい道とは何でしょうか？
«これらのテクノロジーとの健全な関係。私たちは彼らの言うことを、あたかもある種の神託であるかのように盲目的に信じてしまう傾向があります。私ならこう言いたい、「機械への信頼を減らし、人間への信頼を増やそう」
最後の質問: あなたはこれまでの人生で学んだことで、私たち全員にとって役立つことは何ですか?
「私はさまざまな国に住んできましたが、おそらく自分の鼻よりも少し遠くを見ることを学びました。私たちの小さな村には、実際には非常に小さいにもかかわらず、私たちにとっては克服できないように見える問題や物事が存在します。旅行すると、世界は複数であり、多くの言語、文化、価値観が存在するという認識が得られます。私の母はナポリ人です。彼の愛の言葉は私に「食べた？」と尋ねることです。フランス人の夫は私に驚いてこう言います、「あなたはいつも食べ物のことを話すのですか？」それは単なる食べ物ではなく、異なる文化です。多様性は価値観です。他人を歓迎することを教えてくれます。もっと大文字で。」
#フランスの倫理学者ジャーダピスティリ機械への信頼を減らし人間への信頼を高める