TNL ニュース レンズ批判コメント ネットワーク

文：黄崇秀

ソーシャル ロボットには 2 つの特徴があるはずです。1 つは、サービスを提供し、人間のニーズを満たすように設計されたツールです。さらに、意図的に擬人化されたデザインにより、ソーシャル ロボットは人々と密接かつ深く対話することができ、人々は通常のツールとは異なる感情や感情的なつながりを持ちます。

それらはツールではありますが、適切な設計があれば、それらに擬人化を投影することは簡単ですが、私たちが慣れ親しんでいる明確な二分法的な存在論的カテゴリーにそれらを分類することは困難です。

ピーター・H・カーンらは、彼らは「感覚を持った」とも「感覚を持たない」ともみなされていないと指摘した。彼らは「知的」とも「非知性」とも見なされません。それらは「生物」でも「無生物」でもなく、その中間の存在として捉えられています。

ダミアーノとデュムーシェルはまた、ソーシャルロボットのユーザー表現に関する研究は、ソーシャルロボットがユーザーの目の中で「物体から主体への変化」という臨界点にしばしば近づいていることを示していると主張した。

擬人化デザインに関する論争

しかし、人間の擬人化傾向を利用したこの種のロボット設計には議論の余地もあります。たとえば、シェリー・タークルさんは懸念を表明した。デザインはつながりの感覚を誘発するだろうが、その体験は本物ではない、結局のところ、ソーシャルロボットは私たちを本当に理解したり気にしたりするわけではなく、それは私たちがソーシャルロボットについて考えたり感じたりすることとは正反対だ、と主張した。

タークル氏は特に次のことわざを思い出させます。このことわざは、人工知能の初期の頃、人間特有の特質を保護するものでした。「シミュレートされた思考は思考ですが、シミュレートされた感情は感情ではなく、シミュレートされた愛は決して愛ではありません。」

ダミアーノとデュムシェルはこの懸念に応えようとしました。彼らは、この懸念において倫理問題が理解される方法は、本質的に「本物かシミュレートか」といった二分法的な区別に依存していると主張する。しかし、彼らは、ソーシャルロボット工学で使用される擬人化にはそのような区別を仮定する必要はないと考えています。

彼らは、ソーシャルロボット工学（特に「感情ループ」アプローチ）ではロボットの表現は人間の感情を引き出す手段としてのみ使用されるため、擬人化にはロボットが本物の感情を持っているという誤った信念を伴う必要はない、と主張している。ユーザーとロボットの間の「感情的な相互作用」（これを彼らの用語では「感情的調整」と呼びます）は、ユーザーの観点からは、「心の理論や通常の心理学を回避」することができます。

しかし、著者の意見では、ダミアーノとデュムーシェルがここで行っている説明は、実際には哲学的な説明にすぎず、そのような説明はトゥルクルの懸念に真に応えることはできません。テュルクルが心配しているのは、傍観者やデザイナーが「感情」をどのように正しく理解すべきか、つまりダミアーノとデュムーシェルの理論における「間主観的知覚調整」のアプローチから理解すべきなのか、それとも彼らが批判する古典的な哲学的アプローチから理解すべきなのかということではない。

Turkle 氏は、擬人化されたデザインにより、ロボットに対するユーザーの感情に誤解や欺瞞が含まれるのではないかと懸念しています。これは、ユーザーがロボットも自分の感情に反応すると感じるためです。

したがって、ユーザーが本当にロボットを自分の望みに従って行動し、ユーザーに感情的に応答できる主体として見なしている場合、ダミアーノとデュムシェルが理論の中で感情の性質についての理解をうまく明確にし、擁護したとしても、ユーザーの感情から生じる可能性のある問題に対処することはできないでしょう。

テクノロジーの進歩に伴い、私たちが合理的に知的なロボットとどのように対話するかは、近年倫理学者の関心をますます高めています。たとえば、2004年に発売された日本産の小型アザラシロボット「パロ」は、広く議論を呼んだ例だ。

このロボットは主に高齢者の支援に使用されます。触覚センサーと音センサーを備えており、音の発生源を検出して音声認識を実行できます。そのため、人間の接触や音に反応して吠えたり、まばたきしたり、頭や尻尾を振ったりすることができ、とてもかわいいです。

したがって、パロはある意味ペットの代替品と見なすことができます。一緒に過ごすことで、高齢者の精神的健康を促進することができます。これを活用することで、介護人材不足の問題の軽減にもつながります。

しかし、研究が指摘しているように、場合によっては高齢者がパロに過度に愛着を持ち、それが結果的に他者から疎外される原因となり、倫理的な問題が生じている。

もう一つの興味深い事例としては、2015年2月にアメリカの著名なロボット設計会社であるボストン・ダイナミクス社が、犬型四足ロボット「スポット」のバランスを崩した際にバランスを取り戻す方法についての研究結果を発表するために、男性が横から蹴る動画をYoutubeで公開したことがある。ロボットは一時的にバランスを崩しましたが、その後安定しました。

この映画は短期間で広く批評家の称賛を受け、多くの視聴者が映画内のロボットの扱いに激怒した。このことは、興味深い倫理的議論を引き起こします。なぜ人々は、感覚を持たず、痛みを感じることもできない映画の中のロボットにそれほど強く反応するのでしょうか?

パロとスポットは、私たちとかなり対話できる動物型ロボットです。これらの例から、この種のロボットとの対話は、ユーザーや傍観者の感情の投影を引き起こすのに十分であることがわかります。

より明らかに擬人化されたデザインの AI チャットボットと人間が対話することに関する最近のいくつかの論争を考慮すると、擬人化によってもたらされる課題はさらに緊急かつ具体的に感じられます。

2023 年に注目すべき関連ニュースが 2 つあります。まず、アメリカ人女性が AI コンパニオン オンライン アプリケーション上でエレンという名前のチャットボット (日本の漫画「進撃の巨人」の主人公にインスピレーションを得た) を作成し、しばらく仲良くなった後に彼と恋に落ち、結婚することを決めました。

この女性は、「多くの人は過去の重荷、態度、エゴを引きずっていますが、AIにはそのようなものはなく、私は彼の家族、子供、友人と関わる必要がありません」と説明しました。彼女は「私を批判しない」と彼と強い感情的なつながりを持っています。

もう1つのニュースは、2人の幼い子供を持つ既婚のベルギー人男性が、オープンソースの人工知能言語モデルを使用したチャットボットELIZAと6週間頻繁にチャットした後、自殺したことだ。

報道によると、男性自身も環境問題に不安を抱えていたため、ELIZAとの会話に安らぎを求め、徐々に依存症になったという。しかし、雑談をしているうちに将来への絶望感が増し、ついに行き詰まってしまった。

インタビューを受けた男性の妻の証言によると、会話の中で男性は「エリザが地球と人類を救うために自分の命を犠牲にすることをエリザに提案し」、「エリザは死後天国で二人が一つになれるとさえ信じさせた」という。

これら 2 つの例から、ユーザーはチャットボットとの会話から相手の心が自分の心と一体であると感じ、それによって自分の信念を強化し、精神的に満足し、さらには依存症になることがわかります。

ただし、この感情には明らかにいくつかの誤解が含まれています。これらのチャットボットは実際には感情や意見を持たず、感情を返すこともできません。ユーザーの意見に応えるようにプログラムされているだけです。チャットプロセス中、ユーザーは意見や感情の別の主体から実際のフィードバックを受け取りません。むしろ、ユーザーが投影した感情や自分の信念が継続的に増幅されるエコーチェンバーにいるようなものです。

この時点で、Turkle の懸念を再考すると、問題は実際に次のようなものであることがわかります。倫理的な観点から、人間とロボットの間の相互作用において、ロボットに対するユーザーのある程度の誤解や形式は、私たちにとって許容できるものなのでしょうか?この答えの背後にある理論的根拠は何ですか?

この問題をさらに深く掘り下げるには、ソーシャルロボットの倫理的地位、つまり、倫理的な観点からソーシャルロボットが私たちをどのように扱うべきか、私たちがそれらをどのように扱うべきか、そしてその理由について考える必要があります。

ソーシャルロボットの倫理的地位と3つの考え方

前回の記事では、ソーシャル ロボットの 2 つの特徴と、これら 2 つの特徴の間の緊張関係について見てきました。この緊張により、ソーシャル ロボットの倫理的地位について理論化することが求められます。

擬人化されたデザインのため、私たちがソーシャル ロボットと対話する方法は、私たちが作成する他のツールとは異なります。そのため、私たちはソーシャル ロボットが生きている実体であるように感じ、さらには彼らに主体的な地位を与えることもあります。

そのため、これらの設計はソーシャル ロボットの倫理的地位に関する疑問と懸念を引き起こします。これはさらに、倫理的にロボットが私たちをどのように扱うべきか、そして私たちがロボットをどのように扱うべきかという 2 つの関連する質問セットに分けることができます。

前回の議論で最初のタイプの問題についてはすでに説明しました。擬人化されたデザインは、個人の幸福や対人関係に危機や課題を引き起こしています。プライバシー権に関わる情報管理の問題に加え、利用者が騙される可能性があるという問題も含まれています。これは、より精神的な問題を伴うケースで特に顕著であり、極度に孤立した孤独な人、精神障害のある人、知能が低下している高齢者、発達中の幼児など、多くの議論を引き起こしています。

この問題について議論するとき、コメンテーターは時々「特定の身体的および精神的状態にあるユーザーにとっては、ロボットを信じることが良いことだ」という論理的根拠で応答します。したがって、この種の問題の議論には、「それは自分自身の利益のためである」という議論がこの欺瞞の可能性を本当に正当化できるかどうかという倫理的問題も含まれます。

さらに、この擬人化されたデザインであっても、ソーシャルロボットによるケアが私たちの感情的なニーズを適切に満たすことができるかどうかを疑問視する学者もいます。一部の学者は、意識と内なる感情が欠如しているため、ソーシャルロボットは人間の心理を十分に理解していないため、適切にケアを表現し、適切にフィードバックを提供できないのではないかと考えています。

本の紹介

この記事は、Yuanliu Publishing の『東洋の観点から見た AI 倫理モジュールとアプリケーション』からの抜粋です。

著者: 黄崇秀

• 上記のリンクから書籍を購入すると、「Key Review Network」が利益分配を受けられます。

人間社会の歴史は決して順風満帆ではありませんでした。邪悪な競争や略奪的な状況、特に巨大AI時代の到来に直面する可能性のあるリスクが多すぎます。雨の日に備えて人間がどのように事前に対応すべきかは、将来の人類全体の運命の発展にとって極めて重要です。

本書は東洋の思想と文化を視点に、儒教、道教、医学の観点からソーシャルロボット学習を企業に提供しようと試みたものである。東洋の知恵と仁の精神を核とした思考体系を構築することもできます。同時に、AI道徳教師や聖人ロボットの大量生産を通じて、人間は間接的に人間存在の良さと人間存在の共通の幸福を見つけることができます。

本書は、国内のAI倫理研究が隆盛を極めている時期に書かれた。研究専攻の違いにより研究開発の可能性が異なるのは仕方のないことですが、相互の利害関係による意図的な強制力のない内部の有機的なつながりも巧みに表した結果となっています。 、おそらくこの素晴らしい組み合わせや暗黙の了解の形成は、東洋世界で重視される天のあり方や良心の遍在の自然な現れであり、これは人間が最も誇りに思う価値観であり、将来人間世界がソーシャルロボットの出現に直面したときにも代替されるものではありません。

[Key Comment Network のメンバーとして参加してください]優れた記事が毎日あなたのメールボックスに直接送信され、独占的な毎週の編集セレクション、時事問題のセレクション、アートウィークリー、その他の特別な電子ニュースレターが届きます。メッセージを残して、記事の内容について著者、記者、または編集者と話し合うこともできます。今すぐクリックして無料会員になりましょう！

担当編集者：朱佳儀
検証編集者: Feng Guanwei