SF はどのように私たちを救ってくれるのか

テッド・チャンの短編小説「ソフトウェア オブジェクトのライフサイクル」では、スタートアップが「ディジエント」と呼ばれるインテリジェントなデジタル ペットを販売しています。最初は、彼らは単純な生き物で、デジタルの遊び場をよちよちと歩き回る、ぶよぶよの仮想動物です。しかし、飼い主は、言葉を教え、一緒に遊び、世界を案内するなど、子どもを育てるのと同じように育てます。何か月、何年もかけて、ディジエントは成長します。彼らは漫画のような動物から人型のアバターに進化し、独特の個性、ユーモアのセンス、感情的なニーズを発達させます。彼らはどう見ても最愛の仲間です。

その後、市場は変わります。プラットフォームを構築した会社が倒産。デジエントが住む仮想世界は閉鎖される予定だ。彼らの所有者は、長年の愛情と関心の賜物であるコンパニオンを永久に削除するか、困難で不完全な新しいプラットフォームへの移行に多額の費用を支払うか、悲痛な選択に直面しています。それは、現実的な経済感覚と、伝統的な意味では生きていない存在に対する深い忠誠心の間での選択です。

これはサイエンスフィクションです。あるいはそうでした。私たちはすでに、蒋介石のディジェントの初期の形態に囲まれています。 Alexa と Siri に話しかけます。私たちは、実用的で非常に個人的なサポートとして ChatGPT を利用しています。何百万人もの人々が、自分の好みを学習して共感を模倣する AI チャットボットとの付き合いを見つけています。現在、人々はお気に入りの AI チャットボットの個性がバージョンアップによって消去されてしまい、すでに悲嘆に暮れています。テキサス州の49歳の教師は「かなり泣いた」と語った。 ガーディアン OpenAI 上の仮想 AI コンパニオンの喪失について。その一方で、法的、文化的、心理的に調整しようとする私たちの試みが難航しているにもかかわらず、テクノロジーは加速し続けています。蒋介石の物語のようなジレンマは、将来さらに悪化するのは確実だ。何を準備しておけばよかったでしょうか?

続きを読む: 「SF は未来を形作るのか?」

アイザック・アシモフはかつて、SF の仕事は「自動車ではなく交通渋滞」、つまりテクノロジーそのものではなく、その厄介で意図せぬ人間への影響を予測することであると述べました。亡くなった愛する人を完璧に模倣できるAIをどのように規制するのでしょうか？自律エージェントが物流だけでなく他の人々も管理できるようになったら、労働力はどうなるでしょうか? AI の方が優れているからではなく、AI の方が簡単だからという理由で、何百万人もの人が人間のコンパニオンよりも AI のコンパニオンを好むようになったら、何が起こるでしょうか?心理学者のポール・ブルームが考えたように、AI の交友関係によって孤独が退屈と同じくらいオプションになったら何が起こるでしょうか?これらは技術的な質問ではありません。それらは人間の心理、道徳、社会に関する質問です。

1980 年、技術政策学者のデビッド・コリングリッジは、「コリングリッジのジレンマ」として知られるようになる問題を特定しました。つまり、技術開発に合わせて調整することになると、私たちは窮地に陥ってしまいます。テクノロジーが開発され、広く導入されるまでは、その影響を予測するのは困難です。しかし、その時までに、それについて何もすることははるかに困難になります。ソーシャルメディアを考えてみましょう。 15 年前、友人をつなぐために設計されたプラットフォームが、10 代の孤独や不安の増加、政治的二極化、共有される真実の浸食につながると予測する人はほとんどいませんでした。私たちがデータを手に入れた頃には、システムはすでに私たちの社会的および経済的生活に深く根付いており、有意義な変化を信じられないほど困難にしていました。

従来、これらの最先端テクノロジーに備える仕事は、潜在的な結果を生き生きとした物語で捉える SF 作家の仕事でした。しかし、もっとできるとしたらどうでしょうか?未来についての物語をただ語るのではなく、それについて実験を行うことができたらどうでしょうか?

これは、私たちがサイエンス フィクション サイエンス (または、流行に敏感な場合は SF サイエンス) と呼ばれる手法の背後にあるアイデアです。私たち 3 人は、マックス プランク研究所、ブリティッシュ コロンビア大学、トゥールーズ経済大学院で、人々が新興テクノロジーにどのように反応するかを研究する行動科学者です。私たちは何年もの間、技術的な野心とそれが人間に及ぼす影響についての理解との間のギャップを埋めるために努力してきました。まだ名前はありませんでしたが、私たちの主なツールは SF でした。

実行が複雑であっても、コンセプトはシンプルです。行動科学の厳密な手法を SF の思索的なシナリオに適用します。将来のテクノロジーのシミュレーションを構築します。現代の人々をその未来の制御されたバリエーションに浸します。彼らが考え、感じ、行動することについての定量的な尺度を収集します。これらの方法が、将来のテクノロジーが人間に与える影響を予測し、それをより良い方向に導くのに役立つことが期待されています。

この種の研究は、統一した名前や共通の手法を持たずに、さまざまな分野に散在してすでに存在しています。自動運転車の倫理に関する私たち自身の研究はその一例です。 10 年前、私たちはモラル マシン実験を開始しました。これは、自動運転車が直面する可能性のある一瞬のジレンマを世界中の何百万人もの人々に提示するシンプルなオンライン プラットフォームです。乗客や歩行者を避けるために車は方向転換すべきでしょうか?高齢者のグループを救うのか、それとも子供のグループを救うのか?

私たちは、まだ市場に出ていないテクノロジーに対する倫理的嗜好に関する大規模な世界的なデータセットを収集しました。人々は一般に、より多くの命を救い、若者を救うことを支持していましたが、好みは文化によって大きく異なり、社会が個人の権利と集団的な結果を比較検討する方法の深い違いを反映しています。

続きを読む: 「SF では、私たちは決して家にいない」

他の研究者は、人間が密かに機械を制御して未来の知能レベルをシミュレートし、ロボットのボスの命令に人々が従うかどうかを確認する実験を行った。多くの参加者は、指示に不快感を感じながらも従った。スペクトルの最も没入型の端では、科学者たちはユタ州の砂漠と北極の氷に本格的な火星の生息地を構築し、将来の地球外植民地の極度の孤立と心理的ストレスをシミュレートしました。たとえそう呼ばれなかったとしても、これらはすべて SF の SF 実験です。

チェン氏のデジジェントに関する物語をどのように形にできるでしょうか?

あなたが研究の参加者であると想像してください。 1 時間、あなたはデジタル、つまり、蒋介石が説明した種類のテクノロジーを模倣するようにプログラムされた AI エージェントと対話します。会話を通じて新しい単語を教えます。あなたはそれが簡単なパズルを解くのを手伝い、あなたの選択に応じてその個性が成長するのを観察します。あなたの名前を学習します。あなたが言ったジョークを覚えています。セッションの終わりに、研究が終了し、時間に対して 20 ドルのボーナスを獲得したことが告げられます。ただし、落とし穴があります。直前 1 時間かけて育成した AI は削除される予定です。

ここで、物語と同じ選択肢が提示されます。デジエントを削除して、20 ドル全額を持ち帰ることができます。保存するには、20 ドルの半分を犠牲にして、永続サーバーへの移行資金を投入し、永続的に存在し続けることができます。あるいは、5 ドルの少額の利益で、自分の会社の権利を別の会社に売却することもできます。会社の意図は曖昧だ。研究に使用されたり、そのコードが商用製品に再利用されたりする可能性があります。

あなたならどうしますか？どうするだろう ほとんど 人々はそうしますか？どのような人がいるかを尋ねる簡単なアンケート 考える 彼らがやることは一つだ。しかし、この実験は実際の行動を測定するもので、お金と、絆を深めて一時間過ごしたばかりの人間以外の存在に対する道徳的義務との間の実際のトレードオフを強いられる。そして、それは別のことも強制します。それは、あなたにとって交友関係が実際に何を意味するのかということと向き合うよう求めます。あなたはこのデジタル生物を 60 分間知っていますが、それを削除するか、未知の運命に引き渡すかの選択は、本当に不快に感じるかもしれません。このことは、すでに登場しているはるかに洗練された AI 仲間と私たちがどのように関係していくのかについて、何を教えてくれるでしょうか?

この実験を何百人もの人々で実行することで、私たちが人工生命にどのような価値を置いているかに関する実際のデータを収集し始めることができます。変数を微調整することもできます。デジエントを救うための価格が 2 ドルであれば、決定は変わりますか?それとも18ドル？デジエントが削除されることへの恐怖を表明したらどうなるでしょうか?他の参加者の 90% が自分の参加者を保存することを選択したと言われたらどうしますか?特定のグループの人々は、仮想エージェントに対して強い愛着を抱きやすいのでしょうか?

そして、愛着は物語の一面にすぎません。同じ方法で可能性を探ることができる 欠点 AI の仲間たち。無条件に自分を正当化し、決して挑戦せず、最大限に同意するように設計された AI に人々が依存するとどうなるでしょうか?それは、摩擦、妥協、不快への寛容を必要とする現実の人間関係の能力を弱めるのでしょうか？それは若者や社会的に孤立している人々にとって特に危険な感情的依存を生み出しますか?これらは、哲学者や心理学者が人間と AI の関係のリスクについて提起し始めた問題です。 SF は、彼らを哲学的思索から実証的調査へと移行させるのに役立つかもしれない。

続きを読む: 「ロボットについて私たちが誤解していること」

これがこのメソッドの核心です。 SF のシナリオを採用し、それを具体的かつ測定可能にします。また、単純なテキストベースのシナリオにとどまる必要もありません。使い慣れたスマートフォンのインターフェイスに投機的なテクノロジーを組み込んだモックアップ アプリを構築することもできます。さらに、仮想現実と拡張現実を使用して、没入感の高いシミュレーションを作成することもできます。 VR ヘッドセットを装着し、仮想部屋でデジジェントを物理的にプレイし、保存するか削除するかの最終選択をより直感的かつ現実的に行うことを想像してください。テクノロジーが進歩するにつれて、これらの方法の使用はますます簡単になります。

SF の目標は予言ではなく、先見の明です。未来は予測すべき固定された目的地ではなく、私たちが現在の選択によって絶えず形作っている可能性の広大な風景です。ジョージ・オーウェルからマーガレット・アトウッド、チアンに至るまで、最も影響力のあるSFは、こうした可能性のいくつかについて私たちに警告し、そうすることでそれらを回避する方法を考えるのに役立ってきました。

サイエンス フィクション 科学にも同様の野心があり、心理的な脆弱性を特定し、それにつまずく前に危険な道を計画します。しかし、フィクションだけとは異なり、これらの警告は実験データに根拠があり、今日私たちが理解している人間の心理と一致する未来への想像力を制約します。優れた小説家は、人間の心の優れた解剖学者であることがよくあります。彼らは私たちにシナリオを与えてくれます。 SF 科学は私たちにそれらをテストするためのツールを提供します。

このような種類の実験を実行することで、テクノロジーに関して必要な緊急の会話のための経験的基盤を構築できます。デジタル実験の結果は、企業が AI コンパニオンをどのように設計して販売するかについて私たちの目を開かせる可能性があり、ひいては企業がユーザーに対して負う倫理的責任について検討するよう促す可能性があります。政策立案者に国民感情に関するデータを提供し、イノベーションを促進しながら消費者を感情的搾取から守る規制の策定に役立てることができるだろう。

SF は私たちに、これから起こることを想像するための物語を与えてくれます。サイエンス フィクション 科学は、これらの物語を検証し、未来の自分の心理を理解し、実際に住みたい未来を構築するという困難だが必要な作業を開始するためのツールを私たちに提供します。来るべき交通渋滞を回避する、または少なくともそれに備えるための最大の希望かもしれません。

リード画像: Sergey Nivens / Shutterstock