ハートとチップ: 何が間違っているのでしょうか?

いくつかの点で この本の中で、テクノロジーを使ってスーパーヒーローのアイアンマンに変身する架空の人物、トニー・スタークについて触れました。 私にとってこのキャラクターは多大なインスピレーションを与えてくれますが、物語の中で彼は MIT で訓練を受けた兵器製造業者および軍需品開発者としてキャリアをスタートするということをよく思い出します。 2008年の映画では
鉄人、彼の会社の特殊兵器がテロリストによって使用されていることを知ったので、彼はやり方を変えます。

ロボットは道具であることを忘れないでください。 本質的に、それらは良いものでも悪いものでもありません。 重要なのは、それらをどのように使用するかを選択することです。 2022 年、壊滅的な戦争の両側で空中ドローンが兵器として使用されました。 ドローンは誰でも購入できますが、ドローンの使用には国間および国内で異なる規制があります。 米国では、連邦航空局は、重量が 250 グラム未満の玩具モデルを含むいくつかの例外を除き、すべてのドローンを登録することを義務付けています。 ルールは、ドローンを趣味で飛行させるかビジネス目的で飛行させるかによっても異なります。 規制に関係なく、板に釘を打ち込む代わりにハンマーを振り回して誰かを傷つけることができるのと同じように、飛行ロボットを使って危害を加えることが誰でもできます。 しかし、ドローンは、手の届きにくい地域に重要な医療物資を届けたり、森林の健全性を追跡したり、ロジャー・ペインのような科学者が危険にさらされている種を監視し擁護したりするためにも使用されています。 私のグループは、モダン ダンス カンパニー Pilobolus と協力し、2012 年に Seraph と呼ばれるロボットを使って人間とドローンを組み合わせた初の演劇パフォーマンスを上演しました。 つまり、ドローンもダンサーになり得るのです。 キム・スタンリー・ロビンソンの先見の明のあるSF小説の中で
未来省、旅客機を墜落させるために無人航空機の群れが配備されます。 この機械仕掛けの鳥の群れも、さまざまな良い方法で使われていると想像できます。 対ウクライナ戦争開始時、ロシアは紛争をめぐる物語をコントロールし形成することを期待して、国民による公平なニュースや情報へのアクセスを制限した。 侵略の本当の話は抑圧されており、ロシア全土の人気の都市広場の真ん中に巨大な空中モニターに配置できる飛行ビデオスクリーンの群れを派遣して、戦争の本当の映像を映すことはできなかったのだろうかと疑問に思った。政府によって承認されたクリップにすぎません。 あるいは、もっと単純に、飛行するデジタル映写機の群れが建物の側面や壁に映像を放送し、全員が見られるようにすることもできたでしょう。 十分に展開していれば、シャットダウンするには多すぎるでしょう。

私の大学や世界中の私の同僚の研究室には、さまざまなトニー・スタークが存在するかもしれません。私たちは、これらの才能ある若い人たちが人類にポジティブな影響を与えるよう努めるよう、できる限りのことをする必要があります。

トニー・スタークというキャラクターは彼の経験によって形成され、世界にポジティブな影響を与える方向に舵を切られていますが、当社の技術者全員が人生を変えるような悲惨な経験に耐えるのを待つことはできません。 また、これらのインテリジェントマシンが開発され、流通した後は、誰もがそれを永久に使用できると期待することもできません。 しかし、だからといって、これらのテクノロジーへの取り組みをやめるべきだという意味ではありません。潜在的なメリットはあまりにも大きいのです。 私たちにできることは、その結果についてもっと真剣に考え、プラスの利益を確保するためのガードレールを設置することです。 私や同時代人は、これらのツールが世界でどのように使用されるかを必ずしもコントロールすることはできませんが、ツールを作成する人々に影響を与えるためにもっとできることはあります。

私の大学や世界中の私の同僚の研究室には、さまざまなトニー・スタークが存在するかもしれません。私たちは、これらの才能ある若い人たちが人類にプラスの影響を与えるよう努めるよう、できる限りのことをする必要があります。 大学の研究室や研究センターには多様性が絶対に必要ですが、一緒に学ぶ若者を形作るためにもっとできることがあるかもしれません。 たとえば、マンハッタン計画や、原爆の製造と使用という驚異的な努力に伴う道徳的および倫理的困難についての研究を要求することができます。 現時点では、倫理コースはロボット工学や AI の高度な学位を取得するための必須要件として広く普及していませんが、おそらくそうすべきでしょう。 あるいは、なぜ卒業生に、ヒポクラテスの誓いをロボット工学と AI に合わせたバリエーションで宣誓するように要求してはいけないのでしょうか?

この誓いは、哲学者ヒポクラテスによって書かれたかどうかは不明ですが、初期のギリシャの医学書に由来しており、何世紀にもわたって進化してきました。 基本的に、これは医師が遵守することが期待される医療倫理の基準を表します。 これらの中で最も有名なのは、害を与えない、または害を避けるという約束です。
意図的な 不正行為。 私はまた、医師のコミュニティへの貢献と、教師と生徒の間の神聖な絆を維持する必要性を宣誓文が重視していることを賞賛します。 ロボット工学コミュニティとしてのつながりを維持すればするほど、学生たちが世界に羽ばたくにつれて関係を育み、維持するほど、テクノロジーを前向きな未来に導くためにできることが増えます。 今日、ヒポクラテスの誓いは医師としての資格を取得するための普遍的な要件ではありませんし、ロボット工学者にとってもそのように機能しているとは思えません。 また、私はこの可能性を示唆した最初のロボット工学者や AI リーダーでもありません。 しかし、私たちはそれを標準的な慣行にすることを真剣に検討する必要があります。

原子爆弾の開発の余波で、科学者が危害を加える可能性が突然、そして恐ろしく明らかになったとき、科学研究者に対するヒポクラテスの誓いについて議論が行われました。 このアイデアは時々再浮上しますが、注目を集めることはめったにありません。 しかし、科学は基本的に知識の追求です。 その意味では純粋です。 ロボット工学と AI の分野で、私たちは次のようなものを構築しています。
もの それは世界とその人々、そして他の形態の生命に影響を与えるでしょう。 この意味では、医師はその訓練を利用して個人の生活に直接影響を与えるため、私たちの分野はやや医学に近いものです。 技術者たちにヒポクラテスの誓いを正式に暗唱するよう求めることは、私たちの分野を正しい方向に導き続ける方法になる可能性があり、おそらく、後に邪悪な目的のために明示的にロボットやAIの開発を依頼される個人を牽制する役割を果たす可能性がある。

もちろん、ロボットの使用方法の良し悪しは、座る位置によって異なります。 私は武装したロボットや兵器化されたロボットに自律性を与えることに断固として反対します。 私たちは、機械知能が個人または人々のグループに危害を加えるかどうかを独自に決定することを信頼することはできませんし、そうすべきではありません。 個人的には、ロボットが誰かに危害を加えるために使用されることは決してないことを望みますが、これは現時点では非現実的です。 ロボットは戦争の道具として使用されており、ロボットの倫理的な使用を形作るためにできる限りのことを行うのが私たちの責任です。 したがって、私は現実から自分を切り離したり離婚したりせず、幸せで役に立つロボットのあるユートピアの世界でのみ活動しています。 実際、私は国家安全保障担当者に人工知能に関するコースを教えており、テクノロジーの長所、短所、機能についてアドバイスしています。 私はこれを愛国的な義務だと考えており、ロボットやその他の AI で強化された物理システムの限界、強み、可能性、つまりロボットができることとできないこと、やるべきこととすべきでないことをリーダーたちが理解できるよう支援できることを光栄に思います。 、そして彼らがしなければならないと私が信じていること。

結局のところ、テクノロジーの限界、AI の倫理、またはそのような強力なツールの開発に伴う潜在的な危険性について私たちがどれだけ教え、説教しても、卒業したばかりの学生であれ、国家安全保障の上級指導者であれ、人々は自ら選択を行うことになります。 私が望んでいること、教えていることは、私たちは善を行うことを選択すべきであるということです。 延命企業の努力にもかかわらず、科学者カール・セーガンが「淡い青色の点」と呼んだように、この地球上で私たち全員に与えられる時間は限られており、その時間を最大限に活用し、プラスの影響を与えるためにできることは何でもする必要があります。私たちの美しい環境、そしてそれを共有する多くの人々や他の種について。 よりインテリジェントで有能なロボットを構築するという私の数十年にわたる探求は、私たちの地球とその周囲を這い、歩き、泳ぎ、走り、滑り、飛び回る素晴らしい生き物、そして素晴らしい植物に対する私の感謝を強めるだけでした。 、 あまりにも。 私たちは、これらの宇宙的に希少な創造物を排除できるロボットの開発作業に忙殺されるべきではありません。 私たちは代わりに、それらを保存し、さらにはそれらの繁栄を支援するテクノロジーの構築に焦点を当てるべきです。 これは、インテリジェントな機械の台頭を特に懸念している種を含む、すべての生命体に当てはまります。

『ハートとチップ: ロボットによる明るい未来』より抜粋。 著作権 2024 は Daniela Rus、Gregory Mone が所有します。 出版社 WW Norton & Company の許可を得て使用しています。 無断転載を禁じます。