「AIは私たちを殺す致死性ウイルスを作成する可能性がある」

Google や Microsoft などのテクノロジー企業の元従業員であるこのエンジニアは、長年にわたり、AI の開発に伴うリスクについて最も声高に警告してきた 1 人です。彼によれば、このテクノロジーは進化し続ければ最終的には人類を絶滅させる可能性があるという。 «どれくらい時間が残っているのか分かりません。おそらくあと10年、あるいはほんの数カ月しか残らないかもしれないが、テクノロジーが進歩するスピードを予測するのは非常に難しいからだ」と彼はABCとの会話で説明した。

このエンジニアは、2023 年からマシン インテリジェンス研究所 (MIRI) の所長を務めています。この研究所は、高度な人工知能の安全性を確保し、人間の利益と一致する方法を研究することに特化した非営利組織です。彼は最近、「もし誰かがそれを信じたら、私たちは皆死ぬだろう」（Destino）を出版しました。この本は彼が研究者エリエザー・ユドコウスキーと署名し、その中で彼が概念に伴う危険性について警告しようとしているものです。 超知性。おそらく最も賢い人間よりも賢くなるであろう未来のAI。現在、OpenAI、Meta、Google などの企業が、 人間的 彼らはその開発に数千億ユーロを投資しています。 10年末までにそれが実現すると示唆する人もいる。他の人は決してそれをしないかもしれません。

何年もその危険性について警告してきたソアレス氏は、AIの分野で自分の立場は周縁的なものではないと主張する。 「私は自分が信じていることを言っているだけであり、そのように考えているのは私だけではありません。実存的なリスクはないと主張する科学者はますます少なくなってきています。 「それは非合理的な考えではありません」と彼は言います。例として、彼は2024年にノーベル物理学賞を受賞したジェフリー・ヒントン氏や、チューリング賞受賞者でディープラーニングの先駆者の一人であるヨシュア・ベンジオ氏などの人物を挙げ、確かに超知性の創造にすでに懸念を示している。

ただし、すべての専門家がその診断を共有しているわけではありません。このテクノロジーの開発に携わった他の主要な科学者 (Meta の元 AI 責任者など) ヤン・ルカン または研究者 マイケル・I・ジョーダン～のシナリオについてははるかに懐疑的です 実存的リスク。両氏は、現在のシステムが汎用知能になるにはほど遠いと主張し、AIが独自の目的を開発し、最終的に人類を脅かす可能性があるという仮説を拒否している。 ABCが近年対話した科学者や専門家の大多数がこの立場を共有している。

それはともかく、ソアレスによれば、なぜ人間の知能よりも高度な人工知能が最終的に脅威となるのでしょうか? 「彼が私たちを絶滅させることを決定する最も簡単な方法は、地球の資源は人間なしでより適切に管理されるだろうという結論に達することです。将来的には、労働力が必要な場合にはロボットを雇用することができるでしょう。また、独自の文明と経済を構築し、地球上のすべてのエネルギーを独占してニーズを賄うこともできます」と技術者は説明します。

それはまた次のことを明らかにします 彼はその機械が憎しみから行動したとは信じていません。 「AIは私たちのことをまったく気にしていない」ため、「私たちはドードー鳥のような絶滅した動物を憎んでいたわけではありません。私たちは単に資源を蓄え始めただけで、場合によってはそれが彼らの失踪を引き起こすことになりました。」

人類を絶滅させるためにシステムが従う手順について、ソアレス氏は、80年代のSF映画の最も典型的なシナリオを捨て、「未来が『ターミネーター』のような、ロボットの群れが私たちに向かって発砲するような状況になるとは思わない。致死性のウイルスが作成され、すべての人類が死ぬ可能性の方が高いと考えている。」 動機について、エンジニアはまた、AIが特定の瞬間に人類をその生存に対する危険と見なす可能性を排除していない。

モラルのない狂った人々

ソアレス氏は、人類はまだ「引き返せない地点」に到達していないと信じている。これを避けるためには、政府がエスカレーションを阻止する措置を講じることが不可欠であると同氏は考えている。 「失われるのは数千億ドルと、都市全体よりも多くのエネルギーを消費するデータベースだけだ」と彼は言う。同氏はまた、競争に参加しているテクノロジー企業は、強制されない限り止まらないことも明言している。 狂気だし不道徳だ。この道は非倫理的であると考えた科学者がおり、それが彼らが AI 企業を設立しなかった理由です。それらを作成した者たちは、これが方法であると確信し、自らの手で世界を破壊する危険を冒しました。

MIRIの会長はまた、超知能を開発している企業は「人類を危険にさらしている」ことを完全に認識していると強調し、「我々は彼らを信頼できない」と述べた。そして、社会がより良く生きる「超知性がユートピア世界を創造できるという希望」があることは理解しているが、その発展に賭けることは彼にとって「狂気」に思えると指摘し、「選択肢は2つある。一方では、誰も選ばなかった企業がすべてをコントロールするというもの。もう1つは、私たち全員を殺す制御不能なAIの創設だ。「2つの非常にありがたくない可能性だ」。