ソニア・コンテラ、オックスフォード大学物理学教授: 「AI の最も恐ろしい点の 1 つは、AI が私たちに思考停止を促すことです。」科学

ソニア・コンテラは自分自身を物理学の「不適合者」と定義している オックスフォード大学の個人ページそこで彼女は生物物理学の教授として働いています。マドリッド出身のこの 55 歳は、物理学を研究し深く考えることにキャリアを捧げてきましたが、物理学と生物学、ナノテクノロジー、コンピューターサイエンス、哲学、権力、政治との関係にも取り組んできました。彼はこれらすべてについて最新の本の中で語っています。 科学では解決できない6つの問題（Harpa）この作品では、量子力学、万物の理論、生命の起源、老化、人工知能、意識など、今日の世界の科学技術を動かし続けている未解決の大きな謎を探ります。コンテラによれば、科学が何十年も解読できていないにもかかわらず、逆説的に、ますます多くのリソースと注目を注いでいる6つの基本的な問題。

コンテラはオックスフォードのオフィスからビデオ会議でエル・パスと話し、そこで対話者の画面を通して観察する光を切望していることを認めた。この専門家はインタビューの中で、ホセ・オルテガ・イ・ガセットが語った「専門化の野蛮さ」のリスク、科学技術を行う新自由主義システムの倒錯、そして何よりも深刻な危険、つまり人工知能が私たちに思考停止を促すことについて振り返っている。

聞く。 なぜ解決できる問題ではなく、解決できない問題についての本を書くのでしょうか?

答え。 私がこの本を書こうと思ったのは、そうは思えないかもしれないが、科学がその最も根本的な問題に陥っているからである。そして最も興味深いのは、問題を解決できなくなるほど、私たちはまさにその問題に集中するようになるということです。 人工知能ロス 惑星旅行生命の起源、 量子コンピュータ…これらすべては、私たちが理解していない、そして長い間理解されていない科学の中にあります。また、過去 100 年間に科学がどのように変化してきたか、経済的および地政学的変化がテクノロジーとどのように絡み合っているかを観察する口実にもなります。そしてさらに、これらの根本的な問いは、物理学が功利的で合理的なお金の科学を超えて、人々を生命の深い謎に結びつけるものであると私は信じています。

P. カール・セーガンは、私たちは科学技術に絶妙に依存した社会に住んでおり、誰も科学技術を理解しておらず、それが災いを招くと言いました。あなたの本からこんなことが出てきます…

R. そう、これは専門化の野蛮さについてオルテガ・イ・ガセットが言ったことでもある。科学者は機械の一部になってしまった。だからこそ、これらの深い質問に立ち返ることが重要なのです。ほとんどの科学者は私たちの専門分野については知っていますが、私たちは通常、他の科学分野について意見を述べることはありません。専門家は根本的な問題について熟考していませんが、今では私たちを席巻するテクノロジーが登場しています。私たちは知識にとって非常に壊滅的な瞬間にいます。学問の世界で生き残るのは、際限なく苦しむ能力を持った人たちですが、それは意味がありません。私たちはその枠組みに疑問を持たなければなりません。

P. その枠組みは資本主義ですか？

R. いいえ、資本主義にはさまざまな種類があります。それが私たちがやっていることです。ソビエト連邦の崩壊以来、私たちは新自由主義、つまり所有者の利益を最適化する発明に突入しました。私たちが科学を行っている枠組みは解体されつつあります。そして彼らはまた、破壊という非常にひねくれた考えを私たちに売り込んできました。私たち科学者は、新しいアイデアを思いつくことができず、学術界の崩壊を目の当たりにしたため、学会内で束縛されていると感じていました。 スタートアップ企業 自由への一歩として。しかし、それはトリックでした。彼らは混乱を利用して大衆を破壊し、それを大企業の手に握らせてきた。技術封建時代のたとえ彼らが非常に善意を持っていたとしても、システムが彼らを倒錯させる可能性がある場合、私たちは非常に複雑な状況に陥ることになり、それが今私たちが置かれている状況です。

P. なぜあなたの本の中で6つの問題について言及しているのですか?選ぶときの基準は何でしたか？

R. 彼らは非常に団結しており、現在の科学問題の中心となっています。たとえば、最初の 量子力学。これは 20 世紀初頭に登場し、通常の線形論理では解決できない実験が行われました。これは私たちの世界の見方を変えますが、私たちはまだそれを理解しておらず、その飛躍が何を意味するのかを理解していません。原因が結果をもたらし、時間が進む古典的な世界と、別のルールがある量子の世界があります。それは、理性が世界を解決できるという啓蒙主義のあらゆる重荷を打ち破るものだ。この未解決の問題は依然として完全に中心的な問題です。現代のすべての疑問は量子力学から生じます。

P. 2番目の問題は万物の理論です。彼らはいつかできるだろうか これらすべての物理理論を統合する?

R. その章は私にとってとても興味深いです、なぜなら私はそれを嫌いになるだろうと思っていたからです。私はそれが全体主義的なものであり、物理学者がすべてを制御したいと考えていたと信じていました。しかし、それははるかに興味深いものです。自分たちにはそれができないとわかっていながら、世界への理解を閉じようとするのは人類の非常に深く、非常に古くからの願望であり、それは自分自身を一つであると知るという意識の問題と密接に関係しています。そして、私たちが良心も倫理もなく機械を作っている現在、これは特別な側面を帯びています。

P. この本の中で彼は、生命の起源という根本的な問いを抱えて、物理学から生物学へと進みます。なぜ最初ではなく 3 番目なのでしょうか?

R. なぜなら、現代科学で議論されているように、生命の起源は量子物理学者に由来しているからです。彼らは、なぜ地球上に生命が誕生するのかということに夢中になり始めた人たちでした。このスケールは、分子、DNA、タンパク質のスケール、ナノメートルスケールであり、古典的な世界と量子の世界の間の境界です。の始まりです チューリングマシンコンピュータの。そして彼らは同じキャラクターでした！今ではこの知識は分離されていますが、当時は同じ科学者が生命の起源、量子力学、最初のコンピューターの製造に専念していました…それらはすべて絡み合っていましたが、私たちはそれを分離しました。私たちは歴史を忘れてしまいました。

P. あなたが言及した現在の科学の超専門化のせいで、おそらく私たちは科学に対するより広範で豊かなビジョンを失っているのでしょう…

R. 本を書いているときに気づいたのですが、 マンハッタンプロジェクト 最初のコンピューターを作り、量子物理学の研究を始めた物理学者も、生命の起源について懸念していました。それらは非常に哲学的な問題です。そして戦争が終わると、私たちは復興の科学に入ります。それは、より実用的なアジェンダであり、存在の深い意味にもっと専念するこれらすべての科学を多かれ少なかれキャンセルします。それは知識システム全体の合理化であり、最初のコンピューターの製造と相乗効果をもたらしました。そしてその瞬間、私たちは機械の一部となり、それらの根本的な質問は忘れられます。最も超越的な部分、つまり量子の部分は忘れられ、最終的には のこと ヒッピー。

P. この本の中であなたが自問する次の質問は、人間の生物学的限界である老化について理解しようとするものです…

R. 奥が深いのでとても興味深いテーマです。年をとるとはどういう意味ですか？私たちは時間を進めたり、時間の対称性を破ることができます。これらは物理学の問題です。老化は非常に学際的な科学です。最も問題なのは、これが制御なしに行われていることです。がある 民間企業 彼らが何をしているのか、私たちはよく知りません。そしてこれらすべて 永遠に生きたい大物たち…この戦いに参加するキャラクターの精神分析は興味深いでしょう [risas]。

P. 問題５。真にインテリジェントなマシンを作成できるでしょうか?

R. それが今日の主な問題です。私たちが非常に執着しているのには、さまざまな理由があります。ChatGPT と会話しているから、インテリジェントなドローンが人を殺すから、AI と私たちの関係がすでにかなりディストピアになっているからです。私たちは欺瞞の時代に生きています。私たちも夢中になっています 一般的な人工知能しかし、デジタルモデルでは、私たちが一般知性と呼ぶものを得ることができる可能性は非常に低いです。ライブとデジタルでは何かが異なります。

P. そしてそれは最後の質問につながります。意識とは何ですか？

R. 疑似科学は常に扱われてきたテーマなので興味深いと思いますが、ここ 20 年でブームが起きています。 の これに興味のある神経科学者。重要なのは、私たちは他者を認識するときにのみ個人であるということです。他者がなければ私は存在しません。しかし、私たちは専門化によって断片化された意識を持っており、意識がなければ、統一がなければ、倫理は存在しません。

P. 自己認識型人工知能は可能か?

R. 世界には本当にエネルギーが足りていないので、それは不可能だと思います。人間の脳は 20 ワットで動作しますが、AI にはどのくらいの電力が必要でしょうか?起こり得る唯一のことは、私たちが非常に多くのデータを多次元で提供しているため、コンピューティング システムが私たちから逃れ、意識していないかもしれませんが、非常に強力であるということです。さらに、これらの企業は、 [tecnológicas] 彼らはまた、突然変異を始めており、限界がなく、人間であることが何なのかを忘れつつあります。この本の中で私は悪の新たな平凡さについて話しています。 ハンナ・アーレント とても今っぽいですね。

P. これらの企業をコントロールする方法はあるのでしょうか?

R. 今のところそうではないようです。米国では誰も彼らをコントロールすることができず、欧州はこの戦いに負けた。最初のステップは、これらの問題について科学から話し始めることです。この本が反映しているのは、ミステリーは私たちを人間らしくするものであり、私たちは人間性を失いつつあるので、私たちにはミステリーが必要だということです。知識は公共の利益のために必要なので、私は大学にいるのが好きです。 AI が行っている最も恐ろしいことの 1 つは、AI が私たちに思考停止を促すことです。それは私たちを反省する行為から切り離しており、科学は考えることです。

P. 考える能力を失うことは、人類にとって最も重要な課題だとあなたは本の中で述べています。オックスフォードのよ​​うな大学であっても、学生たちにそれが見られますか?彼らはその能力を失っているのでしょうか？

R. これはやや特殊な大学であり、おそらく学生はあまり代表的ではありません。しかし、以前は多くの人が職業上の成功やお金に焦点を当てていたのは事実です。なぜならそれは可能だったからです。しかし、昨年私の研究室で修士課程のプロジェクトに取り組んでいた学生の半数は仕事を見つけることができません。そして彼らは最高でした。今、彼らは物事を深く考えるために哲学を非常に必要としています。それが私がこの本を書いた理由です。生徒たちのニーズに応えています。そして私は彼らに希望を与えたいと思っています。