ノーベル賞受賞者らが人工超知能に警鐘を鳴らす

マルコ・ヴェルマン: つまり、これは AI 自体を超えた量子的飛躍ですよね?

Max Tegmark: 今日の AI はすでに 200 の言語を話す点で私たちよりも優れており、数学が非常に得意で、過去 4 年間で読み書きも非常に上手になりました。しかし、他の特定のタスクでは依然として人間のレベルをはるかに下回っています。誰に尋ねるかにもよりますが、2年、5年、あるいは10年かかると思われるでしょう。 …どれくらいの時間がかかるかについては非常に謙虚ですが、人々はそれが100年かかるとか50年かかるとか言わなくなりました。この分野のリーダーのほとんど全員が、私たちが生きているうちにそれが起こるだろうと考えています。

私たちは ChatGPT とその従属について不安を抱くかもしれません。私たちはそれに対して批判的かもしれませんが、私たちの多くはそれを恐れる段階ではないと思います。超知性を単に問題があるだけでなく、文字通りの意味で脅威にしているのはなぜでしょうか?

大手テクノロジー企業はなぜこれをやりたいのでしょうか?なぜ彼らは人工超知能に知性を譲ろうとするのでしょうか?

とても良い質問ですね。彼らが私によく言うのは、私が話すとき、 [to them]私はこれらのCEO全員をプライベートで長年知っており、彼らは通常、「これが起こるのはある意味避けられないことです。そして、それは非常に危険なので、私だけが安全にそれを行うことができます。私がやらなければなりません。」というようなことを私に個人的に言います。

あなたは、この書簡に署名した人々の多様性について言及しました。つまり、私たちも見ています [former US President] バラク・オバマ氏、リチャード・ブランソン氏、元アイルランド大統領メアリー・ロビンソン氏は皆、ASIが雇用を奪ったり、倫理的リスクをもたらしたりする可能性があると懸念していた。しかし、実際にどうやって制御不能になるのだろうか？それがどのように起こるのか、あるいはどのようなものになるのか説明していただけますかえ？

超知能が手に負えなくなったら、人間はそれを止めることができるでしょうか?

いいえ、それは、エイリアンの宇宙艦隊がやって来て私たちを侵略したり、誰かがあなたの飛行機に熱追尾ミサイルを発射したりするのと同じですよね? AIが入っているんです。私が熱追尾ミサイルのプラグを外すだけだと思われますか？いいえ、もちろんそうではありません。

メタのような多くの大企業が人工知能を追い求めているという概念に戻りましょう。なぜこのテクノロジーが必要なのかについて、彼らは議論を持っていますか?

たとえば、世界で最も強力な AI 企業の CEO であるサム・アルトマン氏は、この記事で、何が起こるべきかについての彼のビジョンは次のように述べています。 [that] 私たちは機械と融合すべきです。でもね、私が 2 歳の息子、レオと遊んでいるとき、サンフランシスコのテクノロジー仲間が私の息子が機械と融合するだろうと決めつけているという考えが好きではありません。彼がそれを望まなかったらどうしますか？もし妻と私がそれを望まなかったらどうするでしょうか？これは非民主的に私たち全員に強制するという信じられないほど過激なことです。

つまり、人工超知能がすぐに人間が作ったあらゆる安全策を上回り、計画し、打ち破ることができるとしたら、現時点でさらなる規制や監視は可能でしょうか?

もちろん、私たちは超知能に近づいているとはいえ、まだ超知能を持っていないからです。今こそ、これらの安全策を講じる最適な時期です。あなたは、どんなテクノロジーでもそれが可能になるのは避けられないと思うかもしれません。 [generate] 多くの利益と権力が築かれるでしょうが、歴史的事実を見るとそれは明らかに真実ではありません。もし私があなたの人間のクローンを作成して、あなたのクローンを 100 万個作り、さらにあなたの DNA を微調整して、あなたが何かの分野でさらに優れたものを作ることができたら、それからどれだけのお金を稼げるか想像できますか?それでも、その後 [much] 70年代の議論では、科学者と一般大衆は、これは単に不快なものであると結論付けました。これにより、私たちは種に対する制御を失う可能性があります。ただそれを望まなかったのです。それは非常に非難され、最終的には禁止されました。今日、何人のクローン人間に街で会いましたか?ゼロですよね？私たちはこれまでに多くの非常に収益性の高いテクノロジーを停止してきました。またできるよ。