1728648639
2024-10-11 12:00:00
人工知能が世界を救うと思うか、それとも世界を終わらせると思うかにかかわらず、私たちが大きな熱狂の瞬間にいることは疑いの余地がありません。私たちが知っているように、AI はヨシュア ベンジオなしでは存在しなかったかもしれません。
「人工知能のゴッドファーザー」と呼ばれるベンジオ氏 (60 歳) は、ニューラル ネットワークと深層学習アルゴリズムの研究に専念してきたカナダのコンピューター科学者です。彼の先駆的な研究は、OpenAI の ChatGPT など、今日私たちが使用する AI モデルへの道を導きました。そしてAnthropicのクロード。
「知性は力を与え、その力を制御する者は――それが人間レベル以上であれば――非常に強力になるだろう」とベンジオ氏はヤフー・ファイナンスとのインタビューで語った。 「一般にテクノロジーは、経済的支配、軍事的支配、政治的支配など、さらなる権力を求める人々によって利用されます。ですから、危険な方法で権力を集中させる可能性のあるテクノロジーを開発する前に、私たちは細心の注意を払う必要があります。」
2018年、ベンジオと2人の同僚、元グーグル（GOOG）副社長ジェフリー・ヒントン（2024年ノーベル物理学賞受賞者）とメタ（META）主任AI科学者ヤン・ルカンがチューリング賞（ノーブル賞として知られる）を受賞した。コンピューティングの）。 2022 年、ベンジオは世界で最も引用されたコンピューター科学者になりました。そしてタイム誌は彼を 最も影響力のある100人 世界の人々。
ベンジオ氏はテクノロジーの発明に貢献したにもかかわらず、現在ではAIの世界で警戒心を表明する存在となっている。投資家がこの分野に多大な熱意を示し続け、今年AI関連のシェアを新たな記録に向けて競い合っている中で、こうした警戒感が生まれている。
たとえば、AIチップの最愛のエヌビディア（NVDA）の株価は年初来で162％上昇しており、S&P500指数の21％上昇と比較している。
Yahoo Financeのデータによると、同社の評価額は現在3兆2500億ドルという驚異的な額となっており、世界で最も価値のある企業の称号でApple（AAPL）をわずかに下回っている。
私はベンジオ氏に、AI の潜在的な脅威と、どのテクノロジー企業が適切に対処しているかについてインタビューしました。
インタビューは長さと明瞭さのために編集されています。
なぜ人間レベルの知能について心配する必要があるのでしょうか?
「これが悪者の手に渡れば、それがどんな意味であろうと、それは非常に危険なことになる可能性があります。これらのツールはすぐにテロリストを助ける可能性があり、民主主義を破壊しようとする国家主体を助ける可能性があります。そして、多くの科学者が抱えている問題があります。これが私たちが現在彼らを訓練している方法であると指摘しています。私たちはこれらのシステムが自律的になり、独自の保存目標を持つようになるのをどのように回避できるのか明確にわかっていません。そうすれば、私たちはこれらのシステムの制御を失う可能性があります。おそらく私たちよりも強力なモンスターを生み出す道を進んでいます。」
物語は続く
OpenAI、Meta、Google、Amazon — どの大手 AI プレーヤーが正しく対応しているでしょうか?
「道徳的に見て、最も良く行動している会社は Anthropic だと思います。 [major investors include Amazon and Google]。しかし、大手企業の一員であり、理想的にはAGIに最初に到着することが企業の存続にかかる経済構造のため、どの企業も偏見を持っていると思います。そしてそれは競争、つまり公共の安全が失われる可能性が高い企業間の軍拡競争を意味します。
人間は、壊滅的な結果を避けることに非常に気を配っているという兆候をたくさん示しています。彼らは、AI が危険な可能性のある機能を備えた場合にはその取り組みを中止するという約束を伴う安全性ポリシーを最初に提案しました。彼らはまた、イーロン・マスクと並んでSB 1047を支持している唯一の人たちでもある。言い換えれば、「はい、いくつかの改善を加えて、安全手順と結果、そして重大な危害を引き起こした場合の責任についてより透明性を持たせることに同意します」と言っているのだ。
NvidiaなどのAI株の大幅な高騰について考えていますか?
「私が非常に確実だと思うのは、長期的な軌道だ。したがって、もしあなたが長期的にそれに参加するなら、それはかなり安全な賭けだ、私たちがなんとか国民を守れない場合を除いて… [Then] すべてがクラッシュするような反応になる可能性がありますよね? AI全般に対して社会からの反発があるか、本当に壊滅的な出来事が起きて経済構造が崩壊するかのどちらかです。
いずれにせよ、投資家にとってはマイナスだろう。したがって、投資家が賢明であれば、私たちは慎重に行動し、私たちの将来に全体的に損害を与える可能性のある間違いや大惨事を避ける必要があることを理解すると思います。」
AI チップ競争について考えていますか?
「チップは明らかにパズルの重要なピースになりつつあると思いますが、もちろんボトルネックでもあります。私が知ることができる種類の出来事や科学の進歩によって、膨大な量の計算の必要性が消えることはない可能性が非常に高いです」したがって、ハイエンド AI チップ機能を持つことが戦略的価値となるでしょう。そして、サプライ チェーンのすべてのステップが重要になります。現時点でそれを実行できる企業はほとんどないため、私はそうすることを期待しています。さらに多くの投資が行われており、少しでも多様化が図れることを期待しています。」
Salesforce が 2026 年までに 10 億人の自律エージェントを導入することについてどう思いますか?
「自律性はこれらの企業の目標の 1 つであり、経済的、商業的にはそれが十分な理由であり、これによって可能となるアプリケーションの数という点で大きな進歩となるでしょう。すべてのパーソナル アシスタント アプリケーションについて考えてください。現在の最先端のシステムが提供できるものよりもはるかに多くの自律性が必要となるため、Salesforce (CRM) が 2 年以内にそれを達成できると考えているという事実は、私にとって懸念事項です。そうなる前に、政府と技術の両面でガードレールを設ける必要がある。」
ニューサム知事はカリフォルニア州のSB 1047に拒否権を発動した — それは間違いだったのか?
「彼はそうしなかった 理由を与える それは私にとって理にかなっていました。大きなシステムだけでなくすべての小さなシステムを規制したいのと同じです…物事が急速に進む可能性があります—私たちは数年について話しました。そして、たとえそれが10％のような小さな可能性であっても、 [chance of disaster] 私たちは準備ができている必要があります。規制が必要だ。企業には、業界全体で一貫した方法で自社の取り組みを文書化する取り組みをすでに進めてもらう必要があります。
もう一つは、企業が訴訟を心配していたことだ。これらの企業の多くと話をしましたが、すでに不法行為法が存在するため、損害が生じた場合にはいつでも訴訟が起こる可能性があります。そして、この法案が責任に関して行っていたことは、訴訟の範囲を縮小することでした… 10の条件があり、法律が訴訟をサポートするにはこれらの条件をすべて満たす必要がありました。なので、実際に役立っていたと思います。しかし、いかなる関与にもイデオロギー的な抵抗があり、現状ではないこと、これらの AI 研究所の問題に国家がこれ以上関与することには抵抗があります。」
まだ AI に興味がありますか?このエピソードを聞いてください 開始入札 科学者で You.com の創設者である Richard Socher とのチャットのためのポッドキャスト。ソーチャー氏は AI に対する自身の見通しと最大の懸念を語ります。
株式市場に影響を与える最新のテクノロジーニュースについては、ここをクリックしてください。
#私たちは自分たちよりも強力なモンスターを作り出している