1772265050
2026-02-27 18:30:00
研究者のヨシュア・ベンジオ氏は最近、モントリオールや国際舞台で、人工知能の急速な台頭が社会に大きなリスクをもたらす可能性があると警告した。彼によれば、彼らは「生き続けるためには殺す準備ができている」だろうという。
非常ブレーキを引く先駆者…それは最初ではないでしょう。ケベック人工知能研究所の創設者であり、2018 年チューリング賞を受賞したヨシュア・ベンジオ氏は、魅力的なテクノロジーについて説明していますが、すでに懸念される弱い信号に悩まされています。報告どおり BFM テレビ彼は、孫の将来について考えるときに視点が変わったと打ち明け、制御不能なシステムの可能性について警告する。「もし私たちよりも知能の高い機械があり、それらを制御する方法を知らなければ（…）それは非常に深刻な危険になる可能性がある」。
その不安は、用途に関連した具体的なシナリオに基づいています。 Bengio 氏は、サイバー攻撃や生物学的脅威の設計に役立つツールがますます容易になっていると指摘します。また、特定の高度なモデルのテスト中に観察された予期しない動作も再現します。いくつかの エピソード 最近の OpenClaw ツールに関連するものは、自律型 AI エージェントが表す危険性を明確に示しています。 「私たちは怪物を生み出す危険がある」と彼は警告し、信頼性を単なる技術的な修正としてではなく、中心的な科学的問題として扱うよう求めている。
それでも、テーマは経済的なものでもあります…競争が進行し、企業は急速に前進していますが、欧州の取り組みにもかかわらず、規制が追いつくのに苦労しています。ベンジオにとって、権力はこれらのシステムを制御する者の手に集中することになり、その依存リスクはエネルギー資源のリスクに匹敵することになる。同氏にとって AI は依然として驚異的なツールであるが、それはガバナンスがイノベーションと同じペースで進歩する場合に限られる。
#私たちはモンスターを生み出すことができる #の先駆者は減速と規制を望んでいる