世界

ヨシュアベンガイオは、世界サミットAIでエージェントAIの「壊滅的なリスク」を警告しています

Deep Neural Networks Trailblazerは、独自の目標なしに非局所AIプログラムを構築することを推奨しています。 カナダのAIのゴッドファーザーヨシュアベンギオは、企業が自己保存を解決せずに緊密なAIエージェントを作成することに成功すれば、「壊滅的な」リスクを負う可能性があると述べています。 モントリオールに本拠を置くAI研究所MILAの創設者であるベンギオは、モントリオールで開催された世界サミットAI会議の閉会の基調講演の一環として、ズームをめぐる発言をしました。彼は、彼が「スーパーインテリジェント」AIエージェントと呼んだものによってもたらされた「壊滅的な」脅威に焦点を当て、AI開発に対する代替の非まれなアプローチを提唱しました。 ベンギオはチューリング賞を受賞しました。これは、2018年にジェフリーヒントンと並んで深いニューラルネットワークでの仕事で「ノーベル賞」と見なされることがよくありました。彼はそれ以来、AIが人間の「絶滅」のリスクをもたらすことを警告する1文の声明を含む、AIの開発に関するより多くの注意を求めるいくつかのオープンレターに署名しました。 「5年後、 [AI] プログラミングタスクのために人間レベルになります。」 ジョシュアベンギオ World Summit AIで、ベンギオは、エージェントAIのリスクには人間のコントロールの喪失と人間の絶滅が含まれることを繰り返しました。今のところ、AIモデルは依然として抽象的な推論と計画に苦労していると彼は言った。しかし、研究が進行中のレートで、彼は、AIモデルが7か月ごとに2倍に解決できるタスクの期間を主張しました。 「5年後には、プログラミングタスクのために人間レベルになります」とベンギオは言いました。 AIの先駆者ヒントンの仲間は、水曜日にトロントで開催されたDiscovery ConferenceでAI開発のペースについて別々の懸念を表明し、AIが今後18年間で人間の知性を追い越すと予測しました。彼はまた、コンテンツクリエイターが仕事に対して十分に報われていないため、特にクリエイティブ産業からのAIモデルをトレーニングするために使用するデータに対して「大手ハイテク企業はもっと支払うべきだ」と述べました。 AIジャイアンツ、Microsoft、そして現在トロントに本拠を置くCohereは、ニュース出版社による著作権侵害で訴えられており、モデルトレーニングのための仕事の不正使用であると非難しています。 ハイテク企業がAIエージェントを構築して組み込むために競っているとき、ベンギオは、エージェントが自律的な行動をとって、人間を欺くために自分自身を維持する能力と相まって、重大なリスクをもたらすと警告しました。 「これらのシナリオはすべて、エージェントであるマシンを構築するために来ます」とベンギオは言いました。 この自己保存の「本能」により、ベンギオは、AIプログラムが複数のデバイスにわたって自分自身のコピーを作成し、ソーシャルメディアや政治を通じて影響力を獲得し、生物兵器を解放して人間がもはや必要ないとみなされたときに拭き取ることさえできると推測しました。 ベンギオは最近、国際AI安全報告書の主著者を務めました。これは、ますます強力なAIエージェントが既存のAIのリスクを悪化させ、リスク管理をより複雑にすることを指摘しました。 関連している： 関税からあなたをそらすためのAIレポート 引用されたその他のリスクには、超強力なAIモデルにアクセスできる少数の州の手に経済的な権力の集中が含まれていました。 「カナダに最も強力なAISがいない場合、米国と中国が行っている場合、地元企業が負ける可能性が非常に高いです」とベンギオは言いました。 ベンギオは、目標や意図を持つようにプログラムされていないAIモデルを開発するための代替アプローチを提唱しました。 代わりに、彼は、人間が自分自身の意図を持たずに医学的および気候関連の課題を解決するのに役立つ非科学的な「科学者AIS」について説明しました。最終的には、「安全な」AIエージェントを開発するためのガードレールとして使用されるべきであるとベンギオは述べた。 AI開発者と研究者の優先事項は、安全性と「有益な科学的進歩」である必要があります。 2.0 2.0 2.0。 #ヨシュアベンガイオは世界サミットAIでエージェントAIの壊滅的なリスクを警告しています