科学＆テクノロジー

AIの「ゴッドファーザー」は武器競争が「超人」システムの危険を増幅するリスクがあると警告しています|英国のニュース

AIの「Godfathers」の1人によると、中国のチャットボットDeepseekに対する最近のパニックによって引き起こされた人工知能（AI）の覇権が最近のパニックによって引き起こされ、スーパーインテリジェンスの実存的な危険を増幅するリスクがあります。カナダの機械学習のパイオニアヨシュアベンギオ、来週パリで開催された国際AIサミットで発表された最初の国際AI安全報告書の著者は、監視なしでAIの計算力への未確認の投資は危険です。 「努力は、誰がレースに勝つのか、私たちが顔に爆発するものを構築しないようにするのではなく、誰がレースに勝つことになっています」とベンギオ氏は言います。彼は、軍事的および経済的な人種が「倫理を削減し、責任と安全性の角を切ることにつながる。それは避けられない」と警告している。ベンギオ氏は、最新のAIモデルを支えるソフトウェアアーキテクチャであるニューラルネットワークと機械学習に取り組みました。 彼はロンドンにあり、他のAI先駆者とともに、AIとその可能性を認めて、エンジニアリングのための最も名誉あるグローバル賞であるエンジニアリングのクイーン賞を受賞しています。彼は社会にとっての利益に熱心ですが、AIの規制から離れたものは ドナルド・トランプより強力なAIモデルのための大手ハイテク企業間のホワイトハウスと必死の競争は、心配な変化です。「超人的システムがより強力になる」「私たちはますます強力なシステムを構築しています。いくつかの次元で超人的になります」と彼は言います。 「これらのシステムがより強力になるにつれて、経済的に言えば、非常に価値があります。「だから、「すごい、これは私にたくさんのお金を稼ぐだろう」の大きさは多くの人々をやる気にさせている。そしてもちろん、あなたが製品を販売したいとき、あなたはリスクについて話したくない」しかし、AIのすべての「ゴッドファーザー」がそれほど関心を持っているわけではありません。また、メタのチーフAI科学者であるYann Lecunをロンドンに連れて行って、Quprizeを共有してください。 画像： メタのチーフAI科学者であるYann Lecun 「私たちは、大規模な言語モデルはインテリジェントであると考えて惑わされてきましたが、実際にはそうではありません」と彼は言います。「物理的な世界を理解するという点で、家の猫と同じくらい賢い機械はありません。」Lecun氏は、3〜5年以内に、AIには人間レベルの知性のいくつかの側面があると予測しています。たとえば、ロボットは、プログラムされていない、または訓練されていないタスクを実行できます。続きを読む：Deepseekとは何ですか？テクノロジーの世界をひっくり返した低コストの中国のAI会社ビル・ゲイツは、彼が今日若かった場合、彼は自閉症と診断されると言いますしかし、彼は、世界の安全性を低下させるのではなく、オープンソースのAIモデルを deepseek -10分の1のコンピューティングパワーでアメリカの最高のビッグテクノロジーに匹敵する中国企業によって開発されたチャットボットは、誰も長い間支配しないことを示しています。「米国が地政学的な理由でAIに関して首尾よく刻むことに決めた場合、または商業的理由で、あなたは世界のどこかに革新を起こすでしょう。ディープセークはそれを示しました」と彼は言います。 エンジニアリング賞のクイーンエリザベス賞は、毎年、発見が世界に最も大きな影響を与えている、またはそれを約束するエンジニアに授与されます。以前のレシピエントには、ソーラーパネルの太陽電池の先駆者、風力タービン技術、ハードドライブに含まれるネオジム磁石、および電気モーターが含まれます。Qeprize Foundationの議長を務めるVallance科学大臣は、AIの潜在的なリスクに注意を払っていると言います。英国の新しいAI Safety Instituteなどの組織は、AIの「人間のような」intelligence報機関がもたらす可能性のある潜在的な害を予測し、防止するように設計されています。 画像： 科学大臣バランスLord しかし、彼は1つの国または会社がAIを独占していることをあまり心配していません。「ここ数週間で見たことは、この分野に多くの企業がいる可能性がはるかに高いと思います。単一の支配のアイデアはかなりありそうにありません」と彼は言います。 #AIのゴッドファーザーは武器競争が超人システムの危険を増幅するリスクがあると警告しています英国のニュース