1746720042
2025-05-08 00:00:00
の政府 シンガポールがリリースされました 青写真 今日のグローバルコラボレーションのために 人工知能 米国、中国、ヨーロッパのAI研究者の会議後の安全。この文書は、競争ではなく国際協力を通じてAIの安全性に取り組むという共通のビジョンを示しています。
「シンガポールは、東と西の両方とうまくやって来て、地球上の数少ない国の1つです」と、先月AI著名人の会議を支援したMITの科学者であるMax Tegmark氏は述べています。 「彼らは彼らが構築するつもりはないことを知っています [artificial general intelligence] それ自体 – 彼らは彼らにそれをやります – だから、それを構築しようとしている国々をお互いに話しかけることは非常に多くのことです。」
もちろん、AGIを建設する可能性が最も高いと考えていた国は、もちろん米国と中国であると考えていましたが、それらの国は、一緒に働くことよりも、互いに外れ回ることを意図しているように見えます。 1月、中国のスタートアップDeepseekの後 最先端のモデルをリリースしましたトランプ大統領はそれを「私たちの産業への目覚めの呼びかけ」と呼び、米国は「勝つために競争することでレーザーに焦点を合わせている」必要があると述べた。
シンガポールのグローバルAI安全研究の優先事項に関するシンガポールのコンセンサスは、研究者が3つの重要な分野で協力することを求めています。フロンティアAIモデルによってもたらされるリスクの研究、それらのモデルを構築するためのより安全な方法を探求し、最も高度なAIシステムの動作を制御する方法を開発することです。
このコンセンサスは、今年シンガポールで開催された最高のAIイベントである国際学習表現会議（ICLR）とともに、4月26日に開催された会議で開発されました。
Openai、Anthropic、Google Deepmind、Xai、およびMetaの研究者はすべて、MIT、スタンフォード、Tsinghua、中国科学アカデミーなどの機関の学者と同様に、AI安全イベントに参加しました。米国、英国、フランス、カナダ、中国、日本、韓国のAI安全機関の専門家も参加しました。
「地政学的な断片化の時代において、AIの安全性に関する最先端の研究のこの包括的な統合は、グローバルコミュニティがより安全なAIの未来を形作るという共通のコミットメントと一緒になっているという有望な兆候です」とTsinghua大学の学部長は声明で述べています。
ますます能力のあるAIモデルの開発により、そのうちのいくつかは驚くべき能力を持っていますが、研究者はさまざまなリスクを心配させました。によって引き起こされた問題を含む短期的な害に焦点を合わせている人もいますが 偏ったAIシステム またはの可能性 技術を活用する犯罪者、かなりの数は、AIがより多くの領域で人間を覆い始めたときに、人類に実存的な脅威をもたらす可能性があると信じています。これらの研究者は、「AI Doomers」と呼ばれることもあり、モデルが自分の目標を追求するために人間を欺き、操作することを心配しています。
AIの可能性は、米国、中国、およびその他の強力な国の間の軍拡競争についての話も驚かせました。この技術は、政策界で経済的繁栄と軍事的支配に重要であると見なされており、多くの政府は、それがどのように開発されるべきかを管理する独自のビジョンと規制を賭けようとしています。
#AIの安全性に関するシンガポールのビジョンは米中の分裂を橋渡しします