1761195655
2025-10-22 22:08:00
マット・オブライエン著
ハリー王子とメーガン妃は、著名なコンピュータ科学者、経済学者、芸術家、福音派キリスト教指導者、米国の保守派評論家スティーブ・バノン氏とグレン・ベック氏らとともに、人類を脅かすAI「超知能」の禁止を求めた。
その手紙、 政治的にも地理的にも多様な公人グループによって水曜日に発表されたこの計画は、多くのタスクで人間を超えるように設計された人工知能の形式を構築するために互いに競い合っているGoogle、OpenAI、メタプラットフォームのようなテクノロジー巨人を真っ向からターゲットにしている。
書簡では、いくつかの条件が満たされない限り禁止を求めている
30語の声明には次のように書かれています。
「私たちは超知能開発の禁止を求めます。超知能開発が安全かつ制御可能に行われるという広範な科学的合意が得られ、国民の強い賛同が得られるまでは解除されません。」
書簡は前文で、AIツールが健康と繁栄をもたらす可能性があると述べているが、それらのツールと並行して、「多くの大手AI企業は、基本的にすべての認知タスクにおいて人間を大幅に上回る超知能を今後10年間で構築するという目標を掲げている。これにより、人間の経済的陳腐化と無力化、自由、市民的自由、尊厳、制御の喪失から国家安全保障上のリスク、さらには国家安全保障上のリスクに至るまで、懸念が生じている」 人類滅亡の可能性もある。」
誰が署名したか、そしてそれについて彼らが何を言っているか
ハリー王子は個人的なメモの中で、「AIの未来は人類に取って代わるものではなく、人類に役立つべきである。進歩の本当の試練は、私たちがどれだけ早く進むかではなく、どれだけ賢く舵を切るかだと信じている。二度目のチャンスはない」と付け加えた。
サセックス公爵と並んで署名したのは、彼の妻であるサセックス公爵夫人メーガン妃だった。
「これは通常の意味での禁止でも、一時停止でもありません」ともう一人の署名者、AIの先駆者でありカリフォルニア大学バークレー校のコンピュータサイエンス教授であるスチュアート・ラッセル氏は書いている。 「これは単に、開発者によれば人類を絶滅させる重大な可能性がある技術に対して適切な安全対策を要求するという提案にすぎません。それは言いすぎでしょうか？」
AI の先駆者や、コンピューター サイエンスの最高賞であるチューリング賞の共同受賞者であるジェフリー ヒントン氏も署名しました。ヒントンも ノーベル賞を受賞した 去年物理で。両方 声を出してきた 彼らが開発に協力したテクノロジーの危険性について注意を喚起するという点で。
しかし、このリストには、非営利団体フューチャー・オブ・ライフ研究所の書簡主催者が、トランプ大統領のホワイトハウススタッフらがドナルド・トランプ大統領の「Make America Great Again」運動に訴えようとする試みで、バノン氏やベック氏を含むいくつかの意外な人物も含まれている。 制限を緩和しようとした 米国におけるAI開発について
Appleの共同創設者スティーブ・ウォズニアックもリストに名を連ねている。イギリスの億万長者リチャード・ブランソン。共和党および民主党政権下で勤務したマイク・マレン元米国統合参謀本部議長。そして民主党の外国人 政策専門家スーザン・ライス、バラク・オバマ大統領の国家安全保障担当補佐官でした。
前者 アイルランド大統領メアリー・ロビンソン 俳優のスティーヴン・フライとジョセフ・ゴードン＝レヴィット、ミュージシャンのウィル・アイ・アムも同様に、イギリスとヨーロッパの国会議員や元アメリカ議会議員らも署名した。 AIを音楽に取り入れた 創造。
-
2024年ノーベル物理学賞受賞者、英国系カナダ人のコンピューター科学者ジェフリー・ヒントン氏が、2024年12月10日、スウェーデン・ストックホルム市庁舎で行われたノーベル賞晩餐会でスピーチを行う（写真提供：Jonathan NACKSTRAND / -） (写真提供：JONATHAN NACKSTRAND/- via Getty Images)
1 の 9
2024年ノーベル物理学賞受賞者、英国系カナダ人のコンピューター科学者ジェフリー・ヒントン氏が、2024年12月10日、スウェーデン・ストックホルム市庁舎で行われたノーベル賞晩餐会でスピーチを行う（写真提供：Jonathan NACKSTRAND / -） (写真提供：JONATHAN NACKSTRAND/- via Getty Images)
「そうです、私たちは病気の治療や国家安全保障の強化などに役立つ特定の AI ツールを望んでいます」とゴードン・レビット氏は書いている。妻のターシャ・マッコーリー氏は、CEO の辞任につながった騒動の前に OpenAI の取締役を務めていた。 サム・アルトマン氏の一時的追放 「しかし、AIも人間の真似をし、子供たちを手入れし、私たち全員を下品ジャンキーにし、広告を配信して何億ドルも稼ぐ必要があるのでしょうか? ほとんどの人はそれを望んでいません。」
AI の超知能に関する懸念も AI の誇大宣伝に拍車をかけているのでしょうか?
この書簡は、AI研究コミュニティ内で、超人的なAIの可能性、それに到達するための技術的道筋、そしてそれがどれほど危険であるかについての継続的な議論を引き起こす可能性がある。
「これまでは、オタク対オタクの戦いがほとんどでした」と、フューチャー・オブ・ライフ研究所所長でマサチューセッツ工科大学教授のマックス・テグマーク氏は言う。 「私たちがここで実際に見ているのは、批判がいかに主流になっているかということだと思います。」
広範な議論を複雑にしているのは、同じ企業が何に向かって努力しているのかということです。 超知性を呼ぶ人もいる そして他の人が電話する 汎用人工知能 (AGI)、また、製品の機能を誇張することもあり、それによって製品の市場性が高まり、懸念の原因となっている可能性があります。 AIバブルについて。 OpenAI は最近、ChatGPT が未解決の数学の問題を解明したと研究者が主張したとき、数学者や AI 科学者から嘲笑を浴びましたが、実際に行ったのはすでにオンラインにあるものを見つけて要約することでした。
「過剰に誇張されているものが山ほどあり、投資家として注意する必要があるが、ズームアウトしてみると、過去 4 年間で AI の進歩が大方の予想よりはるかに速いという事実には変わりはない」とテグマーク氏は語った。
テグマークのグループもまた、 2023 年 3 月のレター — まだ黎明期にある 商用AIブーム —それはテクノロジー大手に対し、より強力なAIモデルの開発を一時的に停止するよう求めた。主要なAI企業はいずれもその呼びかけに耳を傾けなかった。そして、2023年の書簡の最も著名な署名者であるイーロン・マスク氏は、同時に、6か月の休止を希望している企業と競争するために、静かに自身のAIスタートアップを設立していた。
今回もマスク氏に連絡を取ったかとの質問に対し、テグマーク氏は米国の主要なAI開発会社すべてのCEOに手紙を書いたが、彼らが署名してくれるとは予想していなかった、と述べた。
「率直に言って、私は彼らにとても同情します。なぜなら、彼らはこのレースで最下位まで行き詰まっていて、他の選手に追い越されないように進み続けなければならないという抗いがたいプレッシャーを感じているからです」とテグマークは語った。 「だからこそ、米国政府が介入するところまで、超知性への競争に汚名を着せることが非常に重要なのだと思います。」
Google、Meta、OpenAI、マスク氏のxAIは水曜日のコメント要請にすぐには応じなかった。
初版発行日:
#ハリー王子とメーガン妃スティーブバノングレンベックとともにAI超知能の開発禁止を求める