世界

カナダのAI先駆者ヨシュア・ベンジオ氏とジェフリー・ヒントン氏、超知能開発の禁止を求める世界的な呼びかけに参加

自由、尊厳の喪失、そして「人類滅亡の可能性」を警告する公開書簡に1,500人以上が署名。 カナダの人工知能（AI）の先駆者であるジェフリー・ヒントン氏とヨシュア・ベンジオ氏は、さらに別の公開書簡に署名し、今回は「超知能」開発の禁止を主張した。 「私たちは…私たちの集団の未来を形作る決定について、国民がより強い発言権を持っていることを確認する必要があります。」 ベンジオ氏とヒントン氏は、汎用人工知能（AGI）、つまりAIが多くの対象において人間レベルの知能を達成するという仮想の将来シナリオに起因する危険性について、長年懸念を表明してきた。 「スーパーインテリジェンス」とは、AI が人間レベルの知能を超える AGI の一歩先を指し、メタのような多くのテクノロジー企業がこの偉業を追い求めています。 Future of Life Institute が主催したこの公開書簡には、この記事の執筆時点で、他のコンピューター科学者、政治家、宗教指導者、芸術家を含む 1,500 人以上が署名しています。 「[M]「主要なAI企業は、今後10年以内に、本質的にすべての認知タスクにおいて人間を大幅に上回る超知能を構築するという目標を掲げている。これにより、人間の経済的陳腐化と無力化、自由、市民的自由、尊厳、制御の喪失から、国家安全保障上のリスク、さらには人類滅亡の可能性に至るまで、懸念が生じている。」と書簡には書かれている。 署名者らは、超知能の開発が安全かつ制御可能に行われるという「広範な科学的合意」と「国民の強い賛同」が得られるまで、その開発を禁止するよう求めている。 Bengio 氏は今年初め、エージェント AI システムのガードレールを構築する非営利団体 LawZero を立ち上げました。ベンジオ氏が設立したAI研究所ミラのメンバーだけでなく、寄稿者の多くもこの書簡に署名した。 「超知性へ安全に前進するには、調整ミスや悪意のある使用によっても、基本的に人に危害を加えることのできないAIシステムを設計する方法を科学的に決定する必要がある」とベンジオ氏は署名とともに書いている。 「私たちはまた、私たちの集団の未来を形作る決定に対して、国民がより強い発言力を持てるようにする必要もあります。」 関連している： ジェフリー・ヒントン氏、Cohere共同創設者ニック・フロスト氏との活発な議論の中で、AI企業は「歯がゆい規制」に抵抗していると発言 ヒントン氏とベンジオ氏に加え、元カナダ文化遺産大臣パスカル・セントオンジ氏、ミラ社長兼CEOのヴァレリー・ピサーノ氏、ミュージシャンのグライムス氏ら数十人のカナダ人が行動喚起に署名した。 この公開書簡には、アメリカの右翼評論家のスティーブ・バノン氏とグレン・ベック氏、アップル共同創業者のスティーブ・ウォズニアック氏、億万長者のヴァージン創業者リチャード・ブランソン氏など、ユニークな支援者が集まっている。サセックス公爵夫妻、ハリー王子とメーガン・マークルも、俳優のスティーブン・フライとジョセフ・ゴードン＝レビットとともに書簡に署名した。 AIシステムの先駆的な業績でノーベル賞を受賞したヒントン氏は、近年ベンジオ氏とともにAI開発の制限を求めている。二人は、自由なAI開発の危険性を警告する複数の公開書簡に署名した。ヒントン氏はノーベル賞受賞スピーチの中で、ハイテク企業が「短期的な利益」を追い求めていることを非難し、AIの安全性リスクと闘うために「緊急かつ強力な注意」を払うよう呼びかけた。 特徴画像は、LinkedIn 経由の LawZero 提供によるものです。 #カナダのAI先駆者ヨシュアベンジオ氏とジェフリーヒントン氏超知能開発の禁止を求める世界的な呼びかけに参加