科学＆テクノロジー

「AI のゴッドファーザー」により、今後 30 年間でテクノロジーが人類を滅ぼす可能性が短縮される |人工知能 (AI)

イギリス系カナダ人のコンピューター科学者は、しばしば「 人工知能の「ゴッドファーザー」 今後30年間でAIが人類を滅ぼす可能性を短縮し、テクノロジーの変化のペースが予想よりも「はるかに速い」と警告した。今年賞を受賞したジェフリー・ヒントン教授 AIの研究でノーベル物理学賞を受賞は、AIが今後30年以内に人類を絶滅に導く可能性は「10％から20％」あると述べた。以前ヒントンは、あると述べていた テクノロジーの可能性は 10% 人類に壊滅的な結末をもたらす。BBCラジオ4のトゥデイ番組で、潜在的なAI黙示録とそれが起こる確率10分の1についての分析を変更したのかとの質問に対し、同氏は「そうではない、10％から20％だ」と答えた。ヒントンの見積もりを聞いて、トゥデイのゲスト編集者であるサジド・ジャビド元首相は「あなたは上がるつもりだ」と言い、ヒントンはこう答えた。ご存知のとおり、私たちはこれまで自分よりも賢いものに対処する必要があったことがありません。」さらに彼はこう付け加えた。「そして、より知性の高いものが、より知性の低いものによって制御されているという例をいくつ知っていますか?例は非常に少ないです。母親と赤ちゃんがいる。進化論では、赤ちゃんが母親をコントロールできるようにするために多大な労力が費やされましたが、私が知っている例はこれくらいです。」ロンドン生まれ、トロント大学名誉教授のヒントン氏は、非常に強力なAIシステムの知能に比べれば、人間は幼児のようなものになるだろうと述べた。「私は次のように考えるのが好きです。あなた自身と 3 歳児を想像してみてください。私たちは3年生になります」と彼は言いました。AI は、通常は人間の知能を必要とするタスクを実行するコンピューター システムとして大まかに定義できます。昨年、ヒントン氏は、「悪者」がテクノロジーを利用して他人に危害を加えるのではないかとの懸念を理由に、制約のないAI開発がもたらすリスクについてもっとオープンに語るためにGoogleの職を辞任し、話題となった。 AI の安全活動家たちの主な懸念は、汎用人工知能、つまり人間よりも賢いシステムの開発によって、そのテクノロジーが人間の制御を回避して存続の脅威となる可能性があるということです。ヒントン氏は、最初に AI テクノロジーの研究に取り組み始めたときに、AI の開発がどこに到達すると考えていたかを振り返り、次のように述べています。 [are] 今。将来のある時点で、我々はここに到達すると思っていた。」過去のニュースレター プロモーションをスキップするテクノロジーが私たちの生活をどのように形作っているのかを毎週紹介しますプライバシー通知: ニュースレターには、慈善団体、オンライン広告、外部団体から資金提供されたコンテンツに関する情報が含まれる場合があります。詳細については、「 プライバシーポリシー。当社はウェブサイトと Google を保護するために Google reCaptcha を使用しています。 プライバシーポリシー そして 利用規約 適用する。ニュースレタープロモーション後同氏はさらに、「現在の状況では、この分野の専門家のほとんどが、おそらく今後20年以内に、人間よりも賢いAIが開発されるだろうと考えているからだ」と付け加えた。そしてそれは非常に恐ろしい考えです。」ヒントン氏は、開発のペースは「非常に速い、予想よりはるかに速い」と述べ、政府による技術規制を求めた。「私が心配しているのは、見えざる手が私たちを守ってくれないのではないかということです。したがって、大企業の利益動機に任せるだけでは、安全な開発を確実にするには十分ではありません」と彼は述べた。 「これら大企業に安全性についてさらなる研究を強いることができる唯一のものは、政府の規制です。」ヒントンは3人のうちの1人 「AIのゴッドファーザー」 彼らは、その業績によりノーベル賞に相当するコンピューターサイエンスの賞であるACM AMチューリング賞を受賞しています。しかし、トリオの一人、マーク・ザッカーバーグのメタ社の主任AI科学者ヤン・ルカン氏は、 実存の脅威を軽視した そしてAIは「実際に人類を絶滅から救うことができる」と述べた。 #のゴッドファーザーにより今後 #年間でテクノロジーが人類を滅ぼす可能性が短縮される…