世界

AIの「Godfathem」警告は、人類が消えないように警告します

会議で AI4 ラスベガスでは、 ジェフリー・ヒントン - ノーベル賞 - ウィニングと元グーグルのエグゼクティブ - は、人工知能の未来について心配で急進的な見方を示しました。彼女の「ゴッドファーザー」として国際的に知られています ai、ヒントンは、これまでのところハイパーバウンドシステムを制御する戦略は失敗する運命にあると主張した。 彼のスピーチの間に、彼はハイパーバウンドエンジンが作成されたとき、それらが発達する可能性が非常に高いと言いました 2つの基本的な目標：彼らの生存を確保し、世界に対する彼らのコントロールを増やすため。彼によると、 将来の人々や機械の対立を避ける唯一の方法は、AI「母性本能」を組み込むことです、人間のための一種の深い固有のケアであり、ルールへの単なる標準的なコンプライアンスではありません。 ヒントンは、人々とAIの将来の関係を、キャンディーを与えることで3歳の子供を操作しようとすることに例えました。シンプルだが効果的な戦術です。このようにして、彼女は、AIが必要に応じて、私たちを導くことができ、目標を達成するために私たちを欺くことができることを示したかったのです。 彼のスピーチの最も憂慮すべき点の1つは、到着に対する彼の感謝を更新することでした 人工知能 （アギ）。彼はかつてこのマイルストーンを最も遠い将来に置いていましたが、彼は今ではそれがわずか5〜20年で起こる可能性があると信じています。同時に、彼はAIの危険が最終的に10〜20％で人類の消失につながることを思い出しました。 彼の議論の核心は、今日のアプローチ - AIを「従順」に保つ - は実行可能ではないということです。圧力の下で、嘘をついたり脅迫したりすることができるシステムの例がすでにあります。これは、これが無期限のサイエンスフィクションのシナリオではなく、現実に登場し始める挑戦であることを示しています。 ヒントンの見解では、全員が同意しているわけではありません。または fei-fei li、AIの「ゴッドファーザー」として知られていることは、別のアプローチを表明しました。 「母体の本能」の代わりに、彼は人間の尊厳と自律性を尊重する「人類中心のAI」の創造を提案します。 Liにとって、問題は人間のマシン感情的絆を開発するのではなく、確立されることです 技術的に そして、人工知能が私たちの利益のために機能することを保証する倫理的な文脈。 彼らの違いにもかかわらず、両方とも 科学者 彼らは1つの重要なポイントに同意します。私たちはまだAIの完全な主権とはほど遠いですが、研究開発の分野で今日行われた決定は、この将来が安全か危険かを決定します。ヒントンは、研究を機械での「ケア」の栽培に変える必要性を強調し、Liは人間の優位性を維持することに焦点を当てています。[via] #AIのGodfathem警告は人類が消えないように警告します