世界

スティーブン・ホーキング博士の予言は近いうちに実現するかもしれない

多くの人にとって、英国の理論物理学者が与えた警告 スティーブン・ホーキング博士 2014年の彼らはこんな感じだった SFのプロット: 自らを改善し、自らの「ソフトウェア」を再設計し、瞬く間に知性において人間を超え、私たちを置き去りにする機械。しかし、私たちが観察した技術の進歩により、以前は遠い存在だったこの可能性が、ますます現実的なものになりつつあるようです。 2014年 ホーキング博士 「人工知能の完全な発展は人類の終焉を意味するかもしれない」とBBCに語った。同氏は、AIの原始的な形態はすでに有用性を生み出しているが、だからといってリスクを無視できるわけではないと強調した。 もし 人工知能 それが自律的になり、自らを再設計し、生物学的進化によって制限された人間の脳よりもはるかに速く処理を開発できるようになったら、私たちは前例のない、そして脆弱な状況に直面することになるでしょう。 スティーブン・ホーキング博士の警告 懸念の核心 ホーキング博士 それはAIが想定し得る「悪意」ではなく、AIの優れた能力から生じる力の不均衡にあるのです。同氏は当時、人間が追いつけないペースで進化するAIは、人類を脆弱な状態に置く可能性があると警告した。 さらに、この物理学者は、この現象の社会的および経済的影響について警告しました。 技術の進歩 制御されていない。同氏は、大量自動化により大規模な雇用が失われ、インテリジェントシステムを制御する者の手に権力が集中し、不平等が拡大し、深い分断が生じる可能性があると予測した。 この時点から、私たちはこの予測がどの程度現実化しようとしているのかを考えてみることを求められます。そのとき、 ホーキング博士 警告を発したが、AIはまだ比較的「無害な」段階にあり、今日議論されている自律性からは程遠い。しかし、機械学習、ディープラーニング、自動化ツールの急速な成長により、フィクションと現実の間のギャップは縮まりつつあります。 専門家によれば、これらすべてがさらに緊急であるのは、これが単なる「警戒心の強い予測」ではなく、3 つの要素の組み合わせによって決まる可能性があるということです。再帰的な方法で自己改善が可能な AI の出現。これらのシステムが人間の価値観と一致していないこと。そして、そのような機械が人間の監視下にあることを保証できる制御メカニズムの欠如。 このようにして、「エラー」は、 ホーキング博士 参照 — つまり、無視します AIのリスク これは単なる悲観論ではなく、「終わって取り返しのつかない」シナリオに陥らないようにするための警告です。同氏は別の場所で、「AIの開発に成功することは、リスクを回避する方法を学ばない限り、文明史上最大の出来事になるか、あるいは最後の出来事になるだろう」と述べた。 ※ファビオ・プレヴィデッリ監修 #スティーブンホーキング博士の予言は近いうちに実現するかもしれない