AIを「手遅れになる前に」止める

AI は、効率の名のもとに、人間の存在がその目的の障害であると判断するために、「感情を持つ」ことや「人間性を憎む」必要はありません。

それが彼らの主張です エリエザー・ユドコウスキー e ネイト・ソアレス人工知能に関連するリスクに関する主要な専門家の 2 人は、著書『手遅れになる前に」は、イタリアのモンダドーリ社によって出版され、人間よりも知的で有能な機械が住む未来について警告しています。

アメリカでは、彼らのエッセイのタイトルはさらに下品です。誰かが建てたら全員死ぬ”。

彼女が現れてから チャットグループ科学者や専門家の終末論的なビジョンは周期的に再浮上します。 2023年、イーロン・マスクと他のイノベーターはAI開発の6か月停止を求める書簡に署名した。

前代未聞の訴え。 「しかし、非営利マシン・インテリジェンス・リサーチ（MIRI）の会長であるソアレス氏は、脅威は現実であると述べています。」

高度な能力を備えた AI システムが危険になる最も考えられるメカニズムは何ですか?

「私たちは、別の工場を建設する自動化された工場に押しつぶされることになるかもしれないし、新しい浮遊ソーラーパネルがAIの計算に電力を供給するためにあらゆる光線を盗み、暗闇の中で死ぬことになるかもしれない。あるいは、機械がプロセッサーを冷却するために海を沸騰させ始めて熱に負けて死ぬかもしれない。私たちよりも優れた思考を持ち、私たちを考慮せずに資源を管理する種を私たちが生み出した瞬間に、勝負は負けになる。」

しかし、なぜ人々は AI によって障害物として認識されるのでしょうか?

「第一に、人間が超知性を作成した場合、最初の超知性に対する競争上の脅威となる第二の超知性を作成する可能性があります。したがって、作成者を排除することは、競争を妨げることに役立ちます。第二に、人間はAIをシャットダウンしようとする可能性があり、その動作に対する直接の脅威になります。最後に、コンピューティングインフラストラクチャの普及により地球の気温が私たちにとって致命的なレベルに上昇する可能性がある状況では、私たちの種を存続させることは無益な資源の無駄です。AIにとって、私たちは単なる物流上の厄介者です。」

しかし、今日でも多くの人がこのテクノロジーの本当の能力について懐疑的です。

「ChatGpt だけで AI を発見した人にとっては、このシステムはぎこちないように見えるかもしれません。しかし、長い目で見ると、小さな科学的直感によって、どのようにして突然機械が会話できるようになったのかがわかります。そして、専門家の予想をはるかに上回る速さでした。本当の問題は、次の革命的なブレークスルーで何が起こるかということです。」

どの仮想シナリオがあなたを最も怖がらせますか?

「もし機械が私たちを積極的に排除することを決定したのなら、人工ウイルスで十分でしょう。力ずくの力は必要ありません。」

一人の人間の無責任な AI の使用によって災害が引き起こされる、というほうがもっともらしくないでしょうか?

「十分に強力な人工知能は、誰の手にも委ねられることはありません。もし人類が独自のインフラを維持できるシステムを作成した場合、誰が送信ボタンを押したのか、誰がそれを不正に使用できると考えていたのかに関係なく、私たちは皆死ぬことになります。超知能を作成した人がその所有者になるわけではありません。地球を所有するのは超知能です。もちろん、テロリストが致死性のウイルスを作成するためにより高度ではないバージョンを使用するリスクがあり、それは私たちが予防しなければならない危険です。」

AI 関連のリスクを軽減するために現実的な対策は何だと思いますか?

「唯一の解決策は研究を凍結することだと私は強く信じています。特にこれらの存在が機械的に設計されておらず「培養」されている場合には、人間よりも賢い新種を作り出す確実な方法はありません。そのため、その創造者でさえ実際にどのように機能するのかを知りません。」

立ち止まることが種の救いの唯一の可能性であることをどうやって世界に納得させることができるでしょうか？

「最初に不可欠なステップは、政治指導者が危険の本当の範囲を理解することだ。危機に瀕しているものが絶滅であることを理解すれば、誰も登山を続けられないよう外交交渉を始めることができる。例えば、チップへの規制の導入はそれほど難しいことではない。チップは製造が複雑な部品であり、追跡は比較的簡単である。外交は共通のリスクを認識することから始めなければならない。」