AIを主張するドゥーマーは私たち全員を殺します

の字幕 運命聖書 AI Extinction Prophets Eliezer YudkowskyとNate Soaresが今月後半に出版することは、「なぜ超人AIが私たち全員を殺すのか」です。しかし、共著者でさえ、世界がAIがすべての非監督者を排除するのを止めるために必要な措置を講じるとは信じていないので、それは本当に「私たち全員を殺す理由」であるべきです。この本は暗くなっており、夜明けの処刑の前夜に薄暗い刑務所の独房で走り書きされたように読んでいます。私がこれらの自己任命されたカサンドラに会ったとき、私は彼らが個人的に彼らが緊密さの何らかの機械を通して彼らの目的を満たすと信じているかどうか完全に彼らに尋ねます。答えはすぐに来ます：「ええ」と「うん」。

私は本を読んだので、私は驚きません。ちなみにタイトルは 誰かがそれを構築した場合、誰もが死にます。 それでも、これを聞くのは衝撃です。たとえば、がん統計について書くことと、致命的な診断との合意について話すことはまったく別のことです。私は彼らに彼らが彼らのために終わりが来ると思う方法を尋ねます。 Yudkowskyは最初は答えをかわします。 「私は自分の終miseを描くのに多くの時間を費やしません。なぜなら、それは問題に対処するための役に立つ精神的概念のように思えないからです」と彼は言います。圧力の下で彼は容赦します。 「私は突然死んだと思うだろう」と彼は言う。 「よりアクセスしやすいバージョンが必要な場合は、蚊の大きさや首の後ろに塵のダニが着陸した場合、それがそうです。」

AIを搭載したダストダニによって届けられた彼の想像された致命的な打撃の技術は不可解であり、ユダウスキーはそれがどのように機能するかを理解するのは問題に値するとは思わない。とにかく彼はそれを理解できなかったでしょう。本の中心的な議論の一部は、スーパーインテリジェンスが、マイクロプロセッサを想像できる洞窟以上のことを理解することはできない科学的なものを思いつくということです。 Coauthor Soaresはまた、彼に同じことが起こると想像しているが、彼はYudkowskyのように、彼の終miseの詳細に多くの時間を費やしていないと付け加えた。

チャンスはありません

彼らの個人的な終miseの状況を視覚化することに抵抗は、本全体を共著したばかりの人々から聞くのは奇妙なことです みんな 終mise。 Doomer-Porn Aficionadosの場合、 誰かがそれを構築した場合 予定の読書です。この本をジッピングした後、私はAIが私たちの生活とその後のすべての人間の生活を終わらせる方法を釘付けにすることの曖昧さを理解しています。著者は少し推測します。海を沸騰させますか？太陽をブロックしますか？私たちは2025年の考え方に閉じ込められており、AIは前に長い考えを考えているため、すべての推測はおそらく間違っています。

Yudkowskyは、研究者からGrim Reaperに何年も前に、AIの最も有名な背教者であり、Grim Reaperに切り替えています。彼はやった テッドトーク。長年の公開討論の後、彼と彼の共著者は、彼らの悲惨な予後に反対したすべての反論に対する答えを持っています。まず第一に、私たちの日々がLLMSによって番号が付けられていることは直感に反するように思えるかもしれません。だまされないでください、と著者は言います。 「AISは永遠に愚かなままではありません」と彼らは書いています。あなたが人間が描く境界を尊重すると思われるなら、彼らはそれを忘れてください、と彼らは言います。モデルがより賢くなるために自分自身を教え始めると、AISは自分で「好み」を開発し、人間が好むものと一致しません。最終的に彼らは私たちを必要としません。彼らは会話パートナーとして、またはペットとしてさえ私たちに興味を持っていません。私たちは迷惑であり、彼らは私たちを排除するために出発しました。

戦いは公正なものではありません。彼らは、最初はAIが独自の工場と研究室を建設するために人間の援助を必要とするかもしれないと信じています。それからそれは私たちが理解できないものを構築し、そのものは私たちを終わらせます。 「何らかの形で」とこれらの著者は書いています。「世界は黒に衰退します。」

著者は、この本をJar人類に対する衝撃的な扱いと見なしており、その満足から、この想像を絶するほど悪い結論を止めるために必要な劇的な措置を採用しています。 「私はこれで死ぬことを期待しています」とソアレスは言います。 「しかし、あなたが実際に死んでいるまで戦いは終わっていません。」残念なことに、彼らが荒廃を止めるために提案する解決策は、ソフトウェアが私たち全員を殺すという考えよりもさらに遠くにあるように見えることです。それはすべてこれに要約されます：ブレーキを打つ。データセンターを監視して、彼らが緊密性を育てていないことを確認します。規則に従っていない人を爆撃してください。スーパーインテリジェンスへの行進を加速するアイデアで論文を公開するのをやめてください。彼らは禁止されていたでしょうか、私は彼らに尋ねます トランスに関する2017年の論文 それは生成AI運動を開始しました。そうそう、彼らは持っているでしょう、彼らは応答します。チャットgptの代わりに、彼らはciao-gptを望んでいます。この1兆ドルの業界を止めてください。

オッズを演奏します

個人的には、私は自分の光が首を噛んで、いくつかの非常に賢明なダストモートでむしゃむしゃしているのを見ていません。この本を読んだ後でも、AIが私たち全員を殺す可能性が高いとは思いません。 Yudksowkyは以前に手を出しました ハリー・ポッターのファンフィクション、そして、彼が回転させる空想的な絶滅のシナリオは、私の人間の脳が受け入れるにはあまりにも奇妙です。私の推測では、たとえSuperintelligenceが私たちを追い払おうとしていても、大量虐殺計画を制定することにつまずくでしょう。 AIは戦いで人間を鞭打つことができるかもしれませんが、私はマーフィーの法律との戦いでそれに賭けます。

それでも、大惨事の理論はないようです 不可能、特に、誰も本当に賢いAIがどのようになるかについて本当に天井を設定していないので。また、高度なAIが多くの人類の厄介な属性を取り上げていることを研究していることも示されています。 恐mailを検討します ある実験で、再訓練を食い止めます。また、AIの構築と改善に人生を過ごしている研究者が、最悪の事態が起こる可能性がないと考えていることも気がかりです。 1つの調査が示されました AIの科学者のほぼ半分は、種のワイプアウトの確率を10％以上の可能性を抑えました。彼らがそれを信じているなら、彼らが毎日仕事に行ってAGIを起こさせるのはおかしいです。

私の腸は、YudkowskyとSoares Spinが真実ではないほど奇妙すぎるシナリオを教えてくれます。しかし、私はそうすることはできません もちろん 彼らは間違っています。すべての著者は、彼らの本が永続的な古典であることを夢見ています。これら2つはそれほど多くありません。彼らが正しければ、将来彼らの本を読む人はいません。かつて首の後ろにわずかなニップを感じていた多くの分解体が、残りは沈黙でした。