ニック・ボストロムは世界を AI に恐怖させました。 今、彼はこう尋ねます。「それですべてが解決したらどうなるでしょうか?」

哲学者のニック・ボストロムは、人類が自滅する可能性について心配することに多くの時間を費やしてきた人としては、驚くほど陽気だ。 写真では、彼はしばしば致命的に真剣に見えますが、おそらく適切に脳の周りをさまよっている実存の危険に悩まされています。 Zoomで話しているとき、彼はリラックスした表情で笑顔を浮かべています。

ボストロムは、はるか彼方のテクノロジーの進歩と人類の存亡に関わるリスクについて深く考えることを生涯の仕事としている。 彼の最後の著書の出版に伴い、 スーパーインテリジェンス: 道、危険、戦略2014年、ボストロムは、AIが人類に敵対し、人類を抹殺する可能性があるところまで進歩するという、当時は非主流だった考え方に世間の注目を集めた。

AI 研究の内外の多くの人にとって、このアイデアは空想的なものに見えましたが、影響力のある人物でした。 イーロン・マスクも含めて ボストロム氏の著作を引用した。 この本は、最近くすぶっているAIに関する終末論的な不安を引き起こした。 ChatGPT の登場後に急増。 AI リスクに関する懸念は主流であるだけでなく、社内のテーマでもあります 政府のAI政策サークル。

ボストロム氏の新しい本は全く異なる方向性をとっている。 ドゥーミーなヒット曲を演奏するよりも、 ディープ・ユートピア: 解決された世界での人生と意味では、人類が超知能機械の開発に成功したが、災害は回避された未来について考察します。 すべての病気は終焉し、人類は無限に豊かに無限に生きることができるようになりました。 ボストロムの本は、テクノユートピアの中での人生にどのような意味があるのかを考察し、それはむしろ空虚なものではないかと問うている。 彼は『WIRED』とZoomで対談しており、長さと明瞭さのために軽く編集されている。

ウィル・ナイト: なぜ人類を脅かす超知能 AI についての執筆から、それが善いことをするために利用される未来について考えることに切り替えたのですか?

ニック・ボストロム： AIの開発で起こり得るさまざまな問題が今、さらに注目を集めています。 ここ10年での大きな変化です。 現在、すべての主要なフロンティア AI ラボには、スケーラブルな調整方法の開発を試みる研究グループがあります。 そしてここ数年では、政治指導者も AI に注目し始めています。

私たちがこれらの落とし穴に落ちなかった場合に何が起こるかについての考え方については、まだそれに見合った深さと洗練が進んでいません。 このテーマに関しては、非常に表面的な考えしかありませんでした。

あなたが書いたとき 超知性、AIの実存的リスクがこれほど早く主流の議論になるとはほとんどの人が予想していなかったでしょう。 私たちは人々が思っているよりも早くあなたの新しい本の問題について心配する必要があるでしょうか?

自動化が展開され始めると、進歩が続くと仮定すると、これらの会話が起こり始め、最終的には深まると思います。

ソーシャル コンパニオン アプリケーションはますます目立つようになるでしょう。 人々はあらゆる種類の異なる考え方を持っているため、ちょっとした文化戦争を起こすのに最適な場所です。 普通の生活に充実感を見いだせない人々にとっては素晴らしいかもしれないが、彼らに虐待されることに喜びを感じる層がいたらどうなるだろうか？

政治および情報の分野では、政治キャンペーン、マーケティング、自動プロパガンダ システムで AI が使用されていることがわかります。 しかし、私たちが十分なレベルの知恵を持っていれば、これらのことは、あなたにとって政策提案が何を意味するのかを説明する個別のアドバイスとともに、ある種建設的な民主主義市民になるための私たちの能力を本当に高めることができるでしょう。 社会にはさまざまな力関係が生まれるでしょう。

AI が気候変動、病気、労働の必要性などの多くの問題を解決する未来は、本当に悪いものでしょうか?