人工超知能 (ASI) をめぐる議論は、それが人類を救うか、人類を滅ぼすかのどちらかであるという予測により、極端な方向に向かう傾向があります。 E・グレン・ワイルは別の視点を持っています。超知能はすでに存在しており、何千年も前から存在しています。
11月19日にバークマン・クライン・センターで講演したワイル氏は、マイクロソフト・リサーチの経済学者であり、著書『ラディカル・マーケット』の共著者でもあり、超知性をジェイムズ・ラブロックの「ガイア仮説」の文脈、つまりすべての生物と自然環境を包含する集合的な自己調整システムとして考えるよう聴衆に促した。
同氏によると、このビジョンは、人間の能力に匹敵する、あるいは人間の能力を超えるという最終目標を掲げ、情報を取り込み、自律的に処理し、それに基づいて動作する機械としてのASIの一般的な描写とは対照的であるという。その枠組みは哲学以上のものである、と彼は主張した。それはエンジニアが AI システムを構築する方法を変えますが、それは良い意味ではありません。
「デジタルシステムを人間から切り離すと、恒常性を維持するためのフィードバックが得られないため、デジタルシステムは危険なものになってしまいます。また、デジタルシステムは生産プロセスや人間の参加に統合されていないため、役に立たなくなります。」
実際、ワイル氏は、「企業、民主主義、宗教、文化など、超知性はすでに私たちの周りに存在しています。これらはすべて、人間が単独では持たない能力を明らかにしています。私たちは人工超知性を何かユニークなものだと考えています。代わりに、私はそれが人間の社会関係をマッピングし、それによってそれを拡張することを可能にする別の方法であることを提案しています。」と述べました。
宗教、政府、企業のシステムは、大規模なコミュニティが目標を達成できるように、集合的な自己認識を利用して人間の能力を強化するため、超知性を発揮するとワイル氏は述べた。また、人間が個人やグループで行うことのできる以上の結束力も強化します。
ワイル氏は一例として、第二次世界大戦後実施された日本のカイゼンシステムを挙げた。工場労働者がより広範な生産プロセスとその中での役割について注意深く対象を絞った情報を受け取ると、個々の段階で業務をより良く革新し、改善することができるようになりました。 「すべてのライン作業員に車の製造に必要なすべてのことを教育することはできません。ですから、何が最も重要で関連性のある情報なのかに賭ける必要があります。」とワイル氏は説明しました。
ワイルの超知性の概念の中核は、共通知識の考え方です。ワイルの言葉を借りれば、「私が知っていてあなたも知っているだけでなく、私はあなたが知っていることを知っており、私は私が知っていることをあなたが知っていることなどを知っている」という情報です。彼は例として「皇帝の新しい服」を挙げた。皇帝が裸であることは誰もが知っていますが、子供が公の場で笑ったときに初めて、誰もが同じものを見ていることに気づきます。
ソーシャルメディアと現代の超知性の概念は、この共有された知識を損なうとワイル氏は主張した。中国では、オンラインスペースに対する政府の検閲により、コミュニティが共通の知識を中心に団結することが困難になっていると同氏は述べた。西洋文化では、ソーシャルメディアが分裂的な意見を特権化することで二極化を悪化させてきました。
しかし、一部の国では、二極化を解消し、理解を高めるために人道的なアプローチを採用しています。同氏は、分断を緩和するために台湾政府が確立した以下のツールを挙げた。 ポリスこれは、ソーシャル メディアの投稿がさまざまなイデオロギー クラスターにどのように適合するかをユーザーに示し、一見異なるアイデア間の類似点を詳しく示します。 「これは二極化攻撃に対する一種のワクチン、あるいは治療法だ」とワイル氏は語った。
比較文学の助教授でバークマン・クラインの教員助手であるモイラ・ワイゲルとのトーク後のディスカッションの中で、ワイル氏は技術システムのインテリジェンスをどのように定義するかについて詳しく説明しました。システムにとって、単に人間のような方法でタスクを完了することよりも、システム自体の機能を監視し、内部ロジックで入ってくる情報に応答することが重要である、と同氏は述べた。
AIの戦いで東と西のどちらが「勝つ」かについて考えるとき、ワイルはその枠組みはほとんど無関係であるとして拒否した。 「壁にぶつかるレースをしている場合、勝つのは壁にぶつかった人ではなく、最後に方向転換した人だ」と彼は言う。
結局のところ、重要なのはシステムの強さではなく、システムがどのように適応するかである、とワイル氏は述べた。