AIは決して意識を持たない

ブレイク・ルモイン 事件 今日では、AI の誇大宣伝の最高点として記憶されています。それは次のようなアイデア全体を突きつけました 意識のあるAI ニュースサイクルの 1 ～ 2 回で一般の人々の意識に浸透しましたが、コンピュータ科学者と意識研究者の両方の間で議論も始まり、それ以来数年で激化するばかりでした。テクノロジーコミュニティはそのアイデア全体を公に軽視し続けているが、 ルモイン）、プライベートでは可能性を持ち始めています もっと真剣に。意識を持った AI は、明確な商業的根拠 (どうやって収益化するか?) を欠き、厄介な道徳的ジレンマ (苦しみをもたらす可能性のある機械をどのように扱うべきか) を引き起こす可能性があります。しかし、一部の AI エンジニアは、汎用人工知能の聖杯、つまり超賢いだけでなく、人間レベルの理解力、創造性、常識を備えたマシンを実現するには、意識のようなものが必要になるのではないかと考えるようになりました。テクノロジーコミュニティでは、意識を持ったAIを取り巻く非公式のタブーだったものが、一般の人々が気味が悪いと感じるだろうという見通しとして、突然崩れ始めた。

転機は 2023 年の夏に起こりました。19 人の主要なコンピューター科学者と哲学者からなるグループが、「」というタイトルの 88 ページのレポートを投稿しました。人工知能における意識」、非公式にはバトリン報告書として知られています。数日以内に、AI と意識科学コミュニティの全員がこの報告書を読んだようでした。報告書草案の要約には、次のような驚くべき文が含まれていました。「私たちの分析は、現在の AI システムには意識がないことが示唆されていますが、意識のある AI システムの構築に明らかな障壁がないことも示唆しています。」

著者らは、このグループの招集と報告書執筆の背後にあるインスピレーションの一部が「ブレイク・ルモインの事件」であったことを認めた。 「AI が意識の印象を与えることができれば」 共著者はサイエンス誌に語った「そのため、科学者や哲学者が検討することが緊急の優先事項となっています。」

しかし、誰もが注目したのは、プレプリントの要約にある「意識的な AI システムの構築に明らかな障壁はない」という一文でした。初めてその言葉を読んだとき、単なる技術的なものではなく、何か重要な閾値を越えたように感じました。いいえ、これは私たちの種としてのアイデンティティそのものに関係していました。

そう遠くない将来、完全に意識を持った機械がこの世に誕生したことを発見したとしたら、人類にとっては何を意味するでしょうか?それはコペルニクス的な瞬間であり、私たちの中心性や特別性の感覚が突然取り除かれるのではないかと思います。私たち人間は、「下等な」動物に対抗して自分たちを定義することに数千年を費やしてきました。これには、感情（デカルトの最も重大な誤りの一つ）、言語、理性、意識など、おそらく人間特有の特性を否定する必要があった。何世紀にもわたる人間の例外主義に挑戦する過程で、多くの種が知的で意識があり、感情を持ち、言語と道具を使用することを科学者が実証したため、ここ数年でこれらの区別のほとんどは崩壊しました。この変化は今も進行中であり、私たちのアイデンティティや他の種に対する道徳的義務についての厄介な問題を引き起こしています。

AI によって、私たちの高揚した自己概念に対する脅威は、まったく別の部分からもたらされます。今後、私たち人間は、他の動物ではなく AI との関係で自分自身を定義する必要があります。コンピューターのアルゴリズムが純粋な頭脳力において私たちを上回っており、チェスや囲碁などのゲームや、数学などのさまざまな形の「高度な」思考で私たちを軽々と破っているが、私たちは、私たち（そして他の多くの動物種）が依然として意識、感じて主観的な経験をする能力の祝福と重荷を自分自身に負わされているという事実に、少なくとも慰めを得ることができる。この意味で、AI は人間と他の動物を近づける共通の敵として機能する可能性があります。つまり、AI に対する私たち、生物対機械です。この新たな連帯感は心温まる物語となり、チーム・コンシャスに招待された動物たちにとっては朗報となるかもしれない。しかし、AI が人間、あるいは動物の意識の独占に挑戦し始めたらどうなるでしょうか?そのとき私たちは誰になるでしょうか？