AIはすでに私たちを崖の上に走らせています

e彼の新しい本でアリー これらの奇妙な新しい心、オックスフォード認知神経科学の教授と英国のGoogle Deepmind AIの研究者Chris Summerfieldは、Wile E. Coyoteがロードランナーによって崖の上に導かれたばかりの古典的な漫画シーンについて説明します。 「私はこの本を書いています。なぜなら、私たちはちょうどその崖を乗り越えたからです」とサマーフィールドは主張します。 「私たちが残した安全な地面は、人間だけが知識を生み出す世界です。」

結局のところ、知識は力です。それは、人間が地球上にきらめく文明を構築し、星空の太陽系の範囲を探求し、心を曲げるアートワークを夢見、日常の現実の物質的、文化的、政治的側面を把握できるようになったものです。 AISが知識を生み出し、行動することにますます精通しているので、彼らや彼らをコントロールする人々はそれで何をするでしょうか？特にAISが互いに協力し始めた場合、彼らは誰の利益に基づいて行動しますか？

少なくとも近い将来、サマーフィールドは、それがどのように機能し、それとインテリジェントに相互作用するかを人間の能力よりも、テクノロジー自体についてあまり心配していません。そして、これは部分的にの目的です これらの奇妙な新しい心：読者がLLMの仕組み、言語の使用方法、そして結果が人間の思考やスピーチのように見える理由を正確に理解できるようにするためです。本の過程で、彼は私たちをAIの発展の歴史のツアーに連れて行ってくれます。初期の哲学的基盤から、ポップカルチャーのインスピレーションと影響に至るまで、これらの新しい心に関連する変化する倫理を探ります。

最終的に、サマーフィールドは、LLMは、少なくとも人間が理解できないことではなく、世界を引き継いで破壊する可能性は低いが、既存の問題を悪化させる可能性が高いと主張しています。結局のところ、AIの制限は、人間の脳の制限とそれほど類似していないと彼は言います。私たちは、急速に近づいている技術革命の限界とリスクについてサマーフィールドと話をしました。

Wile e Coyoteを使用して、AIに関して走った「崖」の比phorとして使用します。どうやってここに着いたの？

この技術はまだそれを制御する能力を追い越していませんが、これが旅行の方向です。メタファーは、AIシステムが新しい知識を生成できる新しい世界に関連する未知のものを指します。これは、人間以外のエージェントがこれを行うことができたのは初めてです。

大規模な言語モデルの言語の重要性は何ですか？

人間にとって、言語は私たちの超大国です。言語は、協力して協力し、高度な文明を構築する能力を解き放ち、高度な文明を構築する能力を解き放つ重要な認知的進歩です。言語は、私たちが互いに知識を共有し、アイデアを組み合わせることで新しい知識を作成することを可能にします。馬をホーンと考えてください。ユニコーン。したがって、AIが話すことを学んだという事実は、本当に、本当に大したことです。

AIの言語の習得は、協力して新しい知識を共有し、作成する能力など、人間と同じスーパーパワーの一部をどの程度与えますか？

協力には単なる言語以上のものが必要です。それは、他者の信念と好みを推測し、社会世界に適応する能力が必要です。 LLMSが相互に相互作用する状況をまだ広範囲にテストしていないため、結果が何であるかを理解していません。しかし、既存の知識を斬新な方法でまとめることにより、AIシステムに新しいアイデアを作成する機会をAIシステムに与えます。

LLMは言語を「理解」していますか、それとも彼らはそのように振る舞うのが得意ですか？

問題は、そもそも何かを「理解」することの意味について、広く合意された定義がないことです。燃焼エンジンがどのように機能するかを「理解」していますか？なぜ第二次世界大戦が起こったのか「理解」していますか？このような困難で迅速な判断を下すための強力な基準はありません。しかし、私たちが言えることは、少なくとも英語やその他の復活した言語にとっては、完全に新しい発話を生成することを含む、LLMSの言語の正式な能力は人間と同じかそれ以上であるということです。

この技術はまだそれを制御する能力を追い越していませんが、これが旅行の方向です。

本では、AIが意識になった、または意識になるという主張を探求します。 AI意識は社会にどのように影響するでしょうか？

正直なところ、それが社会に影響を与えるとは思わない。なぜなら、それが意識しているかどうかわからないからです。自分以外のエージェントに関しては、意識は見る人の目に非常に重要です。私はあなたの主観性を経験することはできませんが、特定の行動を表示すると、私はあなたを扱います あたかも あなたは意識しています。私たちはいつもペットとこれを行います。 AIがより人間的になると、人々はそれが意識していると信じるようになると思いますが、それが正しいかどうかは確かではありません。

aiはツール、または新しい形の人になりますか？

AIをツールとして、特に私たちに代わって決定を下すために使用できる一種のデジタルサービスとして考える方が便利だと思います。 AIと話すとき、彼らは人とやり取りしていないことを覚えておく必要があります。彼らはテクノロジー企業によって提供されるサービスを使用しています。しかし、それが人間のように振る舞うなら、AIを人間のように扱うのは間違いなく魅力的です。しかし、私たちが必要とするのはもっと人間であるとは確信していません。すでに80億人の人間がいます。社会を組織するためのより良いツールが必要です。そうすれば、より平和的、繁栄し、公平に一緒に暮らすことができます。

llmsは「思う？」

LLMは、あなたと私が問題を解決するときに作るかもしれないものに似た自然言語で推論の手順を実行します。彼らは、彼らが推論している間、大声で自分自身を追い出すためのこれらのステップさえ言うことさえできます、そして、あなたと私のように、これは良い解決策を見つける可能性を向上させます。しかし、人間が「考える」ことの意味を明確に定義していないので、AIシステムが行っていることは「思考」とは考えられないと主張する余地が常にあるでしょう。

本の中で、あなたは人間の思考の比phorとして「計算」という言葉を使用することは何らかの形で社会的に抑圧的であるという考えに反対します。なぜ？

一部の人々は、脳が情報を計算するという比phorを使用すると、何らかの形で人々をコンピューターのレベルまで下げており、これは本質的に有害であると主張しています。私は、人間の「違い」の概念を維持することが重要であることに同意します – 私たち自身の懸念を持っていること、そしてそれらは大切にされるべきです – しかし、脳のメタファーとして計算を使用することは抑圧的であるという一般的な考えは少しばかげていると思います。これは、考えることについての便利な考え方です。

人々は、AIと話すとき、彼らは人とやり取りしていないことを覚えておく必要があります。

AI「Autopropaganda」によってもたらされるリスクについて説明します。これは、私たちが今日直面しているデジタル誤報とどう違うのでしょうか？

ソーシャルメディアプラットフォームなどのコンテンツ推奨システムに組み込まれたアルゴリズムは、すでに「Autopropaganda」を見ていることを保証します。つまり、既存の信念を確認している見解については、プロパガンダです。 AIが高度にパーソナライズされた場合、それが同様に振る舞う可能性があるというリスクがあり、あなたが聞きたいことをあなたに伝えるだけです。違いは、AIシステムが説得力のある対話で積極的にあなたと関与できることです。そのため、その効果ははるかに強くなります。

多くの人々は、AIがその日の迫り来る問題を解決する近い将来を想像していますが、本で議論するように、この期待は見当違いかもしれません。なぜ？

AIは正式な問題についての知識と推論を取得するのが非常に優れていますが、今日私たちが直面している問題の多くには、異なる種類のスキルが必要です。 AIがこれに優れているという多くの証拠はまだ見ていませんが、私がDeepMindで率いたものを含め、いくつかの初期の試みがありました。 [A study on whether AI can function as a political mediator.] グランドマスターレベルでのプレイやロジックパズルの解決など、正式な問題を解決する能力は、必ずしも物事が非常に厄介な傾向がある現実の世界に装備するわけではありません。結果は不確実であり、決定論的ではなく確率的であり、警告なしに課題が生じる可能性があります。

潜在的なAI Doomsdayシナリオのいくつかを探索して、本を閉じます。何があなたを一番心配していますか？

AIの到着は、自動化の拡大、大規模な多国籍企業の手に資本の集中、情報生態系における誤情報の広がり、重大なインフラクトの攻撃または希望する攻撃のためのサイバーテクノロジーの使用、および環境的な大声の要請のためのサイバー技術の使用など、労働市場への労働市場への混乱、大規模な多国籍企業の手にある資本の集中など、すでに存在する全身的な問題を悪化させる可能性があります。

AIシステムが互いに相互作用し始めたときに何が起こるか心配です。人間として、私たちはそれほど賢いわけではありません。あなたはチンパンジーよりも賢いと思うかもしれませんが、私が砂漠の島であなたを立ち往生させたなら、私のお金はチンパンジーに長く生き残っています。私たちは協力するのが得意であり、私たちの知性は私たちの社会の世界によって可能になります。エージェントが相互作用し始めると、人間の価値と誤って整列する可能性のある演技と通信のモードを自然に見つけます。これが私を最も心配しているものです！

リード画像：Cyber​​Magician / ShutterStock

• ニック・ヒルデン

  投稿しました 2025年6月12日

  芸術、科学、旅行ライターのニック・ヒルデンは、 ワシントンポスト、サイエンティフィックアメリカン、エスクァイア、ポピュラーサイエンス、ナショナルジオグラフィック、 もっと。 Twitterで彼をフォローできます @nickhilden または @nick.hildenのInstagram。