2025 年 12 月 6 日
5 分で読めます
AI スーパーインテリジェンスへの第一歩は見えているのでしょうか?
今日の主要な AI モデルは、すでに独自のソフトウェアを作成して改良することができます。問題は、その自己改善が雪だるま式に真の超知性を生み出すことができるかどうかです
KTSDESIGN/サイエンスフォトライブラリー
マトリックス、 ターミネーター—私たちのサイエンス フィクションの多くは、超知能人工知能、つまりほぼすべての認知領域において最高の人間を超えるシステムの危険性を中心に構築されています。 OpenAI CEO の Sam Altman 氏と Meta CEO の Mark Zuckerberg 氏は、今後数年以内にそのような AI が実現されるだろうと予測しています。しかし、これらの映画で人類と戦うように描かれているようなマシンは、ChatGPT よりもはるかに高度である必要があり、言うまでもなく、Microsoft Copilot よりも Excel スプレッドシートを作成する能力が優れている必要があります。それでは、私たちが超人工知能に遠く離れているとどうして誰も考えることができるのでしょうか?
したがって、問題は、自律的な自己改善が可能な最初のシステムにどれだけ近づいているかということです。グッド氏が説明した暴走システムはまだ存在していませんが、自己改善型コンピューターは、少なくとも狭い領域では存在します。 AI はすでにそれ自体でコードを実行しています。 OpenAI の Codex と Anthropic の Claude Code は、独立して 1 時間以上、新しいコードの作成や既存のコードの更新を行うことができます。最近、Codex を使用して、散歩中に携帯電話にプロンプトをサム入力したところ、家に着く前に機能する Web サイトが作成されました。熟練したプログラマーの手にかかれば、このようなシステムは、大規模なコード ベースの再編成から、最初にソフトウェアを構築するまったく新しい方法のスケッチに至るまで、劇的に多くのことを実行できるようになります。
科学ジャーナリズムの支援について
では、なぜ ChatGPT を強化するモデルは、それ自体をウルトラインテリジェンスに静かにコード化しなかったのでしょうか?問題は、上記の「熟練したプログラマーの手に」というフレーズにあります。 AI の目覚ましい改善にもかかわらず、私たちの現在のシステムは、目標の設定、実験の計画、どの変更が真の進歩と見なされるかの決定を依然として人間に依存しています。彼らはまだ堅牢な方法で独立して進化する能力を持っていないため、差し迫った超知性に関する一部の話は不釣り合いに思われますが、もちろん、現在の AI システムが、能力のより幅広い部分で自己改善できるように見えるよりも近づいている場合は別です。
彼らがすでに超人的に見える領域の 1 つは、彼らがどれだけ多くの情報を吸収し、操作できるかということです。最も先進的なモデルは、詩から歴史、科学に至るまで、人間が一生かけて読むことのできるよりもはるかに多くのテキストを対象としてトレーニングされています。また、作業中にはるかに長いテキストを追跡することもできます。すでに、ChatGPT や Gemini などの市販のシステムを使用すると、人間では数週間かかるような方法で、書籍の束をアップロードし、AI にそれらを合成して批評させることができます。それは、結果が常に正しい、または洞察力に富むという意味ではありませんが、原理的には、このようなシステムが独自のドキュメント、ログ、コードを読み取り、どのエンジニアリング チームもかなわない速度と規模で変更を提案できることを意味します。
そして、これは私たちをグッドの「知性の爆発」に戻します。多くの領域にわたってそのような柔軟で人間らしい推論を備えたシステムを構築した場合、それと超知性を何が区別するのでしょうか?高度なモデルは、人間よりも多くの科学と文学に基づいてすでに訓練されており、はるかに優れた作業記憶を持ち、限られた領域で並外れた推論スキルを示します。欠落していた柔軟な推論の部分が整い、そのようなシステムがそれらのスキルを独自のコード、データ、トレーニング プロセスに導入できるようになると、完全に超人的なパフォーマンスへの飛躍は私たちが想像するよりも短くなる可能性がありますか?
誰もが同意するわけではありません。研究者の中には、私たちはまだ知能を根本的に理解できておらず、この欠けている部分を工学的に構築するには予想以上に時間がかかるだろうと信じている人もいます。また、AGI が数年以内に達成され、人類の能力をはるかに超えたさらなる進歩につながると語る人もいます。 2024 年にアルトマンは、超知能が到来する可能性があると公に示唆しました。数千日以内に」
これがあまりにも SF のように聞こえる場合は、AI 企業がシステムの安全性テストを定期的に実行して、自己改善の暴走ループに陥らないようにしていることを考えてください。 メーター独立した AI 安全性グループである は、故障に至るまでに複雑なタスクをどれだけ長く確実に維持できるかに基づいてモデルを評価します。今年 11 月に行われた GPT-5.1-Codex-Max のテストは約 2 時間 42 分で完了しました。これは、同じ指標での GPT-4 の数分間のパフォーマンスからは大きな進歩ですが、グッド氏が説明した状況ではありません。
Anthropic は、自社の AI システムで同様のテストを実行しています。 「はっきり言っておきますが、私たちはまだ『自己改善型AI』には達していません」と同社の共同創設者で政策責任者のジャック・クラーク氏は書いている。 10月に「しかし、私たちは『自律性を高めて、次のAIの一部を改良したAI』の段階にいます。」
もし AGI が達成され、膨大な情報ベース、膨大な作業記憶、並外れたスピードに人間レベルの判断力が加わると、急速な自己改善というグッドの考えは SF ではなくなります。本当の問題は、私たちが「単なる人間」に留まるのか、それとも行き過ぎの危険を冒すのかということです。
科学のために立ち上がる時が来た
私は 12 歳の頃から Scientific American を購読しており、それが私の世界に対する見方を形作るのに役立ちました。 SciAm はいつも私を教育し、楽しませてくれて、私たちの広大で美しい宇宙に対する畏敬の念を引き起こします。あなたにとってもそうなることを願っています。
Scientific American を購読すると、当社の報道が有意義な研究と発見に重点を置いていることが保証されます。米国中の研究所を脅かす決定について報告するリソースがあること。そして、科学そのものの価値が認識されないことが多い現在、私たちは新進の科学者と現役の科学者の両方をサポートします。
その代わりに、重要なニュース、魅力的なポッドキャスト、素晴らしいインフォグラフィック、見逃せないニュースレター、必見のビデオ、やりがいのあるゲーム、科学界最高の執筆とレポートを入手できます。誰かに定期購入をプレゼントすることもできます。
私たちが立ち上がり、なぜ科学が重要なのかを示すことがこれほど重要な時期はありません。その使命において私たちをサポートしていただければ幸いです。
#今日の #モデルは #AGIそして超知能への自己改善にどの程度近づいているのでしょうか