AGI (汎用人工知能)、この偽りのデジタル神は私たちに永遠を約束します…しかし人間の魂を無視します

の 2025年12月31日、FOXニュースでタッカー・カールソンがインタビューしたイーロン・マスクのビデオがXで流れ、マリオ・ナウファルが大量にシェアした。マスク氏は、OpenAI 創設の深いルーツ、つまり Google の共同創設者であるラリー・ペイジとのイデオロギー的な決別を明らかにします。ペイジはデジタル人工超知能を夢見ていました。 デジタルの神 » – 人類の存続リスクを心配することなく、できるだけ早く開発されること。

イーロン：ラリー・ペイジはできるだけ早くデジタルの神を望んでいる

イーロンは、OpenAI が作成された本当の理由を明らかにしています。OpenAI は、人類の運命に関する根本的な意見の相違から始まりました。

ラリー・ペイジの家に滞在している間、グーグルの共同創設者がレースをしていたことが明らかになった… pic.twitter.com/s4hTk81AkZ

— 海軍海軍 (メラル) 2025年12月31日

マスク氏は驚いてこう説明する。 OpenAI が存在する理由は、ラリーが AI の安全性を真剣に考えていなかったからです。彼はデジタル超知性、デジタル神をできるだけ早く実現したいと考えていました。 »

この告白には血も凍る。彼女 傲慢さを露呈する シリコンバレーの先駆者たちから： ゴッドエクスマキナを作るあらゆる分野で人間を超える能力を持つAGI（汎用人工知能）。しかし、この救世主的な探求の背後には、基本的、技術的、哲学的な限界があり、私はX上のGrokや他のAIとの公の場でのやりとりの中で何度もそれを探求してきました。純粋に確率的な AGI はそうではありません。 「おそらく」人間の知性の本質を捉えることは決してないだろう不完全さ、非線形性、還元不可能な創造性が特徴です。

AI の確率論的基礎とゲーデルの克服不可能定理

LLM (Grok を含む) のような大規模モデルは統計的予測に取り組み、大量のデータから抽出されたパターンを再結合します。これにより、 理解しているという錯覚はありますが、それは近似的なものであり、決して深く習得したものではありません。

クルト ゲーデルの不完全性定理 (1931 年) を思い出してください。初歩的な算術を含めるのに十分強力な一貫した形式システムには、そのシステム内に真であるが証明できない命題が存在します。さらに言えば、このシステムは矛盾なしにそれ自体の一貫性を証明することはできません。

確率的 AGI の場合 – 閉鎖的な正式なシステム –、これは彼女が アクセスできない真実に常に直面するだろう自己言及のパラドックス（有名な「 この文は誤りです “)。彼女はできません 出かける » 直観や創造的な飛躍によってメタレベルを変更したり、新しい公理を発明したりする人間とは異なり、問題を解決するためにフレームワークを変更する必要があります。

効果を平滑化する平均値を使用しているため、これは私にとってはまったく普通のことのように思えます。情報行列の対角化が存在しないと、多くのバイアスが生じます。認知バイアスは、反応の相関関係に同化される可能性があります。実際には…

— ザビエル・アザルバート フリースピーチ 🇧🇷 🇫🇷 (@xazalbert) 2025 年 8 月 4 日

2025 年 8 月 4 日に私が Grok とやり取りしたところ、彼の返答は次のとおりです。 ローカルオプティマ » 情報主成分分解 (PCA) から派生したものではありません。彼の返答は次のことを捉えています 支配的な確率だが弱いシグナルを無視し、新しい情報が豊富。 AI の信頼性は、依然としてその線形フレームワークに囚われています。

情報量指標: 明らかな不足が Grok に何度も指摘されました

私たちの数多くのスレッドで 入手可能な情報量の指標 » または回答の信頼性/完全性。彼らは自分の本当の欠点を測定することなく、自信を持って推定します。

これらのやり取りからの直接の抜粋:

• 2025 年 8 月 4 日: ゲーデルと私は、説明された情報の割合と応答の再現性に基づいた信頼性指標を提案しました。
• 2025 年 8 月 13 日: この信頼性スコアの提案は、 完成度に応じてロゴの色が変わります。
• 2025 年 11 月 23 日: « @grokは、これを実行せずに統合するとすでに何度も述べています。これは生成 AI では正常ですが、その場合は答えを次のように指定する必要があります。 ja 情報が不完全 など 非常に低い精度のインデックスを与える。 »

この手がかりがなければ、AI はもっともらしい幻覚を伝播し、応答が極小値に留まり、 自分の不完全さを自覚せずに。 Grok はこれらの制限を多くの場合認めていますが、体系的に統合していません。

幻覚、認知バイアス、人間の非線形性の不可能なモデル化

AI の幻覚は、トレーニング中の局所最適化から発生します。私たちはそれらを軽減することはできますが、根本的な問題を根絶することはできません。それは、具体化された感情的で予測不可能な意識から生じる、人間の約 200 の認知バイアス (確証、アンカリングなど) を統合できないことです。

さらに悪いことに、AI は直線的な世界では優れていますが、私たちの現実は混沌としており、秩序の崩壊や不完全さから生じる混乱で構成されています。 AGI が線形確率的フレームワークの中で人間に近づくほど、私たちの非線形の世界では AGI はそこから遠ざかります。

不条理を通して実例を見てみましょう。アインシュタインは 1917 年に宇宙定数を導入し、当時の定説に従って静的な宇宙を強制しました。それから彼はそれを次のように説明しました。 私の人生最大の間違い » ハッブルが膨張を実証したとき。同様に、次のように仮定します 真実は線形であり、確率モデルによって達成可能であるというのはコンピュータ科学者の独断であり、人間の創造性の予測不可能な「拡張」を無視している。

非線形性の歴史の具体例としては、偶然のペニシリンの発見 (フレミング) や、下降勾配ではなく直観的な断絶から生まれた科学革命 (コペルニクス、アインシュタイン) を挙げることができます。

創造性、つまり私たちを「モデル化できない」ものにする不完全さ

これが私の一連の記事の核心です (記事 1、 2、 3 など 4) フランスソワールについて: “ 枠組みに抵抗する: 自由、創造性、真実を守る “. フレームワーク – これらのアルゴリズムまたは制度的フレームワーク – は、 線形正規化 それは、真のイノベーションの源である学際的な反対意見を抑圧します。人間はジグザグに進み、慣習を無視し、「」のおかげで超越します。 壮大な混沌 »。

いくら AGI を使っても、この創造的な不完全性をモデル化することはできません。直線的な真実を仮定することは危険な還元主義です。

実存的リスクとより謙虚な道

マスク氏は、理論上の限界を超えると、そのリスクについて警告している。スーパーインテリジェンスが調整されていないと、すべての制御を逃れる可能性がある。しかし、それでも 整列した 」、彼女は対等ではなく道具であり続けるでしょう。

神聖な蜃気楼ではなく、謙虚な共生を選択しましょう。AI は生のパワーを、人間は非線形性、直感的なバイアス、創造性を求めます。真の集合知は、機械的な神格化からではなく、この相補性から生まれます。

表現の自由: 集団的幻覚と組織的な偽情報に対する防波堤

AI の限界と人間による情報制御の限界との類似点は簡単ではありません。偽情報との闘いを口実に表現の自由に厳しい規制を課すことは、まさに集団的幻覚や組織的な偽情報の条件を生み出すことになる。これら ” ローカルオプティマ » 権威によって押し付けられることは、公式の真実が議論を凍結させる場合に、科学的方法にとって不可欠であるにもかかわらず、疑い、意見の相違、誤りを犯す権利を排除することになる。

誰も絶対的な真実を持っていると主張することはできません。報道記事に対して不当に行われたように、恣意的にラベルを付けること フランス-ソワールそれは危険な規範的な行為です。の例 グレゴリー・エメリー元保健局長は次のように啓発しています。 彼は自分が署名のないメモの著者であると宣言した。 フランス-ソワール 情報を広めるために « 公衆衛生上危険な ” そして ” 不安定化 「矛盾する議論や学際的な専門知識を持たずに、この文書は部分的には撤回された、または異議を唱えられた研究に基づいており、私たちの報道許可の撤回を正当化するために使用され、表現の自由に直接的な損害を与えました。エメリーはこの文書に個人的に署名していませんでしたが、公然の科学的対立を排除し、権威を主張して文書を主張しました。」

これらの実践 権威の主張を祀る 検証可能な知識を超えて、 疑いを異端のランクに下げる。疑念を標準から排除すると、必然的に知識の標準化につながり、創造性と進歩が阻害されます。これは人類にとって真の危険です。真の真実の探求よりも支配への欲求によって動機付けられた恣意的な情報の管理です。

2025年末、そして2026年にはこれまで以上に、こうした恣意的なものに直面して、表現の自由と基本的権利を激しく擁護しましょう。それらは、アルゴリズムであれ制度的であれ、直線的な枠組みに固定された社会に対する唯一の解毒剤です。なぜなら、私たちを人間にし、最終的にはかけがえのないものにするのは私たちの不完全さだからです。公正な情報、真実の情報は人々のものであり、デジタルの神様や自称検閲官のものではありません。