AI の位置合わせの問題 – WorldCAD Access

意見

ジェフリー・ミラー氏はツイッターにこう書いた。 [source]『AIを理解すれば アライメント 問題は、AI を擁護するということは理解していますね。 加速主義 それは人類を裏切ることを意味する」 [my italics]。彼はニューメキシコ大学の進化心理学の教授です。

このツイートについて深く考えていると、両者の間には決して和解できない大きな溝があることに気づき始めました。

• 位置合わせ 解決不可能な問題です 道徳 問題
• 加速主義 解決不可能な問題です テクニカル 問題

アライメントの意味

位置合わせ 「人間の価値観と目標を AI モデルにエンコードして、可能な限り有用、安全、信頼できるものにする」ことを意味すると IBM は語ります。 [source]。

ミラー氏が指摘するように、すぐに疑問が生じます。 [source]：個人の価値観や興味の多様性を考慮すると、誰の人間的価値観が優先されるのでしょうか？たとえば、パブリッシャーの価値は、AI がコンテンツに自由にアクセスできないことです。私の価値観はAIの消滅です。

私だけでなくこの問題を一般化すると、人類の 86% が組織化された宗教に関わっていますが、ミラー氏は「AI 業界は、しばしば宗教的な観点を無視する世俗的な無神論者によって支配されている」と述べています。宗教だけではありません。 AI は「環境保護、左派リバタリアンの指向」など、他の偏見にも悩まされています。 [source]。

もしあなたが左翼の環境保護活動家であれば、自分の世界観のバブルの中で、そのような偏見は普通のことだと考えるかもしれないし、自分の少数派の視点を世界の他の国々、例えば国家の指導者に広めるのにAIが役立つとさえ考えるかもしれない。北朝鮮か隣国か。 (私たちは皆、自分自身で作り出した世界観の泡の中で生きていることを認めさせてください。重要なのは、私たちがそれに気づいているかどうかです。)

私が「調整の意味」という小見出しを書いたとき、私はそれを言葉の意味とその含意という二重の意図で書きました。私にとって、これが意味するのは、AI 業界がそのソフトウェアを人間の価値観と調和させることに失敗するということです。例えば、ほとんどの核保有国はAIによる核兵器の発射コードへのアクセスを阻止すると約束しているが、中国はそのような約束をしていない。 [source]。

現実には、AI の調整は、シリコンバレーのプログラマーが持つ狭い範囲に焦点を当てた一連の価値観と調整されることになります。

加速主義の意味

加速主義 それは、「人工知能は…革新の邪魔をするガードレールや門番を排除して、できるだけ速く動くことができるようにすべきである」ということを意味するとケビン・ルースは語ります。 [source]。彼はニューヨーク タイムズでテクノロジーに関するコラムを執筆しています。

ニック・ボストロム氏は、AI は実際に「脱ぐAI は数日または数週間で超知能になる可能性があります。」 [source]。彼は理論物理学と計算神経科学の背景を持つ哲学者です。彼は、2013 年当時、超知能 AI に対してレンガの壁を築くであろう技術的制約をまだ予測できなかったと書いています。

ChatGPT が世界の想像力を掴むまでさらに 10 年かかり、AI の離陸に直面している GPU、電気、データという 3 つの乗り越えられないハードルが最初はぼんやりと見え始めました。

GPU。 より多くの「インテリジェント AI」には、より多くの GPU (情報を並列処理するコンピューター ボード) が必要であり、GPU の需要により、メーカーは最高額 (現在は 1 台あたり 30,000 ドルの範囲) を請求できるようになりました。 [source]）、トップエンドの AI マシンに必要な数十万の GPU ボードを搭載しています。

電気。 GPU が増えるとより多くの電力が必要となり、AI マシンの最大の所有者は原子力発電所の再設置を検討しているほどです [source]、一方で、別のエネルギー多消費技術であるビットコインマイニングで起こったように、一部の管轄区域は電力の過剰使用を理由にAI企業を禁止すると脅している。

「単一の大型のトレーニング [AI] モデルは50MWhを消費できます [mega-watt hour] エネルギーのことです」とマンジャ・テッシンは説明します。 [source];対照的に、一般的な住宅は 1 日あたり 0.76MW を消費します。 [source]一方、私たちの脳が必要とする電力は 1 日にわずか 0.3 kWh です。 [source]。 AI のますますの進歩は、逆説的ですが、脳レベルの電気消費から誤った方向へ向かっています。

データ。 現在人気のある AI は LLM (大規模言語モデル) で、人間が作成したテキスト (この記事のような) を読み取り、文内の次の単語が何であるべきかについて確率に基づいた推測を出力します。改善するには、LLM にさらに多くのテキストが必要ですが、AI 開発者は高品質のソースを使い果たしています [source];解決策の 1 つは合成テキストですが、これはさらに大きな幻覚 (悪い出力) を引き起こすことがわかっています。 [source]。

– – –

AI の目標は、トレーニングなしでタスクを実行する際に人間と同じように賢くすることです。これは「数千日以内」に可能です。もっと時間がかかるかもしれない」とサム・アルトマン氏は言う [source]。 (彼は現在、OpenAI の CEO です。) 人間レベルの AI は、Artificial の略で AGI として知られています。 一般的な インテリジェンス (文章、画像、音楽を生成する今日の genAI、生成 AI と混同しないでください) [source]。

長期的な目標は、 特異点、コンピューターが私たちの脳を置き換えるのに十分な能力を備えた未来の神話的な時代。ロボットの体とともに、人類は永遠の命、少なくとも今日の宇宙旅行者のような永遠の命を購入できるごく少数の裕福な人々を達成するでしょう。ヨーロッパでは、その夢は政党Partei fuer Schulmedizinische Verjuengungsforschung（従来の医療若返り研究のための政党）を通じて表現されており、千年間無病で生きることは達成可能であると約束している。 [source]。

要件は明らかです。特異点に到達するには、必要な電力と GPU の数が少なくなります。うまくいきません。 AI の巨人が AGI に近づこうと奮闘する中、より多くのエネルギー、より多くのデータ、より多くの GPU、そしてより多くの資金が必要となります。進歩は自滅的です。

OpenAI が 300,000 GPU クラスターで実行する GPT-5 (別名 Orion) のリリースが迫っていることからわかるように、LLM ベースの AI は拡張できません。「GPT-4 から Orion への品質の上昇は、 GPT-3からGPT-4へ。」 Ed Zitron 氏は次のように説明しています。価格は上がっていますが、それほど優れているわけではなく、それほど強力ではありません。」 [source]。

シンギュラリティに到達するには、AI が指数関数的な成長を示すと同時に、リソース要件が指数関数的に減少する必要があり、現在起こっているようにその逆ではありません。

ジェフリー・ミラーが言いたかったこと

ジェフリー・ミラー氏が「AI の調整問題を理解していれば、AI 加速主義を主張することは人類を裏切ることを意味することがわかります。」という言葉の意味を推測することしかできないことを認めます。私の見解は次のとおりです。

AI の調整の問題は、人間が 70 億個の存在であるのに対し、AI は単一の存在であるため、その価値観を人間と調整できないことです。ガードレールに関係なく AI 開発を加速すると、その結果、人間の価値観と一致しないことで人間を裏切る AI が生まれ、その AI がコード化されたごく一部の人にとってのみ価値のあるものになります。

AI は 1950 年代に初めて開発されました。将来、私たちが今日の LLM ベースのヒステリーを振り返ったとき、それは人工知能コンピューターを開発しない道の長い失敗のほんの一瞬に過ぎないでしょう。