AIモデルは特別なトレーニング方法なしで基本的な掛け算でつまずくことが研究で判明

最近では、大規模な言語モデルが、ますます複雑なタスクを処理し、複雑なコードを記述し、高度な推論を実行できるようになりました。しかし、小学校で教えられる 4 桁の掛け算となると、最先端のシステムでも失敗します。なぜ？

あ 新しい紙 に投稿されました arXiv シカゴ大学コンピュータサイエンス博士によるプレプリントサーバー学生の Xiaoyan Bai 氏と、データ サイエンス研究所の Novel Intelligence Research Initiative の教員共同ディレクターである Chenhao Tan 氏は、失敗と成功をリバース エンジニアリングすることで答えを見つけます。

彼らは、MIT、ハーバード大学、ウォータールー大学、Google DeepMind の共同研究者と協力して、AI の「ギザギザのフロンティア「複雑な推論には優れているが、一見単純なタスクではつまずく能力を表す用語。

覚えているかもしれません（または忘れているかもしれません）、より大きな数値を乗算するには、桁を繰り越し、部分積を精神的に「保持」して、それらを合計して最終的な合計を得る必要があります。このように、後で使用するために情報を保存する必要があるプロセスは、「長距離依存関係」と呼ばれます。

標準的な大規模言語モデルは、トレーニングの対象となるデータ内のパターンを認識することを学習することで機能します。しかし、問題が複雑になればなるほど、モデルがそれを具体的に認識する可能性は低くなります。では、答えを暗記するだけでなくプロセスを学習するようにモデルに教えるにはどうすればよいでしょうか?

標準的なトレーニングが失敗する理由

多くの場合、モデルには標準微調整として知られるプロセスを使用して新しいタスクが教えられます。このプロセスは、トレーニング データのスケールアップや、ステップまたは「レイヤー」の追加に依存します。

しかし、研究チームが 2 層から最大 12 層までのモデルをテストした場合でも、2 つの 4 桁の数値を乗算する際の精度はすべて 1% 未満でした。標準的なアプローチは明らかに失敗しており、研究者たちはその理由を理解したいと考えていました。

彼らは、標準的なアプローチでは、モデルが「局所最適値」、つまり各データセット内で最適なソリューションとして特定されるものに収束することを発見しました。しかし、複数桁の乗算のようなタスクでは、モデルが後の桁を生成しながら以前の計算を記憶できる必要があります。

中間情報を保存および取得できるアーキテクチャがなければ、モデルは行き詰まり、トレーニングにどれだけの時間をかけたり、どれだけスケールしたりしても、その局所最適を超えることができなくなります。

次に研究者らは、別の方法である暗黙的思考連鎖 (ICoT) を使用してトレーニングされたモデルを特定しました。

標準の微調整では 1% 未満の精度しか達成できませんでしたが、ICoT モデルでは 100% の精度を達成できました。このアプローチの違いを理解するために、チームは両方を分解して、いくつかの基本的な洞察を明らかにしました。

まず、ICoT モデルが何が重要かを記憶することを学習していることがわかりました。

標準的な微調整モデルとは異なり、ICoT モデルは、これらの長期的な依存関係、つまり問題を解決するために徐々にまとめられた情報を追跡することを学習しました。チームは、モデルの内部状態から累計などの中間値をデコードできるかどうかをテストすることでこれを検証しました。 ICoT モデルではそれができましたが、標準モデルではできませんでした。

ICoT メソッドはトレーニング中に中間の推論ステップを徐々に削除し、ある意味、モデルに明示的なステップバイステップのトークンに依存するのではなく、隠れた状態で推論プロセスを内部化するように強制します。

次に彼らは、ICoT モデルが時間の経過とともに注意を個別の経路に組織化していることを確認しました。

これを、よく組織されたファイル システムのように考えてください。初期の層では、モデルは数字のペアの積を計算し、特定の場所に格納します。後の層では、最終的な答えの各桁を計算するために必要な値を正確に取得します。その結果、標準モデルでは決して出現しない、乗算を実行するための効率的な内部構造が得られます。

最後に、そしておそらく最も注目すべきことは、研究者らは、ICoT モデルが洗練された構造を使用してこれらの操作を内部的に表現していることを発見しました。モデルは数字を単独の記号として扱うのではなく、フーリエ基底と呼ばれる波状パターンとしてエンコードし、視覚的かつ空間的な方法で演算を体系化します。

数字のペアを乗算するとき、モデルはミンコフスキー和と呼ばれる自然な幾何学的演算を使用します。これは研究者がプログラムしたものではなく、ICoT モデルでのトレーニング中に自然に現れたものです。あたかも成功したモデルが独自の効率的な算術言語を導き出したかのようです。

簡単な修正

研究者らは、標準の微調整モデルに適切な組み込みガイダンスが欠けていたために失敗した場合、適切なトレーニング信号を提供すれば問題が解決するはずだと推論しました。これをテストするために、チームはシンプルなソリューションを導入しました。それは、各ステップでの累計を追跡するようにモデルに学習させ、中間値と部分積を前に進めることを可能にする追加のトレーニング目標です。

標準的なトレーニングでは完全に失敗した 2 層モデルにこれを 1 つ追加するだけでうまくいくことがわかりました。結果: 明示的な思考連鎖の監視なしで 99% の精度が得られます。

研究者らがモデルの注意パターンを調べたところ、モデルが ICoT と同様のメカニズム、つまり必要に応じて部分積を保存および取得する構造を学習していることがわかりました。このモデルは、複数の数字のペアを同時に追跡する方法など、追加の戦略も開発しました。

斬新な知性

乗算は特殊な種類のタスクのように見えるかもしれませんが、今回の研究結果は、大規模な言語モデルがどのように学習し「考える」かという基本的な側面を明らかにしています。

長期的な依存関係の問題は算術に固有のものではなく、言語モデリングやその他の逐次的なタスク全体に発生します。 UChicago チームのアプローチは、暗記と学習の違い、およびどのようなアーキテクチャ上の制約がモデルのパフォーマンスに役立つか、または妨げるかについて、基本的な質問をします。

「AI は重要な意思決定にますます統合されており、AI の独自の学習方法と考え方を理解することが不可欠です」とタン氏は述べています。 「私たちの研究はその地形を図にしようとしているのです。」

この論文の主な貢献: アーキテクチャの洞察とトレーニング技術により、スケーリングだけでは対処できない障害を克服できる。 AI 機能を前進させるには、パラメーターやデータを増やすだけでなく、適切な組み込みガイダンスが鍵となります。

乗算の問題の解決策はタスク固有ですが、研究者らは、将来の研究では、モデルが多くのステップにわたって情報を追跡する必要があるタスクの学習を改善する、より一般的なアプローチを開発すると予想しています。