世界

AIはAIで低電力と精度を約束します

プリンストン大学のNaveen Vermaの研究室は、デジタルコンピューティングの代わりにアナログ現象を使用することにより、エンジニアがAI超効率を高めようとしたすべての方法の博物館のようなものです。 1つのベンチには、すべてが作った最もエネルギー効率の高い磁気メモリベースのニューラルネットワークコンピューターがあります。別の人には、抵抗メモリベースのチップがあり、アナログAIシステムの数の最大のマトリックスを計算できます。Vermaによると、どちらも商業的な未来を持っていません。あまり慈善的ではないが、彼の研究室のこの部分は墓地です。アナログAIは、長年にわたってチップアーキテクトの想像力を獲得してきました。機械学習がエネルギーを集中的に少なくするために、2つの重要な概念を組み合わせています。まず、メモリチップとプロセッサ間のビットの費用のかかる動きを制限します。第二に、ロジックの1と0の代わりに、電流の流れの物理学を使用して、機械学習の重要な計算を効率的に行います。アイデアと同じくらい魅力的であるため、さまざまなアナログAIスキームは、AIの愚かなエネルギー食欲を実際に噛むことができる方法では提供されていません。バーマは知っているでしょう。彼はそれらすべてを試しました。しかし、いつ IEEEスペクトル 1年前に訪問したVermaの研究室の裏にチップがあり、アナログAIとAIを有用で遍在するために必要なエネルギー効率の高いコンピューティングに対する希望を表しています。電流で計算する代わりに、チップは電荷を合計します。それは取るに足らない違いのように思えるかもしれませんが、それは他のすべてのアナログAIスキームを妨げるノイズを克服するための鍵かもしれません。今週、Vermaのスタートアップは、この新しいアーキテクチャであるEN100に基づいて最初のチップを発表しました。スタートアップは、チップが競合するチップよりも最大20倍のパフォーマンスを備えたさまざまなAI作業に取り組んでいると主張しています。 AI対応のラップトップでバッテリー寿命を節約することを目的とした8.25ワットで毎秒200兆の操作を追加する単一のプロセッサカードに設計されています。それに加えて、4チップ、1000階建ての1000階建てのカードがAIワークステーションを対象としています。現在と偶然機械学習では、「幸運にも、私たちが行っている主な操作はマトリックスのマルチプライスです」とVerma氏は言います。それは基本的に、数字の配列を取得し、別の配列で乗算し、これらすべての乗算の結果を追加します。早い段階で、エンジニアは偶然に気づきました。電気工学の2つの基本的なルールは、まさにその操作を行うことができます。オームの法律では、電圧とコンダクタンスを掛けることで最新の状態になると述べています。そして、Kirchoffの現在の法律では、たくさんの電流が多数のワイヤから入ってくると、それらの電流の合計がその点を残すものであると言います。したがって、基本的には、入力電圧の各束は抵抗を介して電流を押します（コンダクタンスは抵抗の逆です）、電圧値を増やし、それらのすべての電流が加算されて単一の値を生成します。数学、完了。いいですね？まあ、それは良くなります。ニューラルネットワークを構成するデータの多くは、「重み」であり、入力を掛けるものです。そして、そのデータをメモリからプロセッサのロジックに移動して作業を行うことは、エネルギーGPUの大部分を消費する責任があります。代わりに、ほとんどのアナログAIスキームでは、重みはコンダクタンス値（上記の抵抗）としていくつかのタイプの不揮発性メモリの1つに保存されます。重量データはすでに計算を行うために必要な場所であるため、それほど移動する必要はなく、エネルギーの山を節約します。無料の数学と固定データの組み合わせは、エネルギーのジュールの数千分の1兆分の1を必要とする計算を約束します。残念ながら、それはアナログAIの取り組みが提供してきたものではありません。現在のトラブルあらゆる種類のアナログコンピューティングの根本的な問題は、常にシグナルと雑音の比率でした。アナログAIにはトラックの荷でそれがあります。この場合、これらすべての乗算の合計は、多くの可能なノイズ源に圧倒される傾向があります。「問題は、半導体デバイスが乱雑なものであることです」とVerma氏は言います。個々のRRAM細胞のコンダクタンスとして重量が保存されるアナログニューラルネットワークがあるとします。このような重量値は、定義された期間、RRAMセル全体に比較的高い電圧を設定することにより保存されます。問題は、2つのセルにまったく同じ電圧を同じ時間に設定することができ、これらの2つのセルがわずかに異なるコンダクタンス値で終わることです。さらに悪いことに、これらのコンダクタンス値は温度とともに変化する可能性があります。違いは小さいかもしれませんが、操作が多くの乗算を合計しているため、ノイズが拡大されることを思い出してください。さらに悪いことに、結果の電流は、ニューラルネットワークの次の層の入力である電圧に変わり、ノイズにさらに追加されるステップです。研究者は、コンピューターサイエンスの観点とデバイスの物理学の観点からこの問題を攻撃しました。騒音を補うことを期待して、研究者は、デバイスの物理的なfoibleの知識をニューラルネットワークモデルに焼く方法を発明しました。他の人は、できるだけ予想通り振る舞うデバイスを作成することに焦点を合わせています。この分野で広範な研究を行ったIBMは両方を行います。このような技術は、まだ商業的に成功していないとしても、小規模なシステムでは、IoTネットワークの端でデバイスに低電力機械学習を提供することを目的とした競争力があります。初期の参加者Mythic AIは、そのアナログAIチップの複数の世代を生産していますが、低電力のデジタルチップが成功する分野で競合しています。PCS用のEN100カードは、新しいアナログAIチップアーキテクチャです。エンチェージenchargeのソリューションは、機械学習の多発および蓄積マントラの電荷の流れの代わりに電荷の量を測定することにより、ノイズを取り除きます。従来のアナログAIでは、電圧、コンダクタンス、電流間の関係に応じて増殖します。この新しいスキームでは、電圧、静電容量、電荷の関係に依存します。基本的に、電荷は静電容量時間電圧に等しくなります。なぜその違いが重要なのですか？それは、乗算を行っているコンポーネントに帰着します。 RRAMのような微妙で脆弱なデバイスを使用する代わりに、Anchargeはコンデンサを使用します。コンデンサは基本的に、絶縁体を挟む2つの導体です。導体間の電圧の違いにより、電荷がそれらの1つに蓄積されます。機械学習の目的でそれらについて重要なのは、その価値、静電容量がそのサイズによって決定されることです。 （導体間のより多くの導体エリアまたは少ないスペースは、より多くの容量を意味します。）「彼らが依存しているのは、基本的にはワイヤー間のスペースです」とVerma氏は言います。 「そして、それはCMOSテクノロジーで非常にうまくコントロールできることの1つです。」 Anchargeは、プロセッサのシリコンの上に銅相互接続の層に正確に評価されたコンデンサの配列を構築します。ニューラルネットワークモデルのほとんどを構成するデータ、重みは、それぞれがコンデンサに接続された一連のデジタルメモリセルに保存されます。ニューラルネットワークが分析しているデータには、セルに組み込まれた単純なロジックを使用して重量ビットを掛け、結果はコンデンサの電荷として保存されます。次に、アレイは、乗算の結果からのすべての充電が蓄積し、結果がデジタル化されるモードに切り替わります。 2017年にさかのぼる最初の発明は、Vermaのラボにとって大きな瞬間でしたが、彼は基本的な概念は非常に古いと言います。 「これは、切り替えられたコンデンサ操作と呼ばれています。何十年もの間それを行ってきたことがわかります」と彼は言います。たとえば、デジタルコンバーターとデジタルコンバーターへの市販の高精度アナログで使用されています。 「私たちのイノベーションは、メモリのコンピューティングを行うアーキテクチャでどのように使用できるかを考えていました。」競争Vermaの研究室とEnchargeは、このテクノロジーがプログラム可能でスケーラブルであり、2017年とは大きく異なるAIのニーズに合ったアーキテクチャとソフトウェアスタックでそれを共同最適化していることを何年も費やしました。しかし、攻撃は競争の激しい分野に入っており、競合他社の中には大きなカフナ、Nvidiaがあります。 3月の大規模な開発者イベントであるGTCでは、Nvidiaは、GB10 CPU-GPUの組み合わせと、今後のGB300を中心に構築されたワークステーションを中心に構築されたPC製品の計画を発表しました。そして、低電力スペースの誘惑では多くの競争があります。それらのいくつかは、メモリのコンピューティングの形を使用しています。たとえば、D-MatrixとAxeleraは、Analog AIの約束の一部を取り、コンピューティングにメモリを埋め込みましたが、すべてをデジタルで行います。それらはそれぞれ、貯蔵および乗算の両方を備えたカスタムSRAMメモリセルを開発し、同様に合計操作をデジタルで行いました。ミックスには少なくとも1つのより伝統的なアナログAIスタートアップ、Sagenceがあります。Vermaは、当然のことながら、楽観的です。新しいテクノロジーは、「クラウドインフラストラクチャに依存することなく、高度で安全でパーソナライズされたAIがローカルで実行できることを意味します」と彼は声明で述べました。 「これがAIでできることを根本的に拡大することを願っています。」サイトの記事からウェブ上の関連記事 #AIはAIで低電力と精度を約束します