世界

MEMSクロック：AIの電力を節約します

AIはデータセンターのすべてを変更しています：新しいAI固有 チップ、 新しい 冷却技術、および新しいストレージドライブ。 今e会社が開発したSitimeからの発表により、時間を維持する方法が変わり始めています AIワークロード用に最適化された新しいクロック。同社は、この開発により、AIトレーニングと推論の大幅なエネルギー節約とコストが削減されると述べています。 Sitimeは、従来の石英結晶の代わりに、微小電気機械システム（MEMS）をコアのタイムキーピングコンポーネントとして使用することにより、これらの節約を達成することができました。コンピューターのほぼすべての部分には何らかの時計があります。 CPU、GPU、ネットワークインターフェイスカード、スイッチ、およびアクティブな相互接続でさえ、独自のタイムキーピングコンポーネントが含まれています。より従来のコンピューティングワークロードの場合、これらのクロックは通常、複数のGPU（またはCPU）にわたってよく同期されている高速で正確にタイミングのある時計またはクロックの2つのカテゴリに分類されます、とムーア以上のチーフアナリストであり、Sitimeで働くイアンクトレスは言います。「AIの問題は、両方を行っていることです」とCutress氏は言います。 「チップをできるだけ速く進めたいのですが、100,000個のチップで同期したいと考えています。」SitimeのSuper-TCXOクロックは、超安定クロックとよく同期されたクロックの機能を単一のデバイスに組み合わせて、比較可能な石英ベースの3倍の同期を提供します 成分 1秒あたり800ギガビットの帯域幅で、チップでは4分の1のサイズです。より良いタイミングはエネルギー節約につながりますAIはデータに飢えた獣です。それでも、高価でパワーガズリングのGPUは、次のデータのバッチを待っている時間の57％の時間のアイドル状態に座ります。データをより迅速に提供できれば、GPUはより少量でより効率的に使用できます。 「より速い帯域幅が必要です。 Sitimeのマーケティング担当エグゼクティブバイスプレジデントであるPiyush Sevalia氏は、次のように述べています。さらに、GPUがより多くのデータがロードされるのを待っている間に睡眠モードに入れることができる場合、多くのパワーを節約できます、とCutressは言います。これも、より正確なタイミングを必要とします。そのため、睡眠覚醒サイクルがデータストリームに追いつくのに十分な速さで発生する可能性があります。AIの場合、時計はより正確にする必要があるだけでなく、多くのGPUで完全に同期する必要があります。大規模なAIモデルは、タスクを多くのGPUに分割し、それぞれが計算の小さな塊を行います。その後、彼らの結果は一緒に縫い付けられます。 1つのGPUが他のGPUに遅れをとっている場合、計算全体がそのノードを待つ必要があります。言い換えれば、計算は最も弱いリンクと同じくらい速いです。すべてのGPUは待機中にオンのままであるため、そのような遅延はエネルギー損失をもたらします。MEMSの時間のハイタイムタイミングは正確で、よく同期され、堅牢でなければなりません。機械的な振動または温度変動は、計算を捨てないようにするために補償する必要があります。 SitimeのSuper-TCXOは、3つの要件すべてを単一のデバイスに組み合わせることを目指しています。Sevaliaは、従来の石英ではなくMEMS発振器を使用すると、その組み合わせが可能になると言います。クォーツ発振器は、チューニングフォークと同様に、正確に機械加工された石英結晶の振動を使用します。対照的に、MEMS発振器は、特定の周波数で共鳴するために、機械加工されていない製造されています。 MEMSデバイスは小さくなる可能性があるため、機械的ひずみに対する感度が低下します。また、より正確にすることもできます。Hottech Vision＆Analysisの社長兼プリンシパルアナリストであり、Sitimeで働いているDave Altavillaは、次のように述べています。 「このテクノロジーは、その創業以来劇的に改善しました。しかし、MEMSは、クリスタルが能力を持っていることを超えてさらに一歩それを取ります。それが、この新しいテクノロジーによって市場で避難されていると思うのは、物事を行う古い方法です。」SitimeのMEMSベースのソリューションはすでにある程度成功しています。NvidiaのSpectrum-XスイッチシリコンにはすでにSitimeデバイスが含まれています。Sevaliaは、MEMSベースのタイミングデバイスが継続する必要性を期待していると言います。同社はすでにさらに高い帯域幅デバイスを計画しており、彼らのイノベーションがさらに多くのエネルギー節約をもたらすことを望んでいます。 「私たちは今、私たちがどれだけのエネルギー効率をもたらすことができるかを把握するという点で、今、表面をひっかいているだけです」とセヴァリアは言います。 サイトの記事からウェブ上の関連記事 #MEMSクロックAIの電力を節約します