AI の進歩を目的とした Nvidia と Intel の歴史的な提携

まとめ

• NVIDIA は、新しい DGX Rubin NVL8 AI システムのホスト CPU として Intel Xeon 6 プロセッサを選択しました。
• この組み合わせにより、大規模言語モデル (LLM) の AI 推論のレイテンシーを大幅に削減し、速度を向上させることが目的です。
• このシステムにはノードごとに 8 つの Rubin GPU が組み込まれており、最新世代の NVLink に接続されており、Xeon 6 が I/O 操作とデータ供給の調整を処理します。
• この開発は、ギリシャで開発中のクラウド インフラストラクチャ (Microsoft、Google、Digital Realty/Lamda Hellix など) に直接関係しており、将来のアップグレードを決定します。
• これらのアレイには高度な液体冷却システムが必要であり、ローカル データセンター仕様の基準を引き上げます。

人工知能の分野ではより多くのコンピューティングパワーが常に必要とされているため、大手半導体メーカー間で新たなパートナーシップを強いられています。公式発表によると、 インテル と NVIDIA は、次世代 AI スーパーコンピューターを装備するという共通の道を歩んでいます。特に、Intel Xeon 6 プロセッサは、次期 NVIDIA DGX Rubin NVL8 システムのホスト CPU として選択され、兆規模のパラメータを処理するために最適化されたハードウェア エコシステムを構築します。

この特定のパートナーシップは、どのメーカーもエンタープライズ データセンター レベルで妥協なく完全に垂直統合されたソリューションを提供できないことを示しています。または エヌビディアは、独自の ARM ベースの Grace プロセッサを搭載しているにもかかわらず、遅延なく GPU にデータを供給するために必要な、シングル スレッド パフォーマンス、PCIe レーン管理、従来のワークロードにおけるメモリ管理の点で Intel の x86 アーキテクチャの優位性を認識しています。

NVIDIA DGX Rubin システムにおける Intel Xeon 6 の役割は何ですか?

Intel Xeon 6 プロセッサは、NVIDIA DGX Rubin NVL8 システムの中央オーケストレーター (ホスト) として機能し、PCIe 帯域幅、I/O 操作、および 8 つの Rubin GPU に転送される前のデータ準備の管理を引き継ぎます。この組み合わせにより、メモリのボトルネックが軽減され、インテルの内蔵 AI アクセラレータを活用して、前世代と比較して AI 推論が 40% 高速化されます。

DGX Rubin NVL8 アーキテクチャと I/O ボトルネック

を理解するために、 このコラボレーションの重要性、最新の AI モデルがどのようにトレーニングされ、実行されるかを考慮する必要があります。 Rubin 世代のグラフィックス カードは、想像を絶する処理能力 (TFLOPS) と超高速 HBM4 メモリを備えています。ただし、GPU はストレージ メディアから独自にデータをフェッチすることはできません。中間コントローラーが必要です。

8 つの Rubin GPU が同じシャーシ内で並行して動作すると (NVL8 構成)、それらの間のデータ交換ネットワーク (NVLink) は 1 秒あたりテラバイトの速度に達します。問題は、そもそもデータがどのようにしてこのネットワークに到達するかという点で発生します。ここで Xeon 6 が登場します (おそらく P コア「Granite Rapids」シリーズ)。増加した PCIe 5.0/6.0 レーンと CXL 2.0 (Compute Express Link) サポートを備えた Intel プロセッサーは、NVMe ストレージ アレイと InfiniBand/Ethernet ネットワーク カードが最短時間で GPU と通信できるようにします。

Xeon 6 には、Intel の AMX (Advanced Matrix Extensions) も組み込まれており、これにより CPU 自体が軽量の AI またはデータ前処理タスク (トークン化やデータ フィルタリングなど) を実行できるようになり、高価な Rubin GPU が解放され、トレーニングや答えの生成という重い数学的負荷のみを処理できるようになります。

技術仕様とエネルギーフットプリント

新しいノードはテクノロジーの猛獣です。完全な DGX Rubin NVL8 システムには数十キロワットの電力が必要と推定されており、これは従来の空調ではまったく不十分であることを意味します。このシステムは完全に液体冷却に基づいており、サーマル スロットリングなしで動作できます。

• ホストCPU: デュアル インテル Xeon 6 プロセッサー。
• AI アクセラレータ: ノードあたり 8 基の NVIDIA Rubin GPU。
• 相互接続: 次世代 NVIDIA NVLink και NVSwitch。
• ネットワーク接続: NVIDIA ConnectX-8 SuperNIC および BlueField-4 DPU のサポート。
• 冷却： 独自の閉ループ液体冷却。

Intel は 6 シリーズ プラットフォームを最適化し、第 5 世代 (Emerald Rapids) よりもはるかに優れたワットあたりのパフォーマンスを実現しました。 CPU 電源管理は NVIDIA ファームウェアと動的に通信し、システムが GPU 計算サイクルの完了を待っているときに CPU クロックを落とし、貴重な電力を節約します。

ギリシャ市場での応用

この技術的飛躍はギリシャにとって何を意味するのでしょうか?国内企業がこのようなコスト (ノードあたり 50 万ユーロを超えると予想される) の NVIDIA DGX システムを直接購入することはほとんどありません。影響は主にクラウドプロバイダーを介した間接的なものです。

アッティカにおける Microsoft の新しいインフラストラクチャ、Google の投資、および多くの企業によるデータセンターの継続的な拡張により、施設の設計の再調整が余儀なくされています。ギリシャのデータセンターは現在、液体冷却用の強力な配管を設置する高密度ラック (ラックあたり 50kW ～ 100kW 以上) の準備段階に移行しています。

ギリシャの銀行、電気通信会社、研究センター (ITE や EDYTE など) にとって、これらのシステムの利用可能性は、ギリシャ語、法律、慣用句を完全に理解する専門の現地 LLM をトレーニングできることにつながりますが、これまで古い Hopper システムでは数週間の処理が必要でした。

テックギアの見解

DGX クラス システムのテスト ラックと同じ部屋にいたことのある人なら、耳をつんざくようなポンプの騒音とサーバーの背面から放出される熱を知っているでしょう。 Xeon 6 と Rubin NVL8 の統合により、インストールの複雑さが新たなレベルに引き上げられました。私たちが話しているのは、冷却液の圧力をわずかに間違えると、数十万ユーロ相当の半導体を数秒で破壊する可能性があるシャーシのことです。

同時に、この特定のリファレンス デザインに対して (たとえば、自社の Grace プラットフォームや AMD の EPYC ではなく) Intel を信頼するという NVIDIA の選択は、強い現実性を示しています。 Intel には、巨大なインストール ベースとソフトウェア ドライバーの成熟したエコシステム (CUDA と組み合わせた oneAPI) があります。

この動きは純粋に実用的です。AI の膨大な要求は、ホスト アーキテクチャでの実験を許しません。この結果は、表面上は素晴らしいものですが、実際の課題は、特にヨーロッパとギリシャのデータセンターが、これらのラックの想像を絶する電力需要に耐えられるかどうかです。