1713019009
2024-04-13 13:56:11
オープン スタンダードの強力な支持者であるジム ケラー氏は、Nvidia は Blackwell ベースのイーサネット プロトコルのチップ間接続を使用すべきだったとツイートしました。 GB200 AI および HPC 用の GPU。 ケラー氏は、これによって Nvidia とそのハードウェアのユーザーは多額の費用を節約できた可能性があると主張しています。 また、そうした顧客にとっては、ソフトウェアを別のハードウェア プラットフォームに移行することももう少し簡単になるでしょうが、Nvidia は必ずしもこれを望んでいません。
Nvidia が AI および HPC アプリケーション用の GB200 GPU を発表したとき、同社は主に AI パフォーマンスと高度なメモリ サブシステムに焦点を当て、デバイスがどのように作られたかについてはほとんど語っていませんでした。 一方、Nvidia の GB200 GPU は、TSMC の CoWoS-L パッケージング テクノロジと、独自のプロトコルを使用する NVLink 相互接続テクノロジを使用してつなぎ合わせられた 2 つの計算プロセッサで構成されています。 これは、Nvidia のハードウェアとソフトウェアをすでに使用しているユーザーにとっては問題ではありませんが、Nvidia のプラットフォームからソフトウェアを移植する業界にとっては課題となります。
伝説的な CPU 設計者であり、 テントレントNvidiaのライバルであるNvidiaは独自の代わりにイーサネットを使用すべきだったと示唆している NVリンク。 Nvidia のプラットフォームは、チップ間およびサーバー間の通信に独自の低遅延 NVLink を使用します (これは、PCIe と競合します。 CXL プロトコルが最上位）と、上位層の通信用の独自の InfiniBand 接続。 パフォーマンスを最大化するために、ソフトウェアは両方のテクノロジーの特性に合わせて調整されています。 明らかな理由により、これは他のハードウェア プラットフォームへのソフトウェアの移植を多少複雑にする可能性があり、これは Nvidia にとっては良いことですが、競合他社にはまったく適していません。
ただし、落とし穴があります。 イーサネットは、ハードウェア レベルとソフトウェア レベルの両方でユビキタスなテクノロジーであり、Nvidia のデータセンター向けの低遅延および高帯域幅 (最大 200 GbE) InfiniBand 相互接続の競合相手です。 パフォーマンスの点では、イーサネット (特に次世代 400 GbE および 800 GbE) は InfiniBand と競合できます。
ただし、InfiniBand には AI および HPC 向けの機能と優れたテール レイテンシーに関して依然としていくつかの利点があるため、イーサネットの機能は新たな AI および HPC ワークロードに対応できないと言う人もいるかもしれません。 一方、業界では、AMD、Broadcom、Intel、Meta、Microsoft、Oracle が主導して、 ウルトライーサネット 相互接続テクノロジーにより、AI および HPC 通信のためのより高いスループットと機能を提供できるようになります。 もちろん、この種のワークロードでは、Ultra Ethernet が Nvidia の InfiniBand のより有力な競争相手になるでしょう。
もちろん、Nvidia は現時点で使用できるデータセンター プラットフォームを開発する必要がありますが、これはおそらく、独自のテクノロジーに数十億ドルを費やしたいという同社の願望の少なくとも一部でしょう。 CXL を備えた PCIe やウルトラ イーサネットなどのオープン標準テクノロジが、パフォーマンスと機能に関して Nvidia 独自の NVLink および InfiniBand テクノロジを上回る場合、Nvidia はプラットフォームを再開発する必要があるため、Keller 氏は Nvidia が Ethernet を採用するようアドバイス (または荒らし) しています。 ただし、これは何年も先になる可能性があるため、現時点では Nvidia の設計は独自の相互接続を活用し続けています。
#ジムケラー氏はNvidia #が #Blackwell #GPU #をつなぎ合わせるために #Ethernet #を使用すべきだったと示唆しています #Nvidia #は数十億ドルを節約できたかもしれません