1709624451
2024-03-05 07:27:00
Nvidia の 700W H100 が熱くて電力を大量に消費するマシンだと思っているなら、GPU スリンガーの B100 が今年後半に登場するまで待ってください。
Dell Technologies COO の Jeff Clarke 氏によると、Nvidia の最新 AI アクセラレータは 1,000 ワットを消費する予定で、これは前モデルより 42% 増加します。 しかし、心配しないでください。彼は、この獣を飼いならすために液体冷却は必要ないと確信しています。
「H200 で何が起こっているのか、そしてそのパフォーマンスが向上していることに興奮しています」とクラーク氏はデルの投資家に語った。 決算報告 [PDF] 先週、彼は Nvidia の今後の B100 アクセラレータと、彼が B200 と呼んだ別のアクセラレータについても同じ感情を感じていると付け加えました。
同氏は、1枚当たり1,000ワットを消費するGPUを処理するのに直接液体冷却は必要ないとの意見を述べ、そのレベルは「来年のB200で実現する」と述べた。
Nvidiaのロードマップにはその名前のチップが登場していないため、クラーク氏が「B200」でどのカードを指しているのかは完全には明らかではない 共有 昨年の秋に投資家たちと。 しかし、私たちは、Clarke が実際に GB200 スーパーチップについて言及しているのではないかと疑っています。 GH200、NvidiaのGrace CPUとB100 GPUを組み合わせることが期待されています。
今月リリースされた投資家向けプレゼンテーションによると、Nvidia は 1 年ごとのリリースペースに移行する予定です – クリックして拡大
GH200 の Grace CPU についてわかっていることに基づいて、消費電力に大きな変化がないと仮定すると、GB200 の熱設計電力 (TDP) は 1,300 ワット付近になり、前モデルより 30 パーセント高くなります。
Nvidia がまだ私たちが知らない別のカードを用意している可能性もあります。 GPU 巨人の次世代 Blackwell アーキテクチャの詳細はまだ不十分です。
命名法はさておき、Clarke 氏は、次期チップが他の形式の液体冷却におけるデルの専門知識を大規模に紹介する機会となるだろうと示唆しました。 同氏は、たとえ非常に高密度のチップであっても、直接液体冷却に代わる手段に向けたステップとして、「流体化学と性能、相互接続作業、我々が行っているテレメトリー、我々が行っている電力管理作業」について言及した。
Nvidia はコメントを拒否しました。年次 GTC カンファレンスが数週間後に迫っていることを考えると、ご想像のとおりです。 登録簿 ドロップの際にはイベント会場に来て詳細をお知らせします。
B100 は、Nvidia の発売後、2024 年後半まで発売されないと予想されています。 帯域幅ジュース H200 GPU は今年上半期にデビューします。
2023 年後半に発表された H200 は、最大 141 GB の HBM3e メモリを搭載し、4.8 TB/秒という驚異的な帯域幅を実現する H100 の刷新です。 エヌビディア 請求 このデバイスは、チップの HBM3e メモリ スタックのおかげで、Llama 70B を含む大規模な言語モデルのパフォーマンスを 2 倍にすることができます。
今年は 2 つの新しいアクセラレータが市場に投入される予定ですが、アナリストは Nvidia の GPU 供給は引き続き供給が制約されると警告しています。 それにもかかわらず レポート Nvidia は 2024 年に GPU の出荷を 3 倍以上に増やす可能性があると予測しています。
新しいアクセラレータを超えて、Nvidia の ロードマップ また、今年中には、ポートあたり 800Gb/秒の帯域幅を備えた、より高速でより高性能な InfiniBand およびイーサネット NIC とスイッチも求められています。 ®
#デル幹部Nvidia #が #ワットの #GPU #を開発中であることを明らかに #Register