世界

xAI クラスターは現在、世界で最も強力な AI トレーニング システムですが、ストレージ容量、電力使用量、そしてなぜ Colossus と呼ばれるのかという疑問が残っています。

最近、私たちは 10億ドル相当のAI GPU これは、現在テスラのギガ・テキサス工場で建設中のXのAIトレーニング・スーパーコンピューター、Cortexの短いビデオツアーをイーロン・マスク氏が共有したときのようです。さらに最近、マスク氏は自身のソーシャルメディアプラットフォームで、新しい10万台のH100トレーニングクラスターであるColossusが稼働中であることを発表しました。マスク氏は、コロッサスは「世界で最も強力なAIトレーニングシステム」であり、「最初から最後まで」わずか122日で構築されたと主張している。これはかなりの成果だ。xAIクラスターのサーバーは、 デル およびSupermicroで、プロジェクトの費用は30億～40億ドルと見積もられています。 今週末、@xAI チームは Colossus 100k H100 トレーニング クラスターをオンラインにしました。開始から完了まで、122 日で完了しました。Colossus は世界で最も強力な AI トレーニング システムです。さらに、数か月以内にサイズが 200k (50k H200) に倍増します。すばらしい…2024年9月2日Colossus の名前の由来はどこから来ているのでしょうか? トムズハードウェア 「これらのクラスターはすべて正式に運用されており、AI モデルのトレーニングも行われているものの、現在実際にオンラインになっているクラスターの数はまったく不明です。まず、これらのスーパークラスターの設定をデバッグして最適化するには時間がかかります。次に、X は十分な電力を確保する必要がありますが、イーロン マスクの会社はメンフィス スーパーコンピューターに電力を供給するために 14 台のディーゼル発電機を使用していますが、それでも 10 万台の H100 GPU すべてに電力を供給するには不十分でした。」Colossusシステムは、最終的に容量が2倍になる予定で、さらに10万個のGPU（H100ユニット5万個と、 エヌビディアの次世代 H200…