1733879921
2024-12-10 18:20:00
または IBM は、大量のエネルギーを節約しながら「光の速度」で AI モデルをトレーニングするための新しい光学技術を開発しました。彼女の発見をデータセンターに適用すると、AI モデルのトレーニング中に節約されるエネルギーは、米国の家庭 5,000 軒の年間エネルギー消費量に相当すると述べました。
同社は、データセンターは光ファイバーケーブルで外部と接続されているが、内部では依然として銅線ケーブルを使用していると説明した。 GPU アクセラレータはケーブルで接続されていますが、他のデバイスからのデータを待機するために多くの時間がアイドル状態に費やされ、電力が消費され、コストが増加します。
開発についてコメントすると、 ダリオ・ギルIBMの上級副社長兼研究ディレクターは次のように述べています。
生産的な AI にはより多くのエネルギーと処理能力が必要となるため、データセンターも進化する必要があります。コンパクトな光学系により、これらのデータセンターは将来も使い続けることができます。このブレークスルーにより、明日のチップは、光ファイバー ケーブルがデータ センターの内外でデータを運ぶのと同じように通信するようになり、将来の AI ワークロードを処理できる、より高速で持続可能な通信の新時代の到来をもたらします。
IBM は、技術文書で新しい光パッケージング (CPO) プロトタイプについて説明しています。データセンターの帯域幅が大幅に増加したため、GPU のダウンタイムが最小限に抑えられ、処理が高速化される可能性があります。 AI。
IBM は、大規模言語モデル (LLM) のトレーニングを 3 か月から 3 週間に短縮できると説明しています。同時に、エネルギー効率の向上により、エネルギー使用量が削減され、LLM の教育に関連するコストも削減されます。
[via]
#新しい #IBM #テクノロジーが #トレーニングに光の速さをもたらす