1773100381
2026-03-09 23:25:00
- マイクロン、AI サーバーを真正面からターゲットにした高密度 256GB LPDDR5x モジュールを発表
- 8 つの SOCAMM2 モジュールにより、サーバーのメモリ容量を 2TB まで拡張できます
- AI 推論ワークロードは、パフォーマンスのボトルネックをシステム メモリ容量にますますシフトさせています
大規模な言語モデル (LLM) と最新の推論パイプラインでは、巨大なメモリ プールがますます必要になり、ハードウェア ベンダーはサーバー メモリ アーキテクチャの再考を余儀なくされています。
マイクロンは、次の用途に向けた 256GB SOCAMM2 メモリ モジュールを導入しました。 データセンター 容量、帯域幅、電力効率のすべてが全体的なパフォーマンスに影響を与えるシステム。
このモジュールは 64 個のモノリシック 32GB LPDDR5x チップに依存しており、現代の AI ワークロードに必要なメモリ占有量の増大に対応する高密度 LPDRAM パッケージを形成しています。
記事は下に続きます
AI サーバー プラットフォームのメモリ容量の拡張
このモジュールにより、プロセッサ構成ごとに利用可能な最大メモリも増加します。これらの SOCAMM2 モジュールのうち 8 つが 8 チャネル サーバーにインストールされている場合 CPU、合計容量は 2TB の LPDRAM に達することがあります。
この数字は、以前の 192GB モジュール世代の約 3 分の 1 を上回り、システムはより大きなコンテキスト ウィンドウやより要求の厳しい推論タスクに対応できるようになります。
マイクロンは、SOCAMM2 設計が従来のサーバー メモリ モジュールよりも効率的であると説明しています。
「マイクロンの 256GB SOCAMM2 製品は、AI と HPC の両方に最も電力効率の高い CPU 接続メモリ ソリューションを可能にします」とマイクロンのクラウド メモリ ビジネス ユニットの上級副社長兼ゼネラル マネージャーであるラジ ナラシンハンは述べています。
「データセンター アプリケーション向けの低電力メモリ ソリューションにおける当社の継続的なリーダーシップにより、当社は 32Gb モノリシック LPDRAM ダイを最初に提供する独自の地位を確立し、より電力効率の高い大容量システム アーキテクチャの業界採用の促進に貢献しています。」
会社 言う 新しい LPDRAM モジュールは、同等の RDIMM に比べて消費電力が約 3 分の 1 であり、物理的な設置面積はわずか 3 分の 1 です。
エネルギー需要が低減され、モジュール サイズが小さくなったことで、大規模なデータセンター展開内のラック密度が向上し、メモリ電力が低下したことで熱負荷とインフラストラクチャ コストが削減されました。
SOCAMM2 アーキテクチャも、メンテナンスと将来の拡張を簡素化することを目的としたモジュール設計に従っています。
この形式は水冷サーバー システムをサポートしており、モデルの複雑さとデータセットの規模に伴ってメモリ要件が増大するにつれて、追加の容量に対応できます。
Micron は、256GB SOCAMM2 モジュールがユニファイド メモリ アーキテクチャの下で特定の推論動作に影響を与える可能性があると述べています。
同社は、このモジュールをキー値キャッシュのオフロードに使用した場合、ロングコンテキスト推論中の最初のトークンまでの時間が 2.3 倍以上改善されたと報告しています。
スタンドアロン CPU ワークロードでは、LPDRAM 構成は、主流のサーバー メモリ モジュールと比較して、ワットあたりのパフォーマンスが 3 倍以上優れていると報告されています。
同社の LPDRAM ポートフォリオは、8GB ～ 64GB のコンポーネントと 48GB ～ 256GB の SOCAMM2 モジュールに及び、256GB SOCAMM2 モジュールの顧客サンプルはすでに出荷されています。
Google ニュースで TechRadar をフォローしてください そして 私たちを優先情報源として追加してください 専門的なニュース、レビュー、意見をフィードで入手できます。ぜひフォローボタンをクリックしてください！
もちろん、次のこともできます TikTokでTechRadarをフォローしてください ニュース、レビュー、開封をビデオ形式で確認し、定期的に最新情報を入手してください。 ワッツアップ あまりにも。
#マイクロンは #256GB #の #LPDDR5x #を #つのモジュールに詰め込みハイパースケーラーは #つをスタックして #2TB #サーバーを驚異的に搭載できます