世界

DeepSeek の新しい Engram 技術は、推論力を強化し、世界的な DRAM 圧力を緩和しながら、AI メモリのコストを削減できる可能性があります

DeepSeek の Engram は静的メモリを計算から分離し、大規模な AI モデルの効率を向上させますこの方法では、DeepSeek モデルがルックアップを使用できるようにすることで、高速メモリの必要性が軽減されます。Engram は、最小限のパフォーマンス オーバーヘッドで複数の GPU にわたる非同期プリフェッチをサポートしますDeepSeek は北京大学と協力して、メモリ ストレージを計算プロセスから切り離すように設計された Engram と呼ばれる新しいトレーニング方法を導入しました。伝統的 大規模な言語モデル 知識の検索と基本的な計算には高帯域幅のメモリが必要であり、パフォーマンスとコストの両方でボトルネックが発生します。この HBM のボトルネックは、大規模な AI モデルをサポートするためにハードウェア需要が急増したため、DRAM の価格がわずか 10 週間で 5 倍に上昇した主な理由として広く認識されています。 あなたは好きかもしれません 検証と技術的アプローチ研究者らは、既存のモデルは、より高度な推論をサポートできる可能性がある些細な操作で逐次的な深さを無駄にしていると述べた。Engram を使用すると、モデルは GPU メモリに過負荷をかけることなく重要な情報を効率的に「検索」できるため、より複雑な推論タスクに容量を解放できます。このシステムは 270 億パラメータのモデルでテストされ、業界の標準ベンチマーク全体で目に見える改善が見られました。ハッシュ化された N グラムを通じて知識の検索を実行することにより、Engram は現在のコンテキストに依存しない静的メモリ アクセスを提供します。TechRadar Pro…