1742593559
2025-03-21 20:57:00
- Deepseek R1の6710億パラメーターは、M3 Ultraの統一メモリでスムーズに実行されます
- AppleのMac Studioは、AIワークロードが高価でパワーに飢えたGPUクラスターを必要としないことを証明しています
- M3ウルトラは200W未満で消費され、従来のマルチGPU AIセットアップよりもはるかに少ない
りんごM3 Ultraチップを備えたMac Studioは、他のパーソナルコンピューターが一致できない能力を実証し、Deepseek R1を実行しています AIツール 完全にメモリに6710億パラメーターがあります。
によるテスト YouTube レビュアー dave2d モデルの4ビットの量子化バージョンを使用しているにもかかわらず、完全なパラメーターカウントを保持し、スムーズに実行しました。
Deepseek R1 モデルは、GPU VRAMに通常見られるストレージと高帯域幅メモリの膨大な404GBで、通常、いくつかのハイエンドグラフィックスカードに処理を配信するマルチGPUセットアップで実行されます。
ユニークな偉業:メモリでDeepseek R1を実行します
ただし、M3 Ultraの統合メモリシステムは、外部GPUに依存する代わりに、512GBの統一メモリを使用して、他のパーソナルコンピューターにはできない方法でAIモデルを保存および処理します。
MacOSはデフォルトのVRAM制限を課しますが、Dave Leeは端末を介して手動で増加し、AI処理に最大448GBを割り当て、メモリボトルネックを排除し、複数のコンポーネントが単一のシステムでAIパフォーマンスを合理化する必要性を減らしました。
このテストの最も印象的な側面の1つは、DeepSeek R1を実行している間に200W未満の消費量を消費したため、M3ウルトラの電力効率でした。
マルチGPUセットアップなしでこのような要求の厳しいAIモデルを実行する機能は、ハイエンドに依存する業界標準に挑戦します nvidia そして AMD グラフィックカード、 最高のワークステーション サーバーファームは通常、GPUクラスターを使用します 大量の電力を消費します。
Appleの統一されたメモリアーキテクチャにより、VRAMがシステムメモリとは別の従来のPCセットアップとは異なり、CPUおよびGPUワークロード全体でM3 Ultraのメモリプールを共有することにより、大幅な電力節約が可能になり、エネルギー使用を最小限に抑えながら帯域幅を最大化します。
M3ウルトラチップで発売されたAppleのMac Studioは、最大32コアCPUと80コアGPUを備えており、最高のLLMワークステーションの1つと、 最高のビデオ編集コンピューター。
経由 wccftech
あなたも好きかもしれません
#新しいMac #Studio #Ultraは他のパーソナルコンピューターにはできないユニークなことを行いますDeepseek #671をメモリで実行