世界

「AI の iPhone」: 独自のチップと共生して動作する 1 兆を超えるパラメーター AI モデルを初めて提供するスタートアップ — SambaNova は推論コストの 90% 削減を約束しますが、それは割り引いて考えてください

誰もが導入を望んでいますが、生成 AI を大規模に導入することは、大企業や政府機関にとって大きな課題であることが判明しています。 プロセスを合理化し、コストを削減し、サプライチェーンを改善するテクノロジーの可能性を認識しているにもかかわらず、コスト、複雑さ、セキュリティ、データプライバシー、モデルの所有権、法規制順守に関する懸念が導入の障壁となっています。 画期的な進歩の可能性として、ソフトバンクが出資する SambaNova Systems が、 サンバ-1、初の兆パラメータ生成 AI モデル。 SambaNova Suite を活用した Samba-1 は、パフォーマンス、精度、拡張性、総所有コスト (TCO) の要件を満たすように設計されています。 このモデルは推論コストの 90% 削減も約束していますが、この主張には慎重に取り組む必要があります。 「AIのiPhone」を構築する単一のモノリシック エンティティとして構築される他の兆パラメータ モデルとは異なり、Samba-1 は Composition of Experts (CoE) アーキテクチャを利用します。 このシステムは、複数の小さな「エキスパート」モデルを 1 つの大きなソリューションに集約し、1 つの大きなモデルとして機能します。 このアプローチは、さまざまなトピックにわたる幅広い知識、高精度、マルチモダリティを提供します。また、CoE モデルは、他の大規模モデルよりも特殊なドメインに対して優れた知識と精度を提供できると報告されています。 個々のより小さなモデルは、金融、法律、物理学、生物学などの特定の領域に対してトレーニングして CoE…