AI 業界のチャンス
OpenAI や Anthropic などの LLM ベンダーは、コード ベースがまだ比較的新しく、継続的に進化を続けているが、モデルのトレーニングに Ironwood の登場から得るものはたくさんあると Forrester の副社長兼主席アナリストは述べています。 チャーリー・ダイ。
実際、Anthropic は、トレーニングとそのモデル、およびそれらを推論に使用するために 100 万個の TPU を調達することにすでに同意しています。その他、モデルのトレーニングに Google の TPU を使用している小規模ベンダーには、Lightricks や Essential AI などがあります。
ハロウェル氏によると、Googleは自社のTPU（インターネットサービスの運営にも使用している）の需要が着実に増加しており、2024年と2023年にはそれぞれ62億ドルと20億4000万ドルに比べ、今年は98億ドル相当のTPUをブロードコムから購入すると予想されている。
「これにより、同社は、市場の約5％を占めるNvidiaに次ぐ、クラウドおよびエンタープライズデータセンター向けの2番目に大きなAIチッププログラムとなった。Nvidiaは市場の約78％を所有している」とハロウェル氏は述べた。
レガシーの問題
一部のアナリストは企業における TPU の見通しについて楽観的でしたが、IDC リサーチ ディレクターは次のように述べています。 ブランドン・ホフ 他のプラットフォーム向けに書かれた既存のコードベースのため、企業は一般的に Ironwood や TPU から遠ざかる可能性が最も高いと述べています。
「独自の推論を作成している企業顧客は、Nvidia のソフトウェア プラットフォームに結び付けられることになります」とホフ氏は述べました。 CUDA、Nvidia GPU 上で実行されるソフトウェア プラットフォーム。 CUDA は 2007 年に一般にリリースされましたが、TensorFlow の最初のバージョンは 2015 年に登場したばかりです。
#Googleのより安価で高速なTPUが登場する一方で他のAIプロセッサのユーザーは供給不足に直面している