Google のカスタム AI チップがテクノロジー業界を揺るがす理由

AIチップの支配的なサプライヤーとしてのNvidiaの地位は、Googleが開発した特殊チップの脅威にさらされている可能性があり、MetaやAnthropicなどの企業がGoogleのテンソル処理装置に数十億ドルを投じようとしているとの報道もある。

TPUとは何ですか?

人工知能業界の成功は、グラフィック プロセッシング ユニット (GPU) に大きく基づいています。グラフィック プロセッシング ユニット (GPU) は、ほとんどのコンピュータに搭載されているコンピュータ プロセッシング ユニット (CPU) のように次々に計算を実行するのではなく、多くの並列計算を同時に実行できるコンピュータ チップの一種です。

GPU は元々、名前が示すようにコンピューター グラフィックスとゲームを支援するために開発されました。 「空間内に多数のピクセルがあり、新しいカメラ ビューを計算するためにこれを回転する必要がある場合、これは多くの異なるピクセルに対して並行して実行できる操作です」とイタリアのボローニャ大学の Francesco Conti 氏は述べています。

この並列計算機能は、AI モデルのトレーニングと実行にたまたま役立ちました。AI モデルでは、行列乗算と呼ばれる、膨大な数のグリッドを同時に実行する計算が頻繁に使用されます。 「GPU は非常に一般的なアーキテクチャですが、高度な並列性を示すアプリケーションに非常に適しています」と Conti 氏は言います。

ただし、もともと AI を念頭に置いて設計されていないため、GPU がチップ上で実行される計算を変換する方法に非効率性が生じる可能性があります。 Conti 氏によると、2016 年に Google によって最初に開発されたテンソル プロセッシング ユニット (TPU) は、大規模な AI モデルのトレーニングと実行に必要な主な計算である行列乗算のみを中心に設計されています。

今年、Google は Ironwood と呼ばれる第 7 世代の TPU をリリースしました。これは、Gemini やタンパク質モデリングの AlphaFold など、同社の AI モデルの多くに搭載されています。

TPU は AI にとって GPU よりもはるかに優れていますか?

技術的には、TPU はまったく別のチップというよりも、GPU のサブセットに近いと、英国ブリストル大学の Simon McIntosh-Smith 氏は述べています。 「それらは、AI のトレーニングと推論をより具体的に目的とした GPU の機能に焦点を当てていますが、実際には、ある意味、皆さんが思っているよりも GPU に似ています。」しかし、TPU は特定の AI アプリケーションを念頭に置いて設計されているため、これらの作業の効率が大幅に向上し、潜在的に数千万ドルまたは数億ドルを節約できる可能性があると彼は言います。

ただし、この特殊化には欠点もあり、AI モデルが世代間で大幅に変わると TPU が柔軟性を失う可能性があると Conti 氏は言います。 「柔軟性がなければ、 [TPU]、しなければなりません [calculations] データセンターのノードの CPU に負荷がかかると、速度が大幅に低下します」と Conti 氏は言います。

Nvidia GPU が伝統的に保持してきた利点の 1 つは、AI 設計者が Nvidia チップ上でコードを実行するのに役立つシンプルなソフトウェアが利用できることです。 TPU が最初に登場したとき、これは同じようには存在しませんでしたが、チップは現在、より簡単に使用できる段階にあるとコンティ氏は言います。 「TPU を使用すると、同じことが可能になります。 [as GPUs]「これを有効にしたので、可用性が主要な要素になることは明らかです。」

TPU を開発しているのは誰ですか?

Google が最初に TPU を発売しましたが、多くの大手 AI 企業 (ハイパースケーラーとして知られています) と小規模な新興企業は現在、独自の特殊な TPU の開発を開始しています。その中には、独自の Trainium チップを使用して AI モデルをトレーニングしている Amazon も含まれます。

「ほとんどのハイパースケーラーは独自の内部プログラムを持っています。需要が供給を上回ったために GPU が非常に高価になったこともその理由の 1 つであり、独自に設計して構築した方が安価になる可能性があります」とマッキントッシュスミス氏は言います。

TPU は AI 業界にどのような影響を与えるでしょうか?

Google は 10 年以上にわたり TPU を開発してきましたが、主にこれらのチップを独自の AI モデルに使用してきました。現在変化しているように見えるのは、Meta や Anthropic などの他の大企業が Google の TPU からコンピューティング能力を相当額購入していることです。 「大口顧客が乗り換えているという話は聞いていませんが、おそらくそれが今起こり始めているのです」とマッキントッシュ・スミス氏は言う。 「彼らは十分に成熟しており、十分な数がある。」

大企業にとってより多くの選択肢を生み出すだけでなく、多角化することは財務的にも合理的である可能性がある、と同氏は言う。 「それは、将来的に Nvidia からより有利な契約が得られることを意味するかもしれません」と彼は言います。