Openai、ホワイトハウス、オラクル、ソフトバンク、およびMGXが、データセンターのインフラストラクチャ施設、消費電力、発電、AIの影響についての質問についての質問について、Stargate Project（米国で人工知能開発を推進する新しい会社）に投資すると発表しました。開発、さらにすぐに続きました。
それは「1960年代のソビエトとの宇宙レースのようなものです」と、IDC研究副社長兼グローバル研究のリードであるクバ・ストラースキーは、新しいレポートで、コンピューティングインフラストラクチャおよびサービスプロバイダーのトレンドプラクティスのリードをリードしています。
「アメリカは現在、2020年代の残りの期間、中国人とのAIレースに参加しています。歴史上最大のAIインフラプロジェクトを開始することで」」レポート、Stargate ProjectはAI開発の新しい時代を開始し、それがプロジェクトに続いています 発表 1月21日。
ただし、Chat GPT 3.0のような新しい大規模な言語モデルは、5年以上になりました。レート制限GPUメモリ容量とLLMに必要な計算操作のレベルに挑戦します トレーニング、それは費用がかかることが証明されています。したがって、Stolarskiによると、人間の認知能力を達成または上回る種類の人工知能の効率を達成するための競争は、大きなAIがそのタックを調整する可能性が高いことを意味します。
GPUの「武器競争」
野心的なStargateデータインフラストラクチャを構築するための最初の取り組みにより、今後4年間で5,000億ドルのサーバー市場投資が予想されているため、テキサス州アビリーンですでに進行中のOpenaiは、最初の1,000億ドルがAIでアメリカのリーダーシップを確保すると述べました。
ただし、「大規模な言語モデルに関する開発には、投資を正当化するのに十分な商業用ユースケースが必要になります」と、Stolarskiによると、歴史上最大のAIインフラストラクチャプロジェクトが必要です。
LLMSに加えて、競合する加速サーバーテクノロジーはさまざまなユースケースで使用されています、と彼は次のように述べています。 報告。
彼は、Stargateの規模は計算インフラストラクチャの観点からは指定されていないが、「StargateからのGPUサーバーの需要がGPU供給に大きな負担をかける可能性があると強調した。 。」
「供給は毎年増加し続けますが、この非常に熱い市場セグメントで需要が供給を上回っていることを観察しました」と彼は付け加えました。
また、ドナルド・トランプ大統領の関与は、この規模のプロジェクトを実行するために必要なドナルドトランプ大統領の関与を「一般的に障壁の除去を参照する」ことができますが、Stolarkiは、エネルギー政策に関連する多くの不確実性があると述べました。
「しかし、興味深いひねりは、クリーンエネルギーなど、その長期的な成功に不可欠なプロジェクトのいくつかの要素が、新政権の方向と一見矛盾するように見えることです」と彼は書いた。
最後に、GPU農場が有用な投資であることも議論の余地があり、人工的な一般情報、またはAGIが「生のコンピューティングパワーと既存のLLMメソッドで達成できる」かどうかは同様に不明です。
「同等の財政的支援により、たとえば量子コンピューティングは、LLMよりもはるかに革新的なブレークスルーをもたらす可能性があります」とStolarski氏は述べています。
Deepseekと狭いモデル
賢明な行動方針としてのLLMアプローチの拡大に対抗して、中国企業のDeepseekは、GPU容量の11倍の減少で同等のAIモデルを訓練できると主張しました。
「Deepseekが神経を打ったことは、このようなコストでそれを行うことができるというこの主張だったと思いますが、リンゴにはリンゴではありません。 、「ストラースキーは言った ヘルスケアITニュース 先週のフォローアップ会話で、その海外会社の発表に続いています。
「私たちが得ようとしている最適化のレベルは、おそらく改善し続けるでしょう」と彼は言いました。
Openaiは、Stargateに関連する技術開発に関するARM、Microsoft、Nvidia、Oracleなどのハイテク大手と提携しています。オラクルは、以前にヘルスケアデータの課題を解決するために大きくなることを約束しました。 National Electronic Health Recordデータベース そして最近 クラウドサイバーセキュリティイニシアチブ。
「これらの方法はすべて、バックエンドのバックグラウンドで取り組もうとしているため、これらのことをより効率的にしようとする方法があります」とStolarski氏は述べています。
ユースケース全体でAIの増殖のコストは、モデルスケールとともに低下する必要があります。
「非常に微調整され、非常に特定のユースケースのためにカスタマイズされた小さなモデルが引き継がれます」と彼はスターゲートのポジションペーパーで述べました。
「これらの小さな言語モデル（大規模な言語モデルとは対照的に）は、このような巨大なインフラストラクチャ環境を必要としません。スパースモデル、狭いモデル、低精度モデル – 現在、AIモデル開発のインフラストラクチャのニーズを劇的に減らすために多くの研究が行われています。精度。」
例として、Stolarskiは、IBMが顧客の収益を生み出すために小さなモデルを構築していると説明しました。
「より効率的になることができれば [fewer GPUs]、その後、需要が増加します」と彼は言いました。
「この市場に従うすべての人が、これらの効率が得られると予想していたと思います。それはタイミングの問題であり、今でもひざまずき反応が沈んでいるようだと思います。」
Andrea Foxは、Healthcare IT Newsの上級編集者です。
メール： [email protected]
Healthcare IT NewsはHIMSSメディアの出版物です。