1734556220
2024-12-18 20:38:00
2025 年には、2 年間の実験を経て生成 AI を本番環境に移行する企業は、クラウドに代わる費用対効果の高い代替手段としてオンプレミス展開を検討するでしょう。
2022 年後半に OpenAI が AI ゴールドラッシュを引き起こして以来、組織は AWS、Microsoft Azure、Google Cloud 上で GenAI サービスを支える大規模な言語モデルの機能をテストしてきました。この実験では、GenAI がどのように業務運営を大幅に改善し、クラウドコストを劇的に上昇させることができるかを示しました。
専門家らによると、CIOはクラウド費用の高騰についてCFOと厳しい話し合いをするのではなく、基礎となるテクノロジーがクラウドよりも安価であればオンプレミスAIを追求するだろうという。スタートアップ企業のより優れたソフトウェアと HPE やデルなどのベンダーのパッケージ化されたインフラストラクチャにより、プライベート データ センターはクラウド コストのバランスをとる手段となります。
2024 年の秋には、 Menlo Ventures が調査対象 従業員 50 人以上の企業の米国の IT 意思決定者 600 人。ベンチャーキャピタル会社は、47% が GenAI を社内で開発したことを発見しました。
ほぼ同じ期間に、Informa TechtTarget のエンタープライズ戦略グループは 1,351 人の上級 IT マネージャーおよびビジネス マネージャーを対象に調査を行いました。この調査によると、2025 年の新規アプリケーションについてオンプレミスとパブリック クラウドの両方を同等に考慮する割合は、2024 年の 37% から 45% に増加しました。
同時に、ハードウェア メーカーは AI システムの売上が大幅に増加したと報告しました。
12月初旬、HPEは、10月31日までの四半期のAIシステムからの収益が16%増加して15億ドルになったと報告した。ほぼ同じ時期に、デルは、同社の販売パイプラインが拡大する一方で、AIサーバーの注文が過去最高の36億ドルに増加したと報告したすべての顧客タイプで 50% 以上。
「顧客は、あらゆる形状やサイズの AI 対応サーバー、または AI 対応サーバーを求めています」と、Dell の PowerEdge サーバー製品ラインのシニア ディレクターである David Schmidt 氏は述べています。
厳しく規制されている企業や厳格なガバナンス規則を持つ企業は、データのプライバシーとセキュリティを完全に制御するためにクラウドを避けるのが一般的です。 AI がそのダイナミクスを変えることはありません。
調査・顧問会社インフォテック・リサーチ・グループのアナリスト、ジョン・アナンド氏は、「何が違うかというと、フォーチュン2000に名を連ねる企業はオンプレミスAIを追求するだろう。その理由は、オンプレミスAIはクラウドよりもコスト管理が容易だからだ」と述べた。
「会員のために請求書を受け取ることは珍しくありませんが、会員は月に 75 万ドル、あるいは 100 万ドル、あるいはそれ以上をクラウドに費やしています」とアナンド氏は語った。
世界的な製造会社 Jabil は、ほぼすべての GenAI アプリケーションを AWS 上で開発およびデプロイしています。 CIO の May Yap はコストを監視し、最大限の効率を確保するために会社のクラウドの使用状況を常に見直しています。
「クラウドへの移行は実際にコスト上のメリットをもたらしますか? 場合によってはそうではないのです」とヤップ氏は言う。 「しかし、私たちがしたことは、これを経験することです [constant process] これはクラウド財務の最適化と呼ばれるもので、クラウドの使用をどのように合理化するかを検査して確認します。」
オンプレミスAIテクノロジー
今日の企業は、Dell と HPE の as-a-service サービスを利用して、GenAI アプリケーションのクラウド コストを比較検討できます。 Dell APEX と HPE GreenLake は、今年導入された AI サーバーと、プライベート データセンターまたはコロケーション施設向けのストレージおよびネットワーキングを組み合わせた従量課金制の価格を提供します。
エクイニクスのグローバル・コロケーション・サービス担当バイスプレジデント、ティファニー・オシアス氏は、「組織は現在、より予測可能なコストを求めるようになっている」と述べた。 「クラウドのコストは非常に高いので、その転換点に達すると、インフラストラクチャのコストは十分に低くなり、機器を購入して自前で運用する方が経済的にはるかに有利になります。」
クラウドに移行すると実際にコスト面でのメリットが得られますか?場合によっては、そうではないこともあります。
メイ・ヤップCIO、ジャビル
Menlo Venturesのパートナー、Tim Tully氏によると、多くの新興企業が最新のハードウェア上で社内アプリケーションを開発するためのソフトウェアを搭載して市場に参入しているという。製品の多くは、オンプレミスの AI 開発に十分に成熟しています。
「生成 AI に必要なものの 80% は、ボタンを押すだけのターンキー ソリューションだと思います。それは今日の一連のスタートアップ企業にすでに存在しています」とタリー氏は語った。 「彼らはソフトウェアを販売しており、かなりまともな業績を上げています。」
Menlo Ventures の調査によると、新興企業の利益は、既存の製品に GenAI の機能を重ねる傾向にある既存ベンダーが提供する AI に対する不満の高まりによって支えられていることがわかりました。既存のベンダーからの購入を希望する企業の数は 64% と依然として高かった。しかし、IT 意思決定者の 40% は現在のツールが自分たちのニーズに適合するかどうかを疑問視しており、18% はその製品に失望を表明しています。
スタートアップ製品の例には、すぐに使用できる検索拡張生成などがあります。 RAG は、企業が社内データに基づいてモデルを微調整し、プロンプトへの応答を制御できるフレームワークであるため、AI 開発にとって不可欠です。
この分野の新興企業には、RAG-as-a-service プラットフォーム プロバイダーの Ragie や GenAI のサービスとしてのプラットフォーム プロバイダー Lamatic.ai などがあります。
他の新興企業は、AI と社内システムの統合に重点を置いています。たとえば、Norwest Venture Partners、Zeev Ventures、Ridge Ventures が支援する Squid AI は、企業がカスタム AI エージェントを既存のインフラストラクチャに統合できるように、さまざまなデータ ソースとモデルを接続するプラットフォームを提供しています。企業は Squid AI をオンプレミスまたはクラウドに導入できます。
LangChain は、オンプレミスで AI アプリケーションを開発するためのオープンソース オーケストレーション フレームワークの一例です。同社は、チャットボット、仮想アシスタント、インテリジェント検索システムを作成するための、事前構築されたライブラリ、プロンプト テンプレート、チェーン構造を提供しています。フレームワークの拡張機能である LangGraph は、エージェントおよびマルチエージェント ワークフローを作成するためのオープンソース ライブラリを提供します。
AI アプリケーションの特定の社内開発を決定した企業は、従来の IT コンピューティング環境以外のツールを使用する可能性が高いとアナンド氏は述べています。したがって、オンプレミス開発はコンサルティング会社に利益をもたらします。
「ツールを効果的に使用する方法と、ツールがどのようにビジネス成果を生み出すことができるかに関するコンサルティングサービスを提供できる企業は、うまくいくだろう」とアナンド氏は語った。
Antone Gonsalves は TechTarget エディトリアルの一般編集者であり、企業のテクノロジー バイヤーにとって重要な業界トレンドについてレポートしています。彼は 25 年間テクノロジー ジャーナリズムに携わっており、サンフランシスコを拠点としています。ニュースに関するヒントはありますか?彼をドロップしてください 電子メール。
#企業はコストを管理するためにオンプレミス #に移行