1755405671
2025-08-17 04:18:00
Jakarta：あらゆるワークロード、あらゆるアプリケーション、およびどこでも、Red Hat Summit 2023のマントラです。過去2年間、いくつかの変更が見られました。しかし、レッドハットのビジョンは変わっていません。このビジョンは実際に開発されました。
任意のモデル。任意のアクセラレータ。任意のクラウド。
それは、AI時代にハイブリッドクラウドによってもたらされたメッセージです。最良の部分は何ですか？ 「古い」ハイブリッドクラウドのように、それらはすべてオープンソースの革新によって駆動されています。今年のRed Hat Summitでは、AIエコシステムがオープンソースとオープンモデルの原則とともに構築されたもので、企業向けの新しいオプションを作成する方法を示します。
Opennessは選択肢を提供し、選択肢は、会社のニーズを満たす最高のモデルから、基礎となるアクセラレータ、および実際のワークロードが実行されている場所に至るまで、より大きな柔軟性をもたらします。 AIの成功した戦略は、ハイブリッドクラウドのどこにいてもデータに従います。
そして、何がクラウドハイブリッドを動かしましたか？オープンソース。
推論によりAIが良くなります
私にとっては、モデルよりも見始めなければなりません。はい、モデルはAI戦略にとって非常に重要です。しかし、推論がなければ、「実行」フェーズでは、モデルは何も「しない」、または何もしないデータのコレクションにすぎません。
推論とは、モデルがユーザーからの入力にどれだけ速く応答するか、そして加速コンピューティングリソースで決定をどれだけ効率的に行うことができるか – 最終的には効率の低下と顧客の信頼を損ない、負傷します。
これが、Red Hat Ai Incerence Serverの発売から始めて、AIオープンソースとの作業の主な焦点としてRed Hatが推論をするとき、私が非常に熱心である理由です。
Neural Magicからのテクノロジーを備えたリーディングおよびエンハンスのオープンソースVLLMプロジェクトで開発されたRed Hat AI Incorence Serverは、完全にサポートされ、ライフサイクルで、AI使用のための生産の準備ができている推論サーバーを実現します。最良の部分は、Kubernetes、Red Hatなどの分布で、Linuxプラットフォーム上のデータがどこに配置されても、データがどこに配置されても、ソリューションで動作することです。
AI Enterpriseよりも優れているものは何ですか？大規模なAIエンタープライズ。
ITエンタープライズに最適なアプリケーションは、単一の統合されたワークロードや新しいクラウドサービスではありません。スケーリングまたは開発を迅速かつ効率的に行う機能です。
これは、AIのコンテキストにも適用されます。しかし、AIには独自の課題があります。つまり、AIのワークロードの根底にある加速コンピューティングリソースも議論できる必要があります。ハードウェアを最適に実装するために必要な高コストと専門知識を考えると、これは単純な問題ではありません。
必要なのは、AIを散乱させる能力だけでなく、大規模なAIワークロードを多くの加速コンピューティングクラスターに分配することでもあります。推論モデルとエージェントAIには推論時間のスケーリングも必要なため、問題はより複雑です。
解決策？パフォーマンスが停滞しないように、効率が向上し、ユーザーエクスペリエンスが最適なままであるように、負荷を分割する必要があります。 Red Hatは、LLM-Dプロジェクトと呼ばれるオープンソースプロジェクトを通じてこの課題に答えようとします。
Red Hatが率い、ハードウェア加速の分野のAI産業指導者によってサポートされているLLM-Dは、VLLMによって証明されたKubernetesオーケストレーションの力を組み合わせて、非常に現実的なニーズに答えるために2つのオープンソースの柱を結び付けます。
AI-AWALLネットワークルーティング、KVキャッシュオフロードなどのテクノロジーとともに、LLM-Dは分散化され、同時にAI推論プロセスを実証し、組織がより費用対効果の高い効果的なワークロードでコンピューティングリソースを最大化するのに役立ちます。
AIのOpen（ソース）と次のもの
LLM-DおよびVLLM-PRSENTED RED HAT AI INCERENCE SERVER-ISは、現在のAIエンタープライズの課題に答える準備ができているオープンソーステクノロジーです。しかし、コミュニティは短期的なニーズに焦点を合わせているだけではありません。 AIの世界では、時間が加速されているようです。イノベーションの非常に速いペースは、最初は今後数年間しか現れると予想されていた課題になりますが、今すぐ直面しなければなりません。
これが、Red HatがStackの開発に直接関与するリソースを割り当てる理由です。これは、AI遺伝子アプリケーションライフサイクルの基本的なコンポーネントと標準化された火災を提示するためにMetaが率いるプロジェクトです。それ以上に、Llama StackはエージェントAIアプリケーションの開発に非常に適しています。これは、今日私たちがすでに知っているAI遺伝子のワークロードの継続です。
アップストリームレベル（メインソースコード）だけでなく、今後の未来に会いたい組織向けに、Red Hat AIを介して開発者のプレビューバージョンにスタックを提示します。
現時点でのAIエージェントの開発において、他のアプリケーションがこれらのAIエージェントにコンテキストと情報を提供する標準プロトコルはまだありません。これは、コンテキストプロトコル（MCP）モデルの役割が重要です。 2024年後半に人類によってオープンソースとして開発およびオープンしたMCPは、従来のコンピューティングのクライアントサーバープロトコルと同様に、AIエージェントとアプリケーション間の相互作用の標準プロトコルを提供します。
しかし、興味深いのは、MCPにより、既存のアプリケーションが大規模な開発を必要とせずにAI機能を直接持つことができることです。これは大きな飛躍であり、オープンソースの力のおかげでこれがすべて可能です。 Llama Stackと同様に、MCPはRed Hat AIプラットフォーム上の開発者のプレビューバージョンでも利用できます。
AI独自モデルは始まりにつながる可能性がありますが、特に最新世代のAIモデルを維持するソフトウェアの観点から、オープンソースのエコシステムが明らかに引き継がれています。 VLLMやLLM-Dなどのイノベーションや、エンタープライズのニーズに合わせて強化されたオープンソース製品のおかげで、AIの将来は、モデル、アクセラレータ、クラウドが何であれ、明るく見えます。そして、それはすべて、オープンソースと赤い帽子の力によって駆動されました。 。
（クリス・ライト、ダン・チーフテクノロジー担当上級副社長（CTO）、レッドハット）
ニュースやその他の記事を確認してください グーグルニュース
（MMI）
#モデルアクセラレータ任意のクラウドがオープンソースを使用してエンタープライズAIの可能性を開く