1734165471
2024-12-14 08:31:00
ハグフェイスは 紹介された 同社の最新のサービスである Hugging Face Generative AI Services (HUGS) は、オープンソース モデルを使用して生成 AI アプリケーションの導入と拡張を簡素化することを目的としています。
HUGS は、トランスフォーマーやテキスト生成推論 (TGI) などの Hugging Face テクノロジーに基づいて構築されており、さまざまなハードウェア アクセラレータにわたって最適化されたパフォーマンスを約束します。
AWS を使用している開発者向け、または グーグルクラウド、このサービスはコンテナあたり 1 時間あたり 1 ドルで利用でき、ユーザーが使い始めるのに役立つ AWS の 5 日間の無料トライアルが付いています。
ゼロ構成推論による AI の合理化
HUGS は開発者に実行するためのソリューションを提供します AI 手動構成を必要とせずに、独自のインフラストラクチャ上にモデルを構築できます。大規模言語モデル (LLM) を導入する際の主な課題の 1 つは、特定のハードウェア環境に合わせて LLM を最適化することです。各アクセラレータは、 エヌビディア GPU または AMD GPU を使用するには、最大のパフォーマンスを引き出すために微調整が必要です。
HUGS を使用すると、これらの最適化が自動的に管理され、すぐに高いスループットを実現します。 NVIDIA に加えて、 AMD GPU については、同社はそのサポートが間もなく AWS Inferentia にも拡張されることを約束しています。 グーグル TPU。
Hugging Face は、ブラックボックス API から、有名なモデルを含む幅広いモデルをサポートするオープンなセルフホスト ソリューションへの移行を容易にすることを目的としています。 LLM Llama や Gemma など、Idefics や Llava などのマルチモーダル モデルを間もなく導入する予定です。同社は、将来的にはBGEやJinaのような埋め込みモデルを含めると述べている。、 開発者に AI アプリケーションをカスタマイズするためのさらに多くのオプションを提供します。
このサービスは、以下と互換性のある標準化された API を使用します。 OpenAIのモデル インターフェイスなので、開発者は独自のコードを移行できます。
特にスタートアップ企業にとって、HUGS は、独自のプラットフォームに伴う高額なコストを負担せずに AI アプリケーションを構築する機会を提供します。 DigitalOcean ではワンクリック デプロイメントが利用できるため、小規模チームが生成 AI テクノロジーを実験することがさらに容易になります。
一方、大企業は HUGS を活用して、単一のクラウド プロバイダーや独自の API に縛られることなくアプリケーションを拡張できます。 DigitalOcean では、HUGS は GPU ドロップレットの標準コストを超える追加料金なしで含まれています。 Hugging Face は、Enterprise Hub を通じて企業向けのカスタム導入ソリューションも提供しています。
あなたも気に入るかもしれません
#Hugging #Face #が手頃な価格の #導入のためのオープンソース #ツールを発表