今月は、AI ソリューションを構築および拡張するためのより大きな選択肢と柔軟性を提供する、Azure AI ポートフォリオ全体の新機能をまとめます。
AT&T、H&R Block、Volvo、Grammarly、Harvey、Leya などを含む 60,000 を超える顧客が Microsoft Azure AI を活用して AI 変革を推進しています。私たちは、大小の業界や企業全体で AI の導入が進んでいることを嬉しく思っています。このブログでは、AI ソリューションを構築および拡張するためのより大きな選択肢と柔軟性を提供する、Azure AI ポートフォリオ全体の新機能を要約します。主な更新内容は次のとおりです。
アズールAI
イノベーターが未来を創造する場所。
米国および欧州連合向けの Azure OpenAI データ ゾーン
私たちは、企業にデータ プライバシーと常駐のニーズをさらに柔軟に制御できる新しい展開オプションである Azure OpenAI Data Zones を発表できることを嬉しく思います。米国および欧州連合の組織向けに調整されたデータゾーンにより、顧客は特定の地理的境界内でデータを処理および保存できるようになり、最適なパフォーマンスを維持しながら、地域のデータ常駐要件への準拠を確保できます。これらのエリア内の複数のリージョンにまたがることにより、データ ゾーンはグローバル展開のコスト効率と地域展開の制御との間のバランスを提供し、企業がセキュリティや速度を犠牲にすることなく AI アプリケーションを管理しやすくします。
この新機能は、Azure OpenAI Service の最新イノベーションを含む、より高いスループットと最新の AI モデルへのより高速なアクセスを可能にするソリューションを提供することで、データ常駐管理の複雑になりがちなタスクを簡素化します。企業は Azure の堅牢なインフラストラクチャを利用して、厳しいデータ常駐要件を満たしながら AI ソリューションを安全に拡張できるようになりました。データ ゾーンは標準 (PayGo) で利用でき、近々プロビジョンドでも利用可能になります。
Azure OpenAI サービスの更新
今月初めに発表しました グローバル デプロイ向けの Azure OpenAI Batch API の一般提供。 Azure OpenAI Batch API を使用すると、開発者は、Standard Global より 50% 低いコストで、別個のクォータと 24 時間の所要時間で、大規模で大量の処理タスクをより効率的に管理できます。 McKesson 内の事業体である Ontada は、すでに Batch API を活用して、米国の腫瘍センター全体で大量の患者データを効率的かつコスト効率よく処理しています。
「Ontada は、医療提供者、患者、ライフ サイエンス パートナーにデータ主導の洞察を提供するというユニークな立場にあります。当社では Azure OpenAI Batch API を活用して数千万の非構造化ドキュメントを効率的に処理し、貴重な臨床情報を抽出する能力を強化しています。従来は数か月かかっていた処理がわずか 1 週間で完了します。これにより、証拠に基づいた医療行為が大幅に改善され、ライフサイエンス製品の研究開発が加速されます。 Microsoft と提携して、私たちは個別化されたがん治療と医薬品開発における画期的な進歩を目指して、AI を活用した腫瘍学研究を推進しています。」 — Ontada 最高イノベーションおよびテクノロジー責任者、Sagran Moodley 氏
また、 o1-preview、o1-mini、GPT-4o、および GPT-4o-mini モデルのプロンプト キャッシュ Azure OpenAI サービス上で。プロンプト キャッシュを使用すると、開発者は最近確認した入力トークンを再利用することでコストと待ち時間を最適化できます。この機能は、コード編集やチャットボットとの長時間の会話など、同じコンテキストを繰り返し使用するアプリケーションに特に役立ちます。プロンプト キャッシュでは、標準オファリングのキャッシュされた入力トークンが 50% 割引され、処理時間が短縮されます。
プロビジョニングされたグローバル展開サービスでは、GPT-4o モデルの初期展開数量を 15 プロビジョンド スループット ユニット (PTU) に減らし、さらに 5 PTU ずつ増分します。また、Azure OpenAI サービスへのアクセスを拡大するために、Provisioned Global Hourly の価格を 50% 値下げします。 AI 導入のコスト管理について詳しくは、こちらをご覧ください。
さらに、トークン生成に関して 99% のレイテンシーのサービス レベル アグリーメント (SLA) を導入しています。このレイテンシ SLA により、特に大量の場合に、トークンがより速く、より安定した速度で生成されることが保証されます。
新しいモデルとカスタマイズ
モデルカタログに新しいモデルを追加することで、モデルの選択肢を拡大し続けます。今月はいくつかの新モデルをご用意しております。 ヘルスケア業界モデル そしてMistralとCohereのモデル。また、Phi-3.5 ファミリのモデルのカスタマイズ機能も発表します。
- ヘルスケア業界モデル、画像解析用の MedImageInsight、画像モダリティ全体の画像セグメンテーション用の MedImageParse、CXRReportGen などの高度なマルチモーダル医用画像モデルで構成されています。 詳細な構造化レポートを生成できます。 Microsoft Research および業界パートナーと協力して開発されたこれらのモデルは、特定のニーズを満たすために医療機関によって微調整およびカスタマイズできるように設計されており、そのようなモデルをゼロから構築するために通常必要とされる計算要件とデータ要件が軽減されます。今日の探検 Azure AI モデル カタログ。
- ミストラル AI のミストラル 3B: Ministral 3B は、知識、常識的推論、関数呼び出し、効率性に焦点を当てた、サブ 10B カテゴリにおける大幅な進歩を表しています。最大 128k のコンテキスト長をサポートするこれらのモデルは、エージェント ワークフローの調整から専門のタスク ワーカーの開発まで、さまざまなアプリケーション向けに調整されています。 Mistral Large のようなより大きな言語モデルと併用すると、Ministral 3B は、複数ステップのエージェント ワークフローでの関数呼び出しの効率的な仲介として機能します。
- コヒア埋め込み 3: Cohere の業界をリードする AI 検索モデルである Embed 3 が、Azure AI モデル カタログで利用できるようになりました。しかもマルチモーダルです。テキストと画像の両方から埋め込みを生成できる機能を備えた Embed 3 は、形式に関係なく膨大な量のデータを検索および分析できるようにすることで、企業に大きな価値をもたらします。このアップグレードにより、Embed 3 は市場で最も強力で有能なマルチモーダル埋め込みモデルとして位置づけられ、企業がレポート、製品カタログ、設計ファイルなどの複雑な資産を検索する方法が変わります。
- Phi 3.5 ファミリの一般提供の微調整、Phi-3.5-mini および Phi-3.5-MoE を含む。 Phi ファミリー モデルは、新しいスキルやタスクの学習、応答の一貫性と品質の向上など、さまざまなシナリオにわたって基本モデルのパフォーマンスを向上させるカスタマイズに適しています。 Phi-3.5 モデルは、コンピューティング フットプリントが小さく、クラウドとエッジとの互換性があるため、同じサイズまたは次のサイズのモデルと比較した場合、コスト効率が高く持続可能な代替手段となります。非接続シナリオだけでなく、エッジ推論を含むユースケースでも、すでに Phi-3.5 ファミリの採用が見られています。開発者は現在、プラットフォームとしてのモデルを提供し、サーバーレス エンドポイントを使用して、Phi-3.5-mini と Phi-3.5-MoE を微調整できます。
AIアプリ開発
私たちは Azure AI をオープンなモジュラー プラットフォームになるように構築しているので、開発者はアイデアからコード、クラウドへの移行を迅速に行うことができます。開発者は、Azure AI モデル推論 API を通じて、GitHub Marketplace を通じて直接 Azure AI モデルを探索し、アクセスできるようになりました。開発者は、さまざまなモデルを試し、プレイグラウンドでモデルのパフォーマンスを無料で比較できます (使用制限が適用されます) カスタマイズしてデプロイする準備ができたら、 開発者はシームレスにセットアップしてログインできる Azure アカウントに追加すると、コード内の他の部分を変更することなく、無料のトークンの使用からエンタープライズ レベルのセキュリティと監視を備えた有料のエンドポイントまで拡張できます。
も発表させていただきました AI アプリのテンプレート AI アプリ開発をスピードアップします。開発者は、GitHub コードスペース、VS Code、および Visual Studio でこれらのテンプレートを使用できます。このテンプレートは、Arize、LangChain、LlamaIndex、Pinecone などのプロバイダーが提供するさまざまなモデル、フレームワーク、言語、ソリューションを柔軟に利用できます。開発者は完全なアプリをデプロイすることも、コンポーネントから開始して、Azure およびパートナー サービス全体にリソースをプロビジョニングすることもできます。
私たちの使命は、世界中のすべての開発者が AI を使用して構築できるようにすることです。これらのアップデートにより、開発者は好みの環境ですぐに開始し、ニーズに最適な展開オプションを選択し、自信を持って AI ソリューションを拡張できます。
安全なエンタープライズ対応 AI アプリを構築するための新機能
Microsoft では、お客様の使用と構築を支援することに重点を置いています。 信頼できるAI、安全、安心、プライベートな AI を意味します。本日は、自信を持って AI ソリューションを構築および拡張するための 2 つの新機能を共有できることを嬉しく思います。
Azure AI モデル カタログには、開発者が探索、評価、カスタマイズ、デプロイできる 1,700 を超えるモデルが用意されています。この膨大な選択肢によりイノベーションと柔軟性が強化される一方、導入されたすべてのモデルが社内ポリシー、セキュリティ標準、コンプライアンス要件に確実に適合することを求める企業にとっては、重大な課題が生じる可能性もあります。 Azure AI 管理者は次のことが可能になります。 Azure ポリシーを使用して、選択したモデルのデプロイを事前承認する Azure AI モデル カタログから取得し、モデルの選択とガバナンスのプロセスを簡素化します。これには、Models-as-a-Service (MaaS) および Models-as-a-Platform (MaaP) デプロイ用の事前構築ポリシーが含まれており、詳細なガイドにより、Azure OpenAI Service やその他の AI サービス用のカスタム ポリシーの作成が容易になります。これらのポリシーを組み合わせることで、許可されたモデル リストの作成と、それを Azure Machine Learning と Azure AI Studio 全体に適用するための完全な範囲が提供されます。
モデルとアプリケーションをカスタマイズするには、開発者はオンプレミスにあるリソース、またはプライベート エンドポイントではサポートされていないがカスタム Azure 仮想ネットワーク (VNET) 内にあるリソースにアクセスする必要がある場合があります。 アプリケーションゲートウェイ は、HTTPS リクエストの URL に基づいてルーティングを決定するロード バランサーです。 Application Gateway は、HTTP または HTTPs プロトコルを使用した、マネージド VNET から任意のリソースへのプライベート接続をサポートします。現在、Jfrog Artifactory、Snowflake Database、およびプライベート API へのプライベート接続をサポートすることが確認されています。と Azure Machine Learning と Azure AI Studio のアプリケーション ゲートウェイがパブリック プレビューで利用可能になり、開発者はセキュリティ体制を損なうことなく、トレーニング、微調整、推論シナリオのためにオンプレミスまたはカスタム VNET リソースにアクセスできます。
Azure AI を今すぐ始めましょう
ここ Azure AI に携わって、最先端の AI イノベーションを提供し、開発者が当社のツールを使用して変革的なエクスペリエンスを構築するのを目の当たりにし、お客様やパートナーから学んできた 6 か月は信じられないほどでした。次に何が起こるか楽しみです。に参加してください Microsoft Ignite 2024 Azure AI の最新情報についてお聞きください。
追加のリソース:
#Azure #OpenAI #Data #Zones #の利用可能性と #Azure #の最新アップデートを発表