生成AI（Genai）の次の波は、推論によって定義されます。トレーニングと推論は、このシフトのバックボーンを形成し、スケール、信頼性、および新しいクラスのアプリケーションのインフラストラクチャを提供します。
「これが、AWSでGenaiアプリケーションを構築および拡大する最も簡単な方法としてAmazon Bedrockを構築した理由です」と、EC2 CloudプラットフォームのAmazon Web Services（AWS）VPのWillem Visser氏は、先週のヨハネスブルグのAWSサミットでの基調講演で述べています。
Bedrockは、AI21 Labs、人類、炭、安定性AI、Amazon独自のモデルなどのプロバイダーから、さまざまな高性能基礎モデル（FMS）へのアクセスを提供するマネージドサービスです。開発者が単一のAPIを介してこれらのモデルを使用して構築および拡張できるようにすることにより、Genaiアプリケーションの開発を簡素化するように設計されています。実際、Bedrockは中央のハブとして機能し、独自のインフラストラクチャを管理することなくGenaiアプリケーションを作成するためのツールを企業に提供します。
モデルの選択
現在シアトルのAmazon HQに拠点を置く南アフリカ人のVisser氏は、今日および将来的に機能するGenaiアプリケーションを構築するための最初のステップはモデルの選択であると述べました。 FMSの分野は迅速に進んでおり、毎週リリースされるモデルがより能力が高く、費用対効果が高く、より高速なモデルがリリースされています。
「すべてのビジネスに最適なモデルはありません」とVisser氏は言います。 「私たちは、さまざまな主要なプロバイダーにわたって完全に管理されたFMSの幅広い選択肢を提供して、最高のモデルにアクセスするのに役立ちます。インフラストラクチャを管理および拡大する必要がなく、セキュリティやパフォーマンスを妥協することなく最新のモデルを自由に構築および実験することができます。
カスタマイズ
AWSは最近、Sagemaker AIでNOVAモデルをカスタマイズする機能を発表しました。これは、データサイエンティストと開発者が機械学習モデルを構築、訓練、展開するのに役立つサービスです。 Visser氏は、この選択により、特定のユースケースに最適なモデルを選択できると述べました。
「独自のデータを組み込むことは、AIから価値を得るための最も重要な手順の1つであり、これを行う最も一般的な方法の1つは、検索された生成（RAG）です。
「しかし、多くの開発者がRAGでGenaiアプリを構築している間に遭遇した課題は、もともと非構造化データ用に最適化されていたことです。今日、Bedrockはデータ型全体で完全に管理されたエンドツーエンドのRAGをサポートし、ユーザーにより多くの正確で説明可能な応答を提供します。」
信頼とセキュリティ
Visser氏は、TrustはGenaiの企業採用の中心であると述べました。 Bedrock Guardrailsは、組織に有害または不要な入力と出力をブロックする機能を提供し、アプリケーションが会社のポリシーとブランド価値に合わせて確実に合わせます。
AWSは、フィルタリングを超えて、ガードレール内に自動化された推論チェックを導入しました。これは、事実上のエラーを減らし、AIに生成された応答の幻覚のリスクを制限するように設計されています。 Visser氏によると、この保護は、Genaiを大規模に展開することに企業に大きな自信を与えています。
手頃な価格
genaiの採用におけるコストは依然として別の課題です。 Visser氏によると、モデルの蒸留などの手法により、小規模なモデルが大規模なモデルから学習し、コストを削減しながらパフォーマンスを向上させることができます。 AWSによると、岩盤の蒸留モデルは、大規模なカウンターパートよりも最大5倍速く、75％が安くなっています。
Bedrockのインテリジェントな迅速な接地により、アプリケーションの複数のモデルを指定できます。その後、Bedrockは、適切なモデルを介して各リクエストとルートリクエストに最適なモデルに最適なモデルを決定します。
「迅速な接地は、精度を損なうことなく、コストを最大50％削減できます。」
Visser氏によると、これらの措置は、Genaiを企業にとって強力で経済的に実行可能にするように設計されています。
アクション中の岩盤 – genaiゾーン
サミットのGenaiゾーンでは、AWSは、基本的な画像の生成またはテキストの転写をはるかに超えて岩盤がどのように広がるかを示しました。 Amazon Connect Solutions ArchitectのDaniel Schormannは、Genaiの拡張コンタクトセンターでガジェットを示し、洞察を抽出し、プロセスを自動化し、ビジネスシステムとシームレスに統合するためにサービスを適用する方法を示しています。
「私たちがやりたいのは、その呼び出し録音を取り、転写産物を取得してから、そこから洞察を抽出することです」と彼はガジェットに語った。 「転写と直接対話し、質問をすることで洞察を得ることができます。」
彼は、転写が最初のステップに過ぎないと言った。生のテキストがエンジニアリングプロンプトを使用して岩盤に渡されると、システムは要約以上のものを提供できます。 Bedrockを使用すると、構造化されたJSONオブジェクト（ソフトウェアで簡単に読み取り、処理できる標準的なJSONオブジェクト（データを構築する標準的な方法）など、特定のニーズに合わせてアウトプットを調整できます。
「非常に具体的なJSONオブジェクトを与えれば、私が一緒に働いているものを正確に知っています」とSchormannは言いました。 「それをDynamoDBテーブル（大規模にデータを保存および取得するためのAWSのクラウドデータベースサービス）に保存できます。処理できます。他の情報源とリンクできます。
これは、ベッドロックがその強さを示している場所であると彼は言った。かつてスタッフが20分間のコールを聴く必要があるかどうかは、エージェントのトレーニングワークフローに直接ルーティングされて、自動的に自動的に完了できるようになりました。
写真：ジェイソンバニエ
「伝統的に、電話のレビューに何時間も費やす必要がありますが、これは高価です。これには、1ドルの数分の費用がかかり、それらの人々はより価値のあるタスクを行うことができます。」
Schormannは、この価値は効率性だけでなく、スケーラビリティにもあると述べ、Genaiが魅力的な商業ツールになっていると述べました。
「エージェントをより効率的にすることができれば、プロセスをより効率的にすることができ、自動化できます。突然500ドルの電話をかけて200ドルになり、コスト全体の5分の3を節約できます。何百万人もの節約では、信じられないほど大きな節約です。」
* Jason Bannierは、World Wide Worxのデータアナリストであり、gadget.co.zaの副編集者です。彼に従ってください @jas2bannのBluesky。
#岩盤はGenai #Appsの次の波 #ガジェット