信頼できる生成AIを構築する一般的な方法は？RAG

あらゆる規模のあらゆる分野の組織が、 生成AI、業務効率の向上からビジネスの改革まで、さまざまな課題に直面しています。しかし、この変革的なテクノロジーを導入し始めると、正確な結果を出すという共通の課題に直面します。

これは重大な問題です。偏見やその他の不正確さは信頼を低下させます。そして、生成 AI アプリケーションにとって、信頼こそがすべてなのです。

解決策は？エントリーレベルのチャットボットからエンタープライズグレードの AI イニシアチブまで、あらゆるものを支える主要な AI テクノロジーである大規模言語モデル (LLM) をカスタマイズすることです。

LLM だけでは、不正確な結果や、一般論に過ぎて役に立たない結果が提供される場合があります。顧客や生成 AI アプリケーションの他のユーザーの間で真の信頼を築くには、企業は正確で最新のパーソナライズされた応答を保証する必要があります。つまり、LLM をカスタマイズする必要があります。

しかし、LLM のカスタマイズは複雑で時間がかかり、多くのリソースを消費します。専門知識が必要であり、すべての組織にデータ サイエンティストや機械言語エンジニアがいるわけではありません。しかし、多くの組織が、ほとんどの組織がすでに豊富に持っているリソース、つまりデータを最大限に活用しながら、精度と関連性を高める、実績のあるコスト効率の高いカスタマイズ手法を選択するようになっています。

RAG が精度を高める仕組み

検索拡張生成 (RAG) は、正確で信頼性の高い生成 AI アプリケーションを迅速に構築するための、企業にとって好ましいカスタマイズ手法として浮上しています。RAG は、不正確さ (または「幻覚」) を減らし、回答の関連性を高めるのに役立つ、高速で使いやすいアプローチです。これは、LLM の微調整や継続的な事前トレーニングなどの労働集約的な手法よりもコスト効率が高く、専門知識もあまり必要ありません。

生成 AI アプリケーション ビルダーにとって、RAG は信頼できる生成 AI アプリケーションを作成するための効率的な方法を提供します。顧客、従業員、およびこれらのアプリケーションの他のユーザーにとって、RAG は、透明性のためにソースを引用できる応答によって信頼を構築する、より正確で関連性が高く完全な応答を意味します。

生成 AI の出力はデータの品質に左右されるため、応答を改善するには信頼できるソースを選択することが重要です。RAG は、組織のデータ ストアや信頼できる外部の真実の情報源からデータと洞察を取得して適用することで LLM を強化し、より正確な結果を提供します。古いデータでトレーニングされたモデルであっても、RAG は最新のほぼリアルタイムの情報にアクセスしてモデルを更新できます。

RAG の活動

食品宅配会社 ドアダッシュ は、生成 AI ソリューションに RAG を適用してセルフサービスを改善し、大量の支援リクエストを送信する独立請負業者 (「Dashers」) のエクスペリエンスを強化します。

DoorDash は、Amazon Web Services (AWS) と連携して、従来のコールセンターを音声操作のセルフサービス コンタクトセンター ソリューションで補完しています。DoorDash は、生成 AI ソリューションの中核として、Anthropic の Claude モデルと、組織が生成 AI アプリケーションを迅速かつ簡単に構築および拡張できるようにする AWS サービスである Amazon Bedrock を使用しています。

Bedrock は、RAG を使用して Claude 3 Haiku モデルをカスタマイズすることで、DoorDash が企業ソースからの深く多様な知識ベースにアクセスし、Dashers に適切で正確な応答を提供できるようにし、平均応答時間を 2.5 秒以下に短縮します。DoorDash の生成型 AI 搭載コンタクト センターは、現在、毎日何十万件もの電話に対応しています。

RAG を通じてこの膨大なデータベースにアクセスできたことが、信頼を築く鍵となりました。「私たちは、Dashers が必要なときに必要な情報に確実にアクセスできるソリューションを構築しました」と DoorDash のコンタクト センター製品リーダー、Chaitanya Hari 氏は言います。

カスタマイズの力

カスタマイズにより、特に最新のリアルタイム データを利用する必要があるユース ケースでは、応答の精度と関連性が大幅に向上します。

RAG は唯一のカスタマイズ戦略ではありません。微調整やその他のテクニックは、LLM のカスタマイズや生成 AI アプリケーションの構築において重要な役割を果たすことができます。しかし、RAG が進化し、その機能が拡張されるにつれて、生成 AI をすばやく簡単に開始し、より優れた正確な応答を保証して、従業員、パートナー、顧客の間で信頼を築く方法として機能し続けるでしょう。

詳細はこちら AWS 生成 AI。