世界

AWS は AI の幻覚を永久に阻止する新しいツールを開発

AWS が自動推論チェックを発表新しいツールは、応答を顧客データと照合することで AI の幻覚を減らすことを目指す顧客には AI の回答が表示され、その回答がどの程度正確であるかを確認できます。企業の利用が増えているため、 AIツール 彼らの重要なプロセスやタスクにとって、幻覚はますます大きな課題であることが判明しています。これに対処しようとすると、 アマゾン Web Services (AWS) は、幻覚に対処するための新しいツールを発表しました。で明らかになった AWS re:Invent 2024 このイベントでは、新しい自動推論チェック システムは、企業がセキュリティ リスクや財務的損失に直面する可能性がある、幻覚によって引き起こされる潜在的な損害を与える可能性のあるエラーを削減することを目的としています。AIの幻覚に終止符が打たれるのか？最も単純なレベルでは、幻覚は AI システムやサービスが誤って動作するか、信頼性が低くなることを指します。これは、多くの場合、トレーニングに使用されたデータ内のエラーの問題が原因です。同社が「モデルの幻覚による事実誤認を防ぐ最初で唯一の生成型 AI 保護手段」と説明する AWS の自動推論チェックは、モデルによって生成された応答を顧客が提供した情報と照合することでこの問題を解決しようとしています。答えが正確に一致するかどうかを判断できない場合は、確認のために応答がモデルに送り返されます。AI モデルの正確性と信頼性を維持するための同社のシステムである Amazon Bedrock Guardrails の一部として利用できるこの新しいチェックでは、モデルがどのように答えを導き出したのかを確認することも試行され、モデルが間違っていると判断した場合は、顧客の答えと比較することになります。情報。その後、モデルからの最初の応答とともにその答えが表示されます。つまり、顧客は真実と応答の間に起こり得るギャップを確認し、それに応じてモデルを調整できます。TechRadar Pro ニュースレターにサインアップして、ビジネスの成功に必要なトップ ニュース、意見、機能、ガイダンスをすべて入手してください。AWS は、医療提供者がこのツールを使用して、特定のポリシーに関する顧客の問い合わせに正確な回答が得られるようにする例を挙げました。「時間の経過とともに、生成 AI がより多くの企業と顧客エクスペリエンスを変革するにつれて、推論はあらゆるアプリケーションの中核部分になるでしょう」と AWS の…