科学＆テクノロジー

AIが間違える理由と、その解決に向けた大きな進歩

この投稿は、「責任ある AI の構築」シリーズの最初の投稿であり、AI の導入に関する主な懸念事項と、Microsoft が責任ある AI の実践とツールによってそれらの懸念事項にどのように対処しているかについて説明します。 技術的には、幻覚は「根拠のない」コンテンツであり、モデルが与えられたデータを変更したり、データに含まれていない追加情報を追加したりすることを意味します。 幻覚が有益な場合もあります。たとえば、ユーザーが AI に SF ストーリーを作成させたり、建築からコーディングまであらゆることに関する斬新なアイデアを提供させたりしたい場合などです。しかし、AI アシスタントを構築している多くの組織では、医療の要約や教育など、正確さが極めて重要なシナリオで、信頼性の高い根拠のある情報を提供するために AI アシスタントを必要としています。 そのため、マイクロソフトは、次のような独自のAI製品の開発から得た専門知識に基づいて、根拠のなさに対処するための包括的なツールを作成しました。 マイクロソフト コパイロット。 同社のエンジニアは、検索拡張生成という手法を使って、何ヶ月もかけて Copilot のモデルを Bing の検索データに適応させました。これは、モデルを再トレーニングすることなく、追加の知識を追加する手法です。Bing の回答、インデックス、ランキング データは、Copilot がより正確で関連性の高い回答を提供するのに役立ち、ユーザーが情報を検索して検証できるようにする引用も提供します。 「このモデルは情報から推論する能力に優れていますが、それが答えの源になるべきではないと考えています」とバード氏は言います。「私たちはデータが答えの源であるべきだと考えています。そのため、問題を解決するための最初のステップは、新鮮で高品質で正確なデータをモデルに取り込むことでした。」 #AIが間違える理由とその解決に向けた大きな進歩