AI には信頼の問題があります。その解決方法は次のとおりです。

人工知能は今、極めて重要な局面を迎えています。生成型 AI の急速な出現により、AI の成長とビジネスおよび社会への影響に関する予測が次々と生まれています。しかし、組織が AI の可能性を最大限に引き出すことを妨げる問題が 1 つあります。それは信頼です。

消費者の半数以上が、AI が社会に深刻な脅威をもたらすと考えています。そして、企業内外で AI への信頼がなければ、AI がその潜在能力を最大限に発揮することは決してありません。

この課題の解決策は「信頼できる AI」です。つまり、説明責任、能力、一貫性、信頼性、共感、完全性、透明性に対するさまざまな関係者のニーズを満たすように設計、開発、展開、管理された AI です。信頼できる AI の導入は、企業がリスクと疑念を最小限に抑えながら AI のメリットをすべて享受できる方法で AI を展開できるようにする、明確に定義された戦略です。

信頼のギャップ

AI の文脈では、信頼とは特定の結果に対する確信を意味します。アプリケーションを構築するソフトウェア開発者であれ、チャットボットとやり取りする消費者であれ、AI のユーザーは、使用している AI からの出力が正確で、偏りがなく、有用であることを確信する必要があります。不正確または予期しない結果、genAI の幻覚、テキストベースの結果のエラー、および埋め込まれたバイアスは、ビジネス エグゼクティブの AI への信頼を低下させる最大の懸念事項の 1 つです。

企業内の信頼ギャップはどれほど大きいのでしょうか? 最近の Forrester の調査では、データおよび分析の意思決定者の 25% が、AI システムへの信頼の欠如が AI の使用における大きな懸念であると回答し、21% が AI/機械学習 (ML) システムとモデルの透明性の欠如を挙げています。

しかし、消費者ははるかに懐疑的で、購入経路のどこに AI があるのかを知りたい、また、やり取りする組織が AI をどのように使用しているかについてもっと詳しく知りたいと語っています。米国のオンライン成人のうち、顧客向けに AI モデルを使用している企業を信頼していると答えたのはわずか 28% で、46% は信頼していないと答えています。また、半数以上 (52%) が「AI は社会に深刻な脅威をもたらす」と感じていると答えています。

AI を成長の重要な要素とみなす組織が増えており、信頼のギャップに対処する必要があります。

信頼できるAIの構築

市場には多くの疑念と不信感があるにもかかわらず、この重要な局面で AI の取り組みを後退させることは、企業が犯す最大の過ちとなる可能性があります。AI の大きな可能性を考えると、これらの課題の解決策は、AI の導入を減らすことではなく、より信頼できる AI を使用することです。

定義上、信頼できるAIには「信頼の7つの手段”：

1. 透明性: 多くのユーザーにとって、AI はブラック ボックスです。説明可能な AI アプローチにより、モデルの透明性と解釈可能性が向上します。

2. 能力: AI は確率的です。機械は現実世界のデータから学習し、世界に内在する不確実性を反映します。AI を採用するビジネス リーダーは、AI 予測が決定論的ではないという事実を受け入れる必要があります。

3. 一貫性: 「モデルドリフト」は、データの変更やその他の要因により、モデルのパフォーマンスが時間の経過とともに変化した場合に発生します。AI の一貫性を確保する最善の方法は、ModelOps を採用することです。ModelOps は、組織が AI モデルを効率的に導入、監視、再トレーニング、管理するのに役立つツール、テクノロジー、プラクティスです。

4. 説明責任: AI が完璧になることは決してありません。そのため、摂食障害に関するサイトのチャットボットが訪問者にカロリー計算を勧めるなど、組織の AI がうまく機能しなくなった場合は、責任を取って何が悪かったのか、なぜそうなのかを説明し、将来同じ間違いを繰り返さないように明確な手順を踏んでください。

5. 誠実さ: 組織内に最高倫理責任者または最高信頼責任者を任命すると、AI プロセスをガイドし、社内外で信頼を築くのに役立ちます。そのような役職がない場合でも、組織は AI の整合性に責任を負う役割を明確に定義する必要があります。

6. 信頼性: AI を信頼するということは、その結果に自信を持つということです。そして、信頼性は信頼を生み出します。AI の信頼性を強化する最も効果的な方法は、現実世界でモデルをテストする前に、状況を仮想的にシミュレートしてテストすることです。

7. 共感： 幅広く多様な関係者グループを巻き込んでモデルをテストし、フィードバックを取り入れることで、偏見を排除し、ユーザーや顧客に対する共感を AI モデルに組み込むことができます。

もちろん、企業がどの手段に重点を置くかは、業界や目標などの要因によって異なります。しかし、AI による長期的な成功は、組織が導入するツールの数や導入の速さによって測られるものではありません。AI の成功事例は、AI から真の価値を獲得する企業であり、それは明らかに、顧客と従業員がテクノロジーをどれだけ信頼しているかにかかっています。

AI の旅をサポートする適切なパートナーをお探しですか? Forresterについて知る。