IEEE-USAの新しいガイドは、企業がAIリスクを回避するのに役立ちます

人工知能システムを開発または導入する組織は、AI の使用には、法律や規制の影響、評判の失墜の可能性、偏見や透明性の欠如などの倫理的問題など、さまざまなリスクが伴うことを認識しています。また、適切なガバナンスがあれば、リスクを軽減し、AI システムが責任を持って開発および使用されるようにできることも認識しています。その目標には、システムが公正で、透明性があり、説明責任があり、社会に有益であることを保証することが含まれます。

責任ある AI を目指している組織でさえ、目標を達成しているかどうかを評価することに苦労しています。そのため、IEEE-USA AI ポリシー委員会は、組織が進捗状況を評価および追跡できるように支援する「NIST AI リスク管理フレームワークに基づく AI ガバナンスの柔軟な成熟度モデル」を発表しました。この成熟度モデルは、米国国立標準技術研究所の AI リスク管理フレームワーク (RMF) およびその他の NIST ドキュメントに記載されているガイダンスに基づいています。

NISTの取り組みを基に

AI ガバナンスに関する高く評価されている文書である NIST の RMF では、AI リスク管理のベスト プラクティスが説明されています。しかし、このフレームワークでは、組織がベスト プラクティスに向けてどのように進化できるかについての具体的なガイダンスは提供されておらず、組織がガイドラインにどの程度従っているかを評価する方法も示されていません。そのため、組織はフレームワークの実装方法に関する質問に悩む可能性があります。さらに、投資家や消費者などの外部の利害関係者にとって、この文書を使用して AI プロバイダーのプラクティスを評価することは困難です。

新しい IEEE-USA 成熟度モデルは RMF を補完し、組織が責任ある AI ガバナンスの取り組みの段階を判断し、進捗状況を追跡し、改善のロードマップを作成できるようにします。成熟度モデルは、組織の技術標準への関与度または準拠度、および特定の分野での継続的な改善能力を測定するツールです。組織は 1980 年代からこのモデルを使用して、複雑な機能を評価および開発してきました。

このフレームワークの活動は、RMF の 4 つの柱を中心に構築されており、信頼できる AI システムの開発における AI のリスクと責任を管理するための対話、理解、活動を可能にします。柱は次のとおりです。

• マップ: コンテキストが認識され、コンテキストに関連するリスクが特定されます。
• 測定: 特定されたリスクは評価、分析、または追跡されます。
• 管理: リスクは予測される影響に基づいて優先順位が付けられ、対処されます。
• ガバナンス: リスク管理の文化が育まれ、存在しています。

柔軟なアンケート

IEEE-USA 成熟度モデルの基礎は、RMF に基づく柔軟なアンケートです。アンケートには一連のステートメントがあり、それぞれが 1 つ以上の推奨される RMF アクティビティをカバーしています。たとえば、1 つのステートメントは「当社の AI システムによって生じる偏見と公平性の問題を評価し、文書化します」です。このステートメントは、「当社の AI システムは公平です」などの一般的で抽象的なステートメントを避けながら、企業が実行できる具体的で検証可能なアクションに重点を置いています。

ステートメントは、RFM の柱に沿ったトピックにまとめられています。トピックは、RMF で説明されているように、AI 開発ライフサイクルの段階 (計画と設計、データ収集とモデル構築、展開) にまとめられています。特定の段階で AI システムを評価する評価者は、関連するトピックだけを簡単に調べることができます。

採点ガイドライン

成熟度モデルには、RMF に定められた理想を反映した以下のスコアリング ガイドラインが含まれています。

• 活動のアドホックな実施から体系的な実施までをカバーする堅牢性。
• カバレッジ、いずれの活動にも従事しない人から、すべての活動に従事する人まで様々です。
• 入力の多様性は、単一チームからの入力から社内外の利害関係者からの多様な入力まで、活動に情報を提供する。