AI システムの取得に関するハウツー ガイド

International Data Corp. は、2022 年に人工知能のハードウェア、ソフトウェア、データ サービスの購入に世界中で 1,180 億米ドルが費やされたと推定しています。 IDC は、この額が 2026 年までにほぼ 3 倍の 3,000 億ドルに達すると予測しています。しかし、公共調達システムは、国民に新たなリスクをもたらす AI システム調達の課題に対処する準備ができていません。

この課題に対処するために、IEEE 標準協会は AI 調達の先駆的な標準を導入しました。 現在開発中のこの標準は、政府機関が公共の利益にかなう AI を取得する方法について、より責任を負うのに役立ちます。

現在、政府は AI と自動化された意思決定システムを使用して、人間の意思決定を支援したり置き換えたりしています。 ADM システムの判断は、教育、雇用、医療、社会サービスなどへの国民のアクセスに影響を与える可能性があります。

AI システムの多層的な複雑さと、AI システムが構築されるデータセットは、購入して導入しているシステムをほとんど理解していない調達担当者にとって課題となっています。 世界中の政府調達モデルの大部分は、まだ調達プロセスと法律をシステムの複雑さに適応できていません。

政府機関が公共利用テクノロジーをより適切に管理できるよう支援するために、IEEE 標準協会は 2021 年に、新しいタイプの社会技術標準である AI および自動意思決定システムの調達に関する IEEE P3119 標準の開発を承認しました。 この標準は、ニューヨーク大学責任 AI センターの「AI と調達: 入門レポート」の調査結果に基づいて作成されました。

新しい自主基準は、政府機関が取得する AI サービスやツールの種類を確実に批判的に評価できるよう、デューデリジェンス プロセスによる AI 調達アプローチの強化を支援するように設計されています。 この標準は、関連するリスクについて AI ベンダーに透明性を要求する方法を政府機関に提供できます。

IEEE P3119 は、政府が調達力を活用して市場を形成するのにも役立ちます。これにより、より責任ある AI ソリューションへの需要が高まる可能性があります。

ハウツーガイド

この規格は、政府機関が AI 調達の要件を強化できるようにすることを目的としています。 既存の規制に加えて、事前勧誘や契約監視などのさまざまなプロセスに適用できる補足的なハウツー ガイダンスを提供します。

米国会計検査院、世界経済フォーラム、フォード財団などの既存の AI 調達ガイドラインでは、AI リテラシー、ベスト プラクティス、テクノロジー ベンダーを精査するための危険信号が取り上げられています。 IEEE P3119 標準はさらに進んでおり、たとえば、問題に AI ソリューションが必要かどうかの判断に関するガイダンスを提供しています。 また、政府機関のリスク許容度を特定し、AI に関する質問に対するベンダーの回答を評価し、厳選された AI 固有の契約言語を推奨し、複数の基準にわたって AI ソリューションを評価するのにも役立ちます。

IEEE は現在、原則やベスト プラクティスを超えて、詳細なプロセスの推奨事項にまで踏み込んだ AI 調達ガイダンスを開発中です。 IEEE P3119 は、ほとんどの AI モデルの技術的な複雑さと社会への潜在的なリスクに明示的に対処すると同時に、はるかに大規模な人口への展開に合わせてシステムを拡張する能力も考慮しています。

標準作業グループでの議論は、AI リスクを特定して評価する方法、調達ニーズ内のリスクを軽減する方法、ベンダーから AI ガバナンスに関する透明性を引き出す方法、および勧誘と契約に関する AI 固有のベスト プラクティスを中心に議論されました。

IEEE P3119 プロセスは、既存の調達要件を補完し、最適化することを目的としています。 この規格の主な目的は、リスクを最小限に抑えながら AI の利点を最大化するために調達慣行と募集された提案を適応させる方法を政府機関や AI ベンダーに提供することです。

この標準は、公益と国民の公民権が積極的に保護されるように AI 調達の水準を高めるための募集と統合された「提案依頼」段階の一部となることを目的としています。

しかし、歴史的な規制体制と限られた制度的能力に対処している一部の政府にとって、この基準を実践することは困難になる可能性があります。

今後の記事では、規制サンドボックスとして知られる既存の規制に対して標準をテストする必要性について説明する予定です。