欧州の AI 条約はイノベーションと人権をどう両立させるのか | 解説

これまでのストーリー: 人工知能（AI）のグローバルガバナンスは、各国が法律から大統領令までさまざまな方法で国内のAIを統制しようとしているにもかかわらず、ますます複雑になっています。多くの専門家（および教皇）が、この趣旨の国際条約を明言していますが、その道のりには困難な障害が立ちはだかっています。

ヨーロッパのAI条約とは何ですか?

多くの文書には、多くの倫理ガイドライン、ソフトローツール、ガバナンス原則が盛り込まれていますが、そのどれもが拘束力がなく、世界的な条約につながる可能性も低いです。また、世界レベルまたは地域レベルで AI 条約の交渉が行われている場所もありません。

こうした背景から、欧州評議会（COE）は5月17日、「人工知能と人権、民主主義、法の支配に関する枠組み条約」（通称「AI条約」）を採択するという大きな一歩を踏み出した。COEは1949年に設立された政府間組織で、現在はローマ教皇庁、日本、米国、EU諸国など46か国が加盟している。

この協定は、AIガバナンスと、人権、民主主義、AIの責任ある使用との関連を網羅した包括的な条約である。枠組み条約は、9月5日にリトアニアのビリニュスで署名のために開かれる。

フレームワーク規約とは何ですか?

「枠組み条約」とは、条約に基づくより広範な約束と目的を規定し、それを達成するためのメカニズムを定める法的拘束力のある条約です。必要な場合、具体的な目標を設定する作業は、その後の協定に委ねられます。

枠組み条約に基づいて交渉される合意は議定書と呼ばれます。たとえば、生物多様性条約は枠組み条約であり、バイオセーフティに関するカルタヘナ議定書はその下で遺伝子組換え生物を扱う議定書です。同様に、将来的には、欧州のAI条約の下に「AIリスクに関する議定書」が作られる可能性があります。

枠組み条約のアプローチは、目標を実現するための中核となる原則とプロセスを規定しながらも柔軟性を許容するため有用です。条約締約国は、その能力と優先順位に応じて、目標を達成する方法を決定する裁量権を持ちます。

AI 条約は、他の地域における地域レベルの同様の条約交渉の触媒となり得る。また、米国も COE のメンバーであるため、条約は米国の AI ガバナンスにも間接的に影響を及ぼす可能性がある。米国は現在 AI イノベーションの温床であるため、これは重要なことである。AI 条約の関連する欠点 (ある意味) は、技術ガバナンスにおいて欧州の価値観や規範の影響をより強く受けていると見なされる可能性があることである。

条約の範囲は何ですか?

条約第1条は次のように規定している。

「この条約の規定は、人工知能システムのライフサイクル内の活動が人権、民主主義、法の支配と完全に一致することを確保することを目的としている。」

AI の定義は、OECD の AI の定義に基づく EU AI 法の定義に似ています。「AI システムとは、明示的または暗黙的な目的のために、受信した入力から、物理環境または仮想環境に影響を与える予測、コンテンツ、推奨事項、決定などの出力を生成する方法を推論する機械ベースのシステムです。」

第3条は次のように規定している。

「この条約の適用範囲は、人工知能システムのライフサイクル内で人権、民主主義、法の支配を妨害する可能性のある以下の活動に及びます。」

a. 各締約国は、公的機関又は公的機関に代わって行動する民間主体が行う人工知能システムのライフサイクル内の活動に本条約を適用する。

b. 各締約国は、本条約の趣旨及び目的に合致する方法で、a項に規定されていない範囲において、人工知能システムのライフサイクルにおける民間主体の活動から生じるリスク及び影響に対処するものとする。」

この文書は国家安全保障にどのように対処していますか?

条約の適用範囲から民間部門を除外することは議論の多い問題であり、条文は、民間部門を全面的に免除するか免除しないかという対照的な2つの立場の間で妥協しなければならなかったことを反映している。第3条(b)は、この問題に関して締約国に柔軟性を与えているが、民間部門を完全に免除することは認めていない。

さらに、第 3.2 条、第 3.3 条、第 3.4 条の免除は広範で、それぞれ国家安全保障上の利益の保護、研究、開発、テスト、国家防衛に関係しています。その結果、AI の軍事用途は AI 条約の対象外となっています。これは懸念事項ではありますが、このような用途の規制に関するコンセンサスが欠如していることを考えると、実際的な動きです。実際、第 3.2 条と第 3.3 条の免除は広範ではあるものの、それぞれ国家安全保障とテストに対する条約の適用性を完全に排除するものではありません。

最後に、条約の「一般的義務」は、人権の保護（第 4 条）、民主的プロセスの完全性、法の支配の尊重（第 5 条）に関係しています。偽情報とディープフェイクについては具体的には触れられていませんが、条約締約国は、AI の使用とその緩和に関連する評価を行うのと同様に、第 5 条に基づいてそれらに対する措置を講じることが期待されています。

実際、条約では（第 22 条で）締約国が規定された約束や義務を超えて行動できることも示されています。

AI コンベンションはなぜ必要なのでしょうか?

AI 条約は、AI に特有の新しい、または実質的な人権を創設するものではありません。その代わりに、国際法や国内法で保護されている既存の人権と基本的権利は、AI システムの適用中も保護される必要があると主張しています。義務は主に政府に向けられており、政府には効果的な救済策 (第 14 条) と手続き上の保護措置 (第 15 条) を講じることが期待されています。

全体として、この条約は、人権、民主主義、法の支配に対する AI システムの応用と使用から生じるリスクを軽減するための包括的なアプローチを採用しています。特に AI 規制体制がまだ完全に確立されておらず、テクノロジーが法律や政策を上回り続けている状況では、この条約の実施には多くの課題が伴うはずです。

しかし、欧州の法の支配の概念については議論の余地があるものの、AIのイノベーションと人権へのリスクとの間のバランスを成文化した条約そのものが今求められている。

クリシュナ・ラヴィ・スリニヴァスは、ハイデラバードのNALSAR法科大学の非常勤教授であり、インド工科大学マドラス校のCeRAIの准教授です。