カナダ政府機関はAIの使用状況を開示すべき：連邦勧告

連邦諮問機関はカナダの安全保障機関に対し、人工知能システムとソフトウェアアプリケーションの現在の使用状況と今後の使用予定について詳細な説明を公表するよう求めている。

新たな報告書の中で、国家安全保障透明性諮問グループは政府に対し、連邦機関によるAIの利用方法の監視を確実にするため、議会で検討されている法律の改正を検討するよう促している。

この勧告は、国家安全保障政策、プログラム、活動の説明責任と国民の認識を高めるために2019年に設立された同グループが提案した最新の措置の一つである。

政府はこの団体を、国家安全保障についてより透明性を高めるという連邦政府の6項目の公約を実行するための重要な手段とみなしている。

連邦の情報機関や治安機関は、この団体の最新報告書に対して、情報公開の重要性を強調して反応したが、一部は、彼らの仕事の性質上、公に開示できる内容には限界があると指摘した。

セキュリティ機関はすでに、文書の翻訳からマルウェアの脅威の検出まで、さまざまなタスクに AI を使用しています。レポートでは、大量のテキストや画像を分析し、パターンを認識し、傾向や行動を解釈するために、このテクノロジーへの依存が高まると予測しています。

国家安全保障コミュニティ全体でAIの使用が拡大するにつれ、「国民が国境警備、警察、諜報機関の目的と取り組みについてより詳しく知ることが不可欠だ」と報告書は述べている。

「政府内の体系的かつ積極的なオープン性を強化し、外部からの監視とレビューをより適切に行えるように、適切なメカニズムを設計し、実施する必要がある。」

政府が国家安全保障の目的のために民間部門と協力する中で、「オープン性と関与」はイノベーションと国民の信頼の重要な促進要因であり、「秘密主義は疑惑を生む」と報告書は述べている。

AIの内部の仕組みを一般の人々に説明する上での大きな課題は「アルゴリズムと機械学習モデルの不透明性」、いわゆる「ブラックボックス」であり、国家安全保障機関でさえ自らのAIアプリケーションを理解できなくなる可能性があると報告書は指摘している。

オタワは連邦政府による人工知能の使用に関するガイドラインを発行しており、その中には人間の意思決定者の判断を支援または代替するシステムを構築する前にアルゴリズムの影響評価を実施することを求める内容も含まれている。

また、AIシステムの責任ある設計、開発、展開を確実にするために、現在議会で審議中の「人工知能とデータに関する法律」も導入した。

しかし、この法律と新しいAIコミッショナーは治安機関などの政府機関を管轄しないため、諮問グループはオタワ政府に、提案された法律を治安機関にも適用することを検討するよう勧告した。

カナダのサイバースパイ機関である通信保安局は、データサイエンスを活用して膨大な量の情報をふるいにかけ、分析する分野で長年最前線に立ってきた。

AIの力を活用するということは、プロセスから人間を排除することを意味するのではなく、人間がより良い決定を下せるようにすることを意味すると当局は述べている。

CSE は最新の年次報告書で、高性能スーパーコンピューターを使用して、カスタムメイドの翻訳ツールを含む新しい人工知能および機械学習モデルをトレーニングしていると説明しています。

100以上の言語のコンテンツを翻訳できるこのツールは、2022年後半に導入され、翌年にはカナダの主要な対外情報パートナーに提供された。

CSE のサイバー センターは、機械学習ツールを使用して、政府を標的としたフィッシング キャンペーンを検出し、連邦政府のネットワークとシステム上の不審なアクティビティを特定しました。

諮問グループの報告書に応えて、CSE は人工知能に対する一般の理解に貢献するためのさまざまな取り組みについて言及しました。

しかし、CSEは「国家安全保障を守るという任務の範囲内で特有の制約に直面している」ため、現在のAI利用や計画中のAI利用の詳細を公表することが困難になる可能性があると指摘した。

「AIの使用が倫理的であり続けるよう、当社はAIを統制、管理、監視するための包括的なアプローチを開発しており、今後もベストプラクティスと対話を活用し、当社のガイダンスが現在の考え方を反映したものとなるよう努めていきます。」

過激派活動、スパイ活動、外国の干渉などの脅威を捜査するカナダ安全保障情報局は、透明性グループの報告書を歓迎した。

諜報機関は、人工知能の使用に関する計画と管理を公式化する作業が進行中であり、すべての検討事項は透明性に基づいていると述べた。しかし、「CSISの任務を考慮すると、AIの使用に関連する事項を含め、作戦の完全性を守るために公に議論できる内容には重要な制限がある」と付け加えた。

2021年、当時の連邦プライバシーコミッショナーであるダニエル・テリエン氏は、RCMPが最先端の顔認識ソフトウェアを使用して個人情報を収集することで法律に違反していることを発見した。

テリアン氏は、RCMPが米国企業クリアビューAIから情報を収集する前に、プライバシー法の遵守を確保する上で重大かつ組織的な失敗があったと述べた。

Clearview AI の技術により、警察、金融機関、その他の顧客が人物を特定するのに役立つ、さまざまなソースからの膨大な数の画像の収集が可能になりました。

Clearview AI に対する懸念が高まる中、RCMP は収集手法のプライバシー法への準拠を評価するためのテクノロジー オンボーディング プログラムを作成しました。

透明性諮問グループの報告書は、騎馬警察に対し、この取り組みについて国民にもっと詳しく知らせるよう求めている。「オンボーディング・プログラムの下で行われる活動がすべて秘密にされれば、透明性は損なわれ続けるだろう。」

RCMPは、オンボーディング・プログラムの技術の責任ある使用に関する主要原則の概要と、プログラムが評価したツールの詳細を示す透明性の青写真を近日中に公表する予定であると述べた。

英国騎馬警察は、ツールや安全策に関する透明性を確保する手段も含め、AIの使用に関する国家政策も策定中だと述べた。

透明性諮問グループはまた、透明性に関する公約の進捗状況や成果について政府に公的報告が不足していることを非難している。同グループは、「実施された取り組み、これまでの影響、今後の活動について公的報告」を行い、公約を正式に見直すことを勧告している。

カナダ公安省は、報告書のさまざまな勧告が同省の副大臣や関連委員会を含む国家安全保障関係者に共有されていると述べた。

しかし、同省は勧告に同意するかどうかや、勧告を実施する期限については明言しなかった。

このレポートは、カナダプレスによって2024年8月23日に最初に公開されました。