カナダの州や準州が AI を規制する必要がある理由

カナダの連邦政府、州政府、準州政府および地方自治体における人工知能の使用は、民間部門での使用と同様に規制される必要がある、と公共部門におけるAIに関する会議が述べた。

しかし、カナダ高等研究研究所（CIFAR）のスティーブン・トゥープ最高経営責任者（CEO）も、ここでの規制は他国が行っていることと切り離して行うことはできないと警告した。

「国家レベルの規制だけで十分だとは思えませんし、さらには州の規制でさえも十分ではありません。 それでも、世界的な規制を得るのはほぼ不可能だと思います」と同氏は水曜日、オンタリオ州情報プライバシー委員会が主催した会議で語った。

大手企業のCEOたちは「AIを巡る世界的な協定」を求めて世界中を飛び回っているが、それは「実現する可能性は低いため、皮肉な取り組みだ」とトゥープ氏は語った。

その代わりに同氏は、欧州連合のような他の法域との「規制連携」を呼び掛け、「規制が末端まで及ばないように」我々の規制枠組みを可能な限り各国の規制枠組みと互換性のあるものにするよう求めた。

同時に、イノベーションが抑制され、カナダの AI の成功に対する障壁が生じないよう、官民セクターの AI フレームワークは柔軟である必要があります。

「言うは易く行うは難し」と彼は認めた。「非常に複雑になるだろう。 しかし国民の信頼を失うことになる [in the public and private sector use of AI] 私たちが十分に行動しなければ、正しい方法で行動しなければ、カナダとオンタリオ州の創造性と機会の可能性を失うことになります。」

このカンファレンスは、データプライバシー週間中のオンタリオ州プライバシー委員会の教育活動の一環として開催されました。

会議は、オンタリオ州情報プライバシー委員のパトリシア・コセイム氏が、公共部門での AI の使用を管理する拘束力のあるルールを備えた AI フレームワークをオンタリオ州に求める要求を繰り返して始まりました。

オンタリオ州公共・企業サービス提供省の次官補メリッサ・キットマー氏は、政府は次のような取り組みを行っていると述べた。 信頼できる AI フレームワーク 2021年から。

優先事項は 3 つあります。「人々が信頼できる AI」（AI 使用のリスクを明確にし、人々への被害を最小限に抑えるための緩和戦略を導入する）。 「責任あるAI」（住民がAIによる決定に異議を申し立てることができる仕組みを備えている）。 そして「AI を秘密にすることは禁止」（政府の決定を知らせるために AI が使用される場合は透明性と情報開示を確保する）。

このフレームワークの目標は、公務員によるAIの責任ある使用を可能にすることだと彼女は述べた。 これには、州政府が AI の使用において透明性、説明責任、責任を負うことを保証するための政策、製品、ガイダンス、ツールが含まれます。

同氏はフレームワークがいつリリースされるかについては言及しなかった。

一方、オンタリオ州では、チャットボットや仮想アシスタントでの大量のデータの抽出や、予測土壌マッピングにすでに AI が使用されていると彼女は述べました。

AI を法制化し、規制するための取り組みが全国でいくつか行われています。 議会は人工知能およびデータ法 (AIDA) 案の審議の真っ最中です。 ただし、対象となるのは連邦規制の対象となる企業と、独自のAI法を持たない州や準州の企業だけだ。 連邦公務員については、オタワ AIの使用に関する指令を出した 2019年。 連邦政府による生成 AI の使用に関するガイドが昨年発行されました。

先月、欧州連合理事会と国会議員は、 人工知能法案に関して暫定合意に達した 加盟 27 か国の民間部門と公共部門の両方をカバーします。 支持者らは今夏の選挙で議会が閉会する前に可決されることを期待している。

コセイム氏は冒頭の挨拶で、AIは仕事から人々の健康まであらゆるものに影響を与える可能性がある「現実世界への影響がリアルタイムで展開され、大きなチャンスをもたらす」と述べた。

同氏は、政府はAIを利用して、政治的意思決定者を支援するための平易な言葉での報告書の概要を作成し、政府の給付金やサービスにアクセスしようとする住民の遅延を削減し、AIアシスタントを通じて医療診断を強化し、医療画像を解釈して人間の目では見逃しそうなものを見つけることができると述べた。 、入院期間を予測し、求職者の審査に役立ちます。 現在、英語を話せない緊急911にアクセスする人々の通訳にAIが使用されている、と彼女は述べた。

しかし、世界中でAIアルゴリズムが正確な結果を返せなかったり、歴史的に疎外された集団に対する偏見や差別が永続したりする例があると彼女は付け加えた。 一例として、どの患者が広範な医療を必要とするかを予測するために病院で使用されているアルゴリズムは、「黒人患者よりも白人患者に有利に大きく偏っていた」。 別のケースでは、求人採用を加速するために使用されたアルゴリズムが女性に対して偏見を持っていることが判明した。

「これらの例や他の例は、そもそもアルゴリズムのトレーニングに使用されるデータソースからバイアスを取り除くことの重要性と、返される結果に対する人間の監視の必要性を物語っています」とコセイム氏は述べた。

CIFAR の監督も務めるトゥープ氏 汎カナダ AI 戦略は、芸術界向けの顔認識システムに取り組んでいるカナダの黒人コンピューター科学者について話しましたが、そのシステムはすでに世界中で使用されていましたが、自分の顔、ひいては黒人女性の顔を認識していないことに気づきました。 「それは、これらのシステムを作成したチームがまったく代表的ではなかったことを示しています」と彼は言いました。 「広範な国民の信頼を生み出すために [in AI] 私たちはそれに対処しなければなりません [system] 創造。」

オンタリオ州プライバシー委員局のテクノロジー政策および戦略的イニシアチブのマネージャーであるクリス・パーソンズ氏は、大企業はAIの課題について知っていると述べた。 多くの企業は安全性チェックを構築していますが、使用する基礎となるデータには依然としてバイアスが存在する可能性があります。 規制の少ないシステムの多くは、児童ポルノの生成などを行う「未開の西部」だと同氏は付け加えた。

生成 AI の使用に関する連邦法または州法の制定を待っている組織 それまでの間、国のプライバシー委員会が発行したガイダンスに目を向けるべきです、 彼は言った。

州や準州が独自の AI 法を必要とする理由は他にもあります。 オタワ大学の情報法と政策のカナダ研究委員長であるテレサ・スカッサ氏は、連邦政府ではなく州が病院や地元の警察署などのより広範な公共部門に対する権限を持っていることを会議で思い出させた。

AIが引き起こす問題は他にもある、とスカッサ氏は付け加えた。それらは非個人情報に関係するが、人々の生活に影響を与える可能性がある。 たとえば、Environics Analytics というデータ マーケティング会社には、 デモ用ウェブサイト 収集した公開データが顧客の郵便ゾーンをどのように分類できるかについて説明します。 トロント北部（ノースヨーク）のあるゾーンは「ホワイトカラー」と呼ばれ、高齢の家族と空き巣があり、平均収入は17万3000ドルだった。 このようなデータは人々を「特別なグループ」に分類し、サービスの提供に影響を与える可能性があると彼女は述べた。 彼女は、この問題はプライバシーと人権法でどのように扱われるのかと尋ねた。

「私たちは広範な影響に目を向ける必要がある」 [of the use of technology]個人のプライバシーだけではありません」と、エグゼクティブディレクターのジェニ・テニソン氏も同意した。 データでつながる、オープンデータガバナンスを提唱しています。 必要なのは、人々が「AIを導入する際に大手AI企業や政府の力に匹敵する」ことができる「グループの権利」だ。