連邦当局にはウェブサイトから 1 日あたり 4,000 件の苦情が寄せられます。 「責任ある」AI チャットボットは混乱を解くことができるでしょうか?

カナダデジタルサービス（CDS）の政策部長代理マイケル・カーリン氏によると、カナダ政府にはウェブサイトに関する苦情が1日に最大4000件寄せられるという。人工知能 (AI) チャットボットを使えば、政府の 1,000 万の Web ページを閲覧することが頭痛の種から軽減されるでしょうか?

「あなたが今収集しているデータセットは、そう遠くない将来に武器になるかもしれません。」

Michael Karlin、カナダデジタルサービス

Karlin 氏のチームは、ツールの安全性、セキュリティ、公平性を確保しながら、その解明に取り組んでいます。同氏は、水曜日午後に開催された第1回オタワ責任AIサミットで、まだベータテスト中のこのツールの開発プロセスについて説明した。このイベントには学者、起業家、政府の指導者らがベイビュー ヤードに集まり、AI の文字通りおよび比喩的な力、信頼、そしてその限界を誰が決めるのかについて議論しました。

OpenAIのGPT-4モデル（カーリン氏は、Cohereのカナダ製モデルは適切ではなかったとカーリン氏は述べた）を活用したカナダ政府のAIチャットボットプロトタイプでは、ユーザーが平易な言葉で質問し、カナダ政府のウェブサイトから関連情報を受け取ることができるほか、AIが生成した回答をユーザーが確認する必要があるという注意書きとともに、関連するウェブページに誘導される。現状では、この種の問い合わせは政府サービスのコールセンターや対面オフィスに負担をかけており、「複雑なニーズ」を持つ人々にとってもアクセスしにくい可能性があるとカーリン氏は述べた。

このチャットボットの開発の背後にあるセキュリティと公平性に関する考慮事項は、AI 時代にデータのプライバシーを安全に確保する方法と、AI ツールをどのように公平に展開できるかについて扱った、オタワ責任 AI サミットでの広範な会話の多くを反映していました。

カナタ・カールトン州議会議員のジェナ・サッズ氏は冒頭の挨拶で、「責任あるAIとは、単にリスクを管理することではなく、AIの恩恵をすべての人に確実に届けることだ」と述べた。 「そして私たちのシステムはカナダの多様性、価値観、社会的強みを反映しています。」

関連している： FRB、政府サービス内での AI 活用を検討するために Cohere と新たな契約に署名

チャットボットにアクセスするためにアカウントは必要ありません。また、このツールは、社会保険番号や電話番号など、クエリに含まれる個人情報を受け入れません。カーリン氏は、これは「設計上の選択」であり、このツールは、ユーザーがツールを通じて求めていた移民申請などで身元を明らかにする準備ができるまで、匿名で非個人化された政府への問い合わせを可能にすることを目的としていると述べた。

「個人情報が必要ない場合は、個人情報を収集しないでください」とカーリン氏はプレゼンテーションで述べた。

カーリン氏はパネルディスカッションで、チームはテスターの性別や人種などの公平性要因に関するデータをもっと収集できたかもしれないが、「非常に大規模なデータセット」が放置されることを望んでいなかったと説明した。

「現在収集しているデータセットは、そう遠くない将来に武器になるかもしれません」とカーリン氏は言う。

チェーンソーではなくメスです

不公平な AI ツールは悪用の可能性に加えて、既存の社会的偏見を悪化させる可能性もあります。 Oneremit の共同創設者兼 CEO である Hammed Afenifere 氏は、パネルディスカッションと BetaKit のインタビューで、AI モデルは万人向けに構築されているわけではないと説明しました。

アフェニフェレ氏は、単に扱うデータが少ないという理由だけで、アフリカではなく米国、カナダ、英国などの西側諸国の市場データを起業家に提供するなど、トレーニング データによって AI チャットボットが本質的に偏ってしまう可能性があると述べた。他のパネリストは彼の例を、褐色肌を検出できないいくつかの自動石鹸ディスペンサーと比較しました。

「このコンテキストを備えた責任ある AI を構築すると、 [understands] アフリカ人がどのように活動しているかによって、この国により多くの資金を持ち込むことができるのです」とアフェニフェレ氏は語った。

カーリン氏は自身のプレゼンテーションで、CDS チームはチャットボットを使用する多様な人々が、黒人経営者向けのプログラムに関する情報など、人口統計に応じた回答を得られるように取り組んでいると説明しました。ただし、チャットボットの応答にマイナスのバイアスがかかっていないことも確認する必要があります。

「これはメスを使うものであり、チェーンソーを使ったプロセスではありません」とカーリン氏は言う。 CDS チームは、チャットボットをそのレンズを通してテストできるように、さまざまなコミュニティと相談して、政府サービスとどのようにやり取りするかをよりよく理解しようとしています。カーリン氏は、トランスジェンダーの人は、自分たちに特有の特定の個別のサービスを求めて政府とやり取りする可能性があると説明した。

「私たちは、開発チームにトランスジェンダーの人がいない場合に、単にでっちあげてしまうことがないよう、使用するテスト問題がそのコミュニティによって生成されたものであることを確認したいと考えています」とカーリン氏は語った。

「責任ある」AI を定義するのは誰ですか?

チェーンソーではなくメスのアプローチは、サミットの控えめなテーマの 1 つである「責任ある AI とは誰が決めるのか?」に答えたかもしれない。 「テーブルに着いて」というフレーズが一日中使われていました。発言者たちは、誰がそのテーブルに座るかについて議論したり、全員が出席していることを確認することの重要性を説明したりした。

「AI で形成され、コミュニティに合わせて形成され、テーブルに着く私たち全員で築かれる未来を想像してみてください」と、オタワ責任ある AI ハブの創設者でプログラム リーダーのソムト ムベル氏は開会の挨拶で述べました。

「AI によって形成され、コミュニティに合わせて形成され、そして私たち全員がテーブルに着いて構築される未来を想像してみてください。」

ソムト・ムベル

カールトン大学の公共政策教授グレアム・オールド氏は初期の講演で、AIなどの業界標準を正式に制定するのは簡単なプロセスではないと述べた。彼はまた、誰がそのテーブルに座ることができるのかについても疑問を呈した。

アフェニフェレ氏はサミット後にベータキットに対し、人々に責任あるAIを異なる視点から見てもらえるのは嬉しいが、誰が席を獲得するかについては混乱していると語った。

関連している： SaaSは死んだのか？テクノロジーリーダーたちが今は鎮魂の時か再生の時か議論する

「私にとっては、まだちょっと混乱しています。誰がその責任を負っているのですか？『私たち』とは誰ですか？」アフェニフェレは言った。同氏は、将来的には責任あるAI政策の実施を担う何らかの委員会や政府組織が設立されるだろうと推測した。

「その会話は今も続いています」とアフェニフェレ氏は付け加えた。

政府の AI チャットボットを使用するコミュニティに単に諺の表を持ち込むというカーリン氏のアプローチは、おそらく委員会や組織を設立するよりも実用的です。このアプローチは、金曜日の午後に一人の人によって構築された概念実証として始まったプロジェクトの「有機的な」成長を反映しているとカーリン氏は述べた。

CDS は、公平な協議に対して「バブルベース」のアプローチを採用しており、黒人や LGBTQ+ であると自認する職員など、カナダ政府内のコミュニティから始めて、よりコミュニティベースの検査に移行しています。カーリン氏は、先住民コミュニティは AI に関して「非常に多様な」視点を持っており、コミュニティの議論に一枚岩のアプローチは存在しないことを認めました。

「コミュニティごとにやり方が異なるのであれば、今後の完璧な方法を社内で規定するつもりはありません」と Karlin 氏は BetaKit に語った。

政府ウェブサイトのチャットボットは、ランダム ユーザー 2,700 人を対象としたトライアルを約 95 パーセントの成功率で終了したばかりで、来年は 3,500 人を対象にトライアルを実施する予定です。ただし、何百万ものクエリを処理できるように準備する必要があり、カーリン氏は、政府が有害または役に立たない回答を提供していることを認識しています。昨年、エア・カナダは、旅行者に悪いアドバイスを与えたAIチャットボットの責任があると判明した。 Karlin 氏は BetaKit に対し、このプロジェクトがベータ状態を離れる保証はなく、正式に開始されることさえ保証されていないと語った。プロジェクトの潜在的なコストは依然として懸念事項です。

「軽蔑的な考えのように思えますが、納税者は Web ナビゲーション サービスにいくら支払わなければなりませんか?」カーリンは言いました。 「私たちはそれが可能かどうかを確認するためにそれを構築しています。」

デニス・ジャービスによるフィーチャー画像（経由） フリッカー、以下にライセンスされています CC BY-SA 2.0。