この投稿は、ジョシュア D. ブランクとリー オソフスキーに関する Notice & Comment のシンポジウムの一部です。 自動化された機関: 政府の指導の変革。 シリーズの他の投稿については、ここをクリックしてください。
自動化された機関: 政府の指導の変革ジョシュア・D・ブランクとリー・オソフスキー著は、政府機関の出版物など、非公式の法的指導に関する著者らの大規模な研究の一部である。ここで説明されている非公式の法的ガイダンスは「自動化」されており、政府が作成したコンピューター プログラムからガイダンスが提供されることを意味します。ユーザーが情報を入力すると、プログラムはこれらの入力を使用して、どの事前に作成されたテキストを返すかを決定します。一部のプログラムでは、自然言語入力を使用して事前に作成されたマテリアルを選択します。他のプログラムは意思決定ツリーを使用し、分岐する「ツリー」を通してユーザーをガイドするために一連の質問をします。ユーザーが「はい」と答えたら、ここに移動してこの質問をします。ユーザーが「いいえ」と答えた場合は、この情報を返します。政府は、現在の自動化リソースに大規模な言語モデルや生成 AI を使用していません。
言い換えれば、政府が現在使用しているテクノロジーは、基本的に出版物などの政府機関のガイダンスを切り刻んで、関連する部分のみをユーザーに提供し、場合によっては出版物よりもさらに簡潔な文言を使用しているということです。このアプローチは、著者らがインタビューした当局職員がその資料が「正しい」または「正確である」と確信している理由である可能性があります。提供されたものが単に切り刻まれて凝縮された非公式ガイダンスであり、当局が基礎となる非公式ガイダンスが正確であると信じている場合、切り刻まれたバージョンも正確です。提供される情報はその人にとっては関係ないかもしれませんが、間違っているわけではありません。 (本書で説明されているように、非公式のガイダンスが実際に間違いである可能性があることもありますが、それは今は脇に置いておきましょう。)
この本の第 6 章では、人間の介入なしにコンピュータがコンプライアンスと執行のあらゆる部分を完全に管理できる世界を想像しています。この本で説明されているように、この世界は虚構です。現在、これに近いことを達成できるテクノロジーはありません。納税者のために納税申告書を「作成」している国は、第三者から報告された情報 (「情報報告」) に基づいて申告書を事前に入力しているだけであり、これにはいかなる意味でも「人工知能」は必要ありません。[1] 同様に、TurboTax や Direct File などの納税準備ソフトウェアは、ユーザーをガイドして内国歳入庁フォームに情報を入力します。したがって、このソフトウェアにも人工知能は含まれていません。おそらく、大規模な言語モデルと生成 AI により、いつか政府がコンプライアンスと執行を完全に自動化できるようになるでしょう。おそらく、大規模な言語モデルと生成 AI は、コンプライアンスを自動化するための間違ったテクノロジーです。いずれにせよ、完全に自動化されたコンプライアンスの世界は、私たちが現在住んでいる世界ではなく、この本で説明されている世界でもありません。
したがって、本書で説明されている「自動化された」法的指導は、架空のロボットによって提供される指導よりも、出版物で提供される指導に近いものです。それでも、本書で自動化された法的指導と呼ばれるものは、少なくとも 2 つの点で、他の種類の非公式な指導とは異なります。
まず、本書で説明されているように、他の非公式な法的指針に関連する透明性の一部が欠けています。たとえば、IRS の Web サイトでは次のようになります。 何年も前の出版物これにより、長年にわたって変更を追跡することができ、出版物には改訂日が記載されています。しかし、自動化ツールの背後にある事前に作成されたテキストがいつ変更されたのか、または最後に改訂されたのがいつなのかを知る方法はありません。私は、自動化された法的指導に関して透明性を高めるべきだというこの本の提案を強く支持します。これらのツールの基盤となる正確なテクノロジーも透明である必要があります。この本では、たとえば、ガイダンスで決定木が使用されている場合は完全な決定木を公開し、自然言語検索を使用するプログラムのコードは公開することを提案しています。
私はさらに踏み込んで、すべての自動化ツールについて、すべての出力を含むツールの基礎となるコードを公開して使用可能にし、透過的なバージョン管理を行うことをお勧めします。米国の電子申告プログラム Direct File のコードは現在、ほぼ完全に次のサイトから入手できます。 パブリックリポジトリ。 (もちろん、リポジトリでは、個人を特定できる情報など、プライバシー上の懸念を引き起こすコードとデータは省略されています。)非プライベートなコードとデータをすべて完全に公開することが、すべての自動ガイダンスのモデルとなるはずです。事前に作成されたすべてのテキストを含む完全なコンピューター コードと出力を公開すると、これらの出力が基本的に他の場所で入手可能な細切れのガイダンスであることがわかり、自動化ツールが他の非公式のガイダンスとは実質的に異なる情報を提供するかどうか、またいつ提供するかを人々が体系的かつ効率的に判断できるようになります。そして、これらのリポジトリを使用すると、人々が政府のコンピューター コードを使用して、他の同様のツールを作成したり、政府が作成したものを改良したりできるようになる可能性があります。
第二に、出版物が「自分たちだけに」語りかけているとは誰も考えていません。しかし、自動ガイダンスは、ユーザーが受け取った情報やガイダンスが本当に個人化されたものであるかのように、あるいは意味のある意味で個人からのものであるとユーザーを騙す可能性があります。人間のような音声のソースに人間の特徴をすぐに与えようとする人々の傾向は、ChatGPT などのプログラムの出現以来よくニュースになっていますが、それはこれらのプログラムよりずっと前から存在していました。 ELIZA は、1960 年代に Joseph Weizenbaum によって作成された言語処理プログラムです。ワイゼンバウムは『ELIZA』のために「初期の精神科面接における非指示的精神科医」の脚本を作成した。[2] この構造により、彼は「現実世界の知識」を含めることを避けることができたからです。スクリプトはユーザーの発言を単に反映しただけです。ユーザーが「ママがテディベアを私から奪った」と入力すると、プログラムは「あなたの両親についてもっと教えてください」と応答するかもしれません（テディベアについて何も知る必要はありません）。ワイゼンバウムは、人々がプログラムを使用したときに何が起こったかを次のように説明しています。
イライザは、イライザと会話した多くの人々の心の中に、理解したという最も驚くべき幻想を生み出しました。自分が機械と会話していることをよく知っている人はすぐにその事実を忘れてしまいます…この幻想は特に強く、コンピューターについてほとんどまたはまったく知らない人々の間で最も執拗に固執しました。彼らはしばしばシステムと個人的に会話することを許可することを要求し、しばらくシステムと会話した後、私の説明にもかかわらず、マシンは本当に彼らのことを理解していると主張しました。
この信用度は「ELIZA効果」として知られるようになりました。[3] そしてそれは今日も続いています。したがって、政府の自動ツールのユーザーは、たとえ豊富な情報が開示されていたとしても、自動ツールから何を受け取っているのかを誤解する危険に特にさらされる可能性があります。
この本には、政府がユーザー エクスペリエンスに基づいてツールの成功を評価していると記載されています。ユーザーがツールに満足しているほど、政府はそのツールが成功しているとみなします。しかし、ユーザーを幸せにするものと、ユーザーを誤解させない正確で徹底したツールの間には、相容れない緊張感があるかもしれません。これらのツールはユーザーに法律を説明する試みです。ツールはユーザーが何をすべきかを規定することができないためです。真に個別化されたガイダンスを提供するテクノロジーは単に存在しません。弁護士ではない人が複雑な法律について正確な説明を受けることは幸福への道ではありません。説明が単純であればあるほど、口語的な言葉であればあるほど、ユーザーはより満足するのではないかと考えられます。 (実際、多くの人は、何の説明もなく、単に何をすべきかを知りたいと思っているのではないかと思われます。) これが、この本で説明されている「単純さ」と正確さの間の緊張です。
さらに、応答がおしゃべりで口語的であればあるほど、特にユーザーが自然言語を使用して応答を引き出すことができる場合、人々が ELIZA 効果の餌食となり、パーソナライズされたアドバイスを受けていないことを理解できない、おそらく理解できないというリスクが高まります。アドバイスを提供してくれる人がいないことを合理的に受け入れているユーザーでも、アドバイスを提供するコンピューター プログラムを擬人化する可能性があります。したがって、自動化されたガイダンスは、司法へのアクセスのギャップを悪化させる可能性があります。出版物とは異なり、自動ガイダンスは、実際には受けていないのに、個別のガイダンスを受けたかのように人々を騙す可能性があります。リソースのない人は、個別の法的指導を受けられず、また、個別の法的指導を受けていないことにも気づきません。彼らは、求めている法的な知識や指導を得ることができず、また、その知識や指導が欠けているということも知ることはできません。この二重の無知は人々をより幸せにするかもしれませんが、それを成功として理解するのは困難です。
サラ・B・ロースキーは、イリノイ大学アーバナ・シャンペーン法科大学のLBラル教授とスミトラ・デビ・ラル教授です。。
[1] OECD、 税務行政 2024、パート 4: 評価: 事前記入申告書で入手可能で、さまざまな国での返品の事前入力のアプローチの概要が説明されています。
[2] ELIZA についてのこの説明は、Joseph Weizenbaum から引用したものです。 コンピュータの能力と人間の理性: 判断から計算まで 188-192 (1976)。
[3] たとえば、Douglas R. Hofstadter を参照してください。 ゲーデル、エッシャー、バッハ：永遠の黄金の三つ編み 600 (1979) (この反応を説明し、「この奇妙な「ELIZA 効果」」に言及)。
#自動化された法的指導効果サラBロースキー著