裁判で負ける最速の方法？ChatGPTを使う

お2023年12月6日、 バンクーバーのウェストサイド・ファミリー・ローの弁護士チョン・ケ氏は、子供との面会の機会を増やしてほしいと訴える依頼人のために、裁判所に申し立て通知書を提出した。母親の代理人弁護士らは、申し立て書に目を通し、回答をまとめた。そのとき、申し立て書に挙げられていた訴訟のうち2件が見つからないことに気づいた。それは、それらの訴訟が存在しないからだ。ケ氏は、OpenAIが開発したチャットボット「ChatGPT」を使って法的調査を行っていたが、見つけた訴訟が架空のものだとは知らなかった。

法律は大変な仕事なので、法律文書、判例、法令、規制のデータベースを精査する AI の能力を弁護士が活用したいと考えるのも不思議ではありません。調査結果を要約し、関連する判例を強調表示できるツールがあれば、時間と労力を大幅に節約できます。しかし、ChatGPT は検索エンジンではなく、大規模な言語モデルです。データでトレーニングし、学習した内容に基づいて人間のような応答を生成します。その創造的な性質がチャットボットに暗い面を与えています。それは、幻覚と呼ばれる現象で、誤ったデータや不正確なデータを提供する傾向があることです。

ケ氏のケースは、カナダの弁護士が生成AIのせいで虚偽の情報を提出した最初の報告例だ。マサチューセッツ州やコロラド州でも同様の事件が起きている。法的な文書によると、昨年、ニューヨークの弁護士スティーブン・A・シュワルツ氏とピーター・ロドゥカ氏は、航空会社に対する人身傷害訴訟の準備を進めていた。シュワルツ氏は、米国の有名な法律データベースであるFastcaseを使って必要な裁判例を見つけられなかったため、代わりにChatGPTを利用した。彼の弁論要旨には6件の捏造された引用文が含まれており、日付や名前が間違っている事件もあった。シュワルツ氏の仕事を監督するはずだったロドゥカ氏は、その技術を信用できないとは「一度も考えたことがなかった」と語った。

「ChatGPT がニュースの見出しになるやいなや、法廷で引用された偽の訴訟に関するニュースが見られるようになりました」と、法曹倫理とテクノロジーを専門とするオタワ大学ロースクールの准教授エイミー・サリジン氏は言う。「こうしたニュースは自動車事故のようなものです。目をそらすことはできません。」

ますます多くの弁護士が AI チャットボットを業務に取り入れるようになるにつれ、Salyzyn 氏は、再検討されることのない契約書や遺言書が作成されることを懸念しています。「いつかは、法的決定に誤りが紛れ込むことは避けられないようです」と Salyzyn 氏は言います。

生成型AIが間違いを起こしやすいのなら、なぜ弁護士はそれを使い続けるのでしょうか？ 原因は長時間労働と膨大な案件数です。カナダ法曹協会連合会が2022年に実施した弁護士のメンタルヘルスに関する全国調査では、弁護士の半数以上が燃え尽き症候群を経験し、法律専門家の約60％が精神的苦痛を抱えていることが明らかになりました。「締め切りが迫っていると、楽なほうを選びたくなります」とサリジン氏は言います。

AI によって、弁護士が弁護士であることに依然として責任があるという現実が変わることはない。AI を使用する弁護士は「有能な弁護士に期待される行動基準に従う」必要があると、ブリティッシュ コロンビア州弁護士会のコミュニケーションおよびエンゲージメント担当ディレクターのクリスティン タム氏は言う。つまり、裁判所に提出されたすべての書類が正確であることを確認する必要があるということだ。職業上の恥辱は、一部の弁護士が行動を改めるために必要な動機かもしれない。Ke 氏は現在、ブリティッシュ コロンビア州弁護士会からその行為について調査を受けている。Schwartz 氏と LoDuca 氏は制裁を受け、5,000 米ドルの罰金を科された。コロラド州の弁護士 Zachariah Crabill 氏は、ChatGPT を使用して法的調査を行った後、90 日間の資格停止処分を受けた。

弁護士はすでに、新しいテクノロジーに関する専門能力開発コースの受講を義務付けられている。しかし、AI は変革をもたらす力が非常に強いため、責任を持って使用するには実践的な経験が必要となる。ロースクールでは、ChatGPT のようなチャットボットを学生に体験させるコースの開発が始まっており、クイーンズ大学やニューブランズウィック大学では AI 法律クリニックが開設されつつある。

法曹協会もこの問題に真剣に取り組んでいます。オンタリオ州、ブリティッシュコロンビア州、アルバータ州、サスカチュワン州、マニトバ州では、具体的なガイドラインが定められています。当然のことながら、ガイドラインのほとんどは幻覚などの害に焦点を当てています。しかし、この技術を使用する際には弁護士がクライアントに同意を求めることも義務付けています。オンタリオ州法曹協会は、AI プロバイダーの選び方と AI の運用を毎年監査する方法についてのチェックリストを用意しています。アルバータ州は別のアプローチを採用しており、AI を使用してクライアントへの手紙を起草したり、裁判で証人に尋ねる質問を作成したりといったプラス面に焦点を当てています。

アルバータ州弁護士会のAIプレイブックの著者であるレン・ポルスキー氏は、この技術に期待している。彼は、生成AIは、文書のアウトラインの作成、裁判の質問の考案、訴訟要旨の校正など、法的調査以外のタスクでも優れていると主張している。「生成AIは、安全で信頼できる方法で使用する限り、弁護士が一般市民により良い法的サービスを提供するのに役立ちます」と彼は言う。「私たちはAIを使うなと言っているわけではありません。 [to] 賢く活用しましょう。」

この技術に苦戦しているのは弁護士だけではない。生成AIは、法的支援が必要だが弁護士を雇う余裕のない人にとっては魅力的な選択肢だ。ここでも問題は、ユーザーが正確な情報を得ている保証がないことだ。これは、自分で弁護することを選ぶ人にとっては危険となり得る。英国では、フェリシティ・ハーバー氏が固定資産税の支払いに対する控訴で、ChatGPTで捏造した9つの引用文献を使用した。ジョナサン・カーレン氏が元従業員に対する損害賠償金の支払い決定に対して控訴した際、ミズーリ州東部控訴裁判所は、同氏が抗弁に依拠した引用文献が捏造であると判断した。同氏が使用した24件の訴訟のうち、実際にあったのは2件だけだった。カーレン氏は、オンラインコンサルタントを雇ったが、そのコンサルタントが弁論要旨の作成に「人工知能の幻覚」を使うとは知らなかったと説明した。

カナダで人気の無料法律調査ウェブサイト Canlii は、一般の人々が AI を利用する傾向を察知し、昨年独自の生成ツールの展開を開始しました。同社は、各地域の判例法と法律の概要を作成するために、州および準州の法律財団から資金援助を受けることを目指しており、これまでにサスカチュワン州、アルバータ州、マニトバ州、プリンスエドワード島、ユーコン準州のデータを入手できています。

Canlii の子会社である Lexum が開発したこのソフトウェアは完璧ではない。ユーザーは、ラベルの間違いや、要約に正しい法的分析が欠けているなどのエラーに気付いた。Lexum のビジネス開発担当副社長である Pierre-Paul Lemyre 氏は、一部のケースが長すぎたり複雑すぎたりして要約できないため、このツールの失敗率は 5 パーセントだと述べている。しかし、彼はソフトウェアが改良されると期待しており、製品を微調整するために自分のチームにエラーを知らせたいと考えている。「私たちがこの仕事をしているのは、人々が法律をよりよく理解できるようにしたいからです」と彼は言う。「人々は便利で迅速な法的情報にアクセスする必要があります。」

現時点では、利便性とスピードは、慎重な実装と監視によって満たされる必要があります。AI の使用方法について弁護士と一般市民を教育し、AI を人々に役立て、人々を守るためにどのように使用できるかを決定するために、裁判所、政府、規制当局が共同で行動する必要があります。そうしないと、弁護士の不適切な行動に関する新たな見出しを見ることになるでしょう。