AIが生成した架空の法的引用を準備書面に混入させたとして弁護士が逮捕される事件が際限なく急増していることは、驚くべきことだ。
その理由は、裁判官が怠惰を理由にさらに多くの弁護士に罰金を科しているだけでなく、こうした恥ずべき行為が世間に広まることが避けられないためである。
これはカイラという名前の犬に関するものです。
彼女は16歳のラブラドル・レトリバーで、カリフォルニア州在住のカップルが家庭内パートナーシップ解消後に親権争いのターゲットとなった。訴訟の過程で、ある弁護士は提出書類の中でAIで捏造された2つの引用を公開した。相手方の法律事務所はこの欠陥に気付かず、裁判官が署名した裁判所命令を含む提出書類の中で同じ偽の事件を引用した。
ほとんどの弁護士は、相手側が態度を崩し、場合によっては記録について嘘をつくことさえ予想できる時代に育ったが、事件の存在に関してただ嘘をついたり間違いを犯したりすることは、数年前までは基本的に前代未聞だった。
— ユージン・ヴォロック、UCLA 法科大学院
ジョアン・パブロ・トーレス・カンポス対レスリー・アン・ムニョスの事件は、省力化テクノロジーとして世界中で宣伝されているAIが、実際には弁護士など一部の業種や専門職の仕事量をいかに増加させているかを示している。訴訟関係者にとって、それは新たな義務を生み出しました。それは、AI ボットによって捏造された引用を、自分たちとその敵対者の裁判所提出書類から見つけ出すことです。
私は以前、判例への引用が正確であることを確認するようにというアドバイスが法学部の学生ですら頭に叩き込まれているにもかかわらず、AIによる捏造が法的申請や法的判決にさえ浸透して蔓延していることについて書きました。しかし、波は高まり続けています。 AI幻覚データベース フランスの研究者ダミアン・シャルロタンによって維持された事件は現在1,174件あり、そのうち約750件は米国の裁判所からのものである。
Michael Hiltzik から最新情報を入手
ピューリッツァー賞受賞者による経済学などの解説。
これはほぼ確実に保守的な数字です。 AI の捏造のほとんどは、特に州裁判所では、訴訟当事者や裁判官の目にも留まらない可能性があります。
AI は、過去には見られなかった間違いをもたらしました。 「ほとんどの弁護士は、相手側が態度を崩し、場合によっては記録について嘘をつくことさえ予想できる時代に育ったが、事件の存在に関してただ嘘をついたり間違いを犯したりすることは、数年前までは基本的に前代未聞だった」とヴォロック氏は語った。 「それは、幻覚の原因が存在しないからです。引用を少し間違えたり、特徴を間違えたり、引用を間違えたりするかもしれませんが、存在しない事件について話すためには、そのようなことは起こりませんでした。今ではそれが頻繁に起こります。」
司法当局は、AI捏造が司法記録の一部となることにますます神経質になっている。 「偽の訴訟への依存は…結果の完全性を著しく損ない、我が国の司法制度に対する国民の信頼を損なう」と控訴裁判官は述べた。
したがって、「裁判所と当事者の両方にとって、すべての命令の引用が本物であることを確認することが不可欠です。これは、AIツールによって生成される幻覚を伴う事件の引用の発生率が増加しているため、特に重要です。」と彼は付け加えた。
弁護士が自分たちの非を認めて「法廷のなすがままに身を委ねる」場合、裁判官は依然としてAI捏造に鉄槌を下すことに消極的である、とヴォロック氏は言う。しかし、AIへの依存を否定したり、責任を転嫁しようとする弁護士に対しては、ますます厳しくなっている。
つい月曜日、オレゴン州メドフォードのマーク・D・クラーク連邦判事は、民事訴訟の原告代理人弁護士に対し、次のことを命じた。 9万ドル以上の訴訟費用を支払い、 訴訟提起に15件の訴訟引用と8件の誤った引用を捏造したとして、弁護士の1人に課せられた以前の1万5500ドルの制裁に加えて。
クラーク氏はまた、オレゴン州のワイナリー資産の相続兄弟間の激しい争いから生じた2900万ドルの訴訟を偏見を持って却下したため、再提訴することはできない。それは並外れた刑罰であったとクラーク氏は認めた――そしてシャーロティンのデータベースにあるどの事件においても課せられた刑罰としては最大のものだった。
「人工知能の悪用に対する制裁を伴う事件が急速に拡大している世界の中で、この事件は程度と量の両面で悪名高い外れ値である」とクラーク氏は書いた。他の欠点の中でも特に、原告の弁護士が自らの不正行為を十分に認めなかったことを同氏は指摘した。同氏は、「人工知能の悪用に対して打ち切り制裁を与える『適切な事例』があったとすれば、これがそれだ」と書いた。
そこで、カイラをめぐる親権争いに話が戻ります。この訴訟は、サンディエゴの家庭裁判所判事がジョアン・トーレス・カンポス氏とムニョス氏の国内パートナーシップを解消した2年後の2024年に始まった。解散命令では自分たちの財産を保持することは認められたが、ムニョスさんと同居していた犬については触れられていなかった。
その後、トーレス・カンポスはカイラの共同監護権と面会権を求めた。 （ペットの監護権争いは長い間文化的な要素だった。映画愛好家なら、この事件が1937年のケーリー・グラント/アイリーン・ダンの車両で起きたワイヤーヘアード・テリアのミスター・スミスをめぐる監護権争いとの類似点に気づくかもしれない。」恐ろしい真実」、間違いなくこれまでハリウッドが作った中で最も面白い映画です。）
ムニョスさんはトーレス・カンポスの要求を拒否し、彼は犬のことなど気にしておらず、嫌がらせだけが目的だったと主張した。家庭裁判所の判事は彼女の側に立ったが、トーレス・カンポス氏は控訴した。
ムニョスさんの弁護士ロクサーヌ・チュン・ボナール氏は、トレス・カンポス氏への最初の返答で、1984年と1995年のカリフォルニア州の訴訟を挙げ、依頼者の面会権付与拒否を裏付けるものだと述べた。
両方の事件の引用は架空のものでした。 1984 年の事件であるツイッグの結婚はまったく存在しませんでした。ボナー氏の引用は、刑事事件が「ペットや親権の決定とは何の関係もない」と指摘しており、カリフォルニア州控訴判事マーティン・N・ブキャナン氏は、裁判官3名全員一致の合議体に宛てて、家庭裁判所判事の主張を支持する書簡を書いた。 2番目の言及はティーガーデンの結婚に関するもので、これは1995年ではなく1986年に言い渡されたもので、これも目前の問題とは何の関係もありませんでした。
そこからは事態はさらに複雑になりました。トーレス・カンポスの弁護士は、返答準備書面とその後の裁判所命令案の中で、ツイッグ氏とティーガーデン氏が捏造された事件であるとは言及しなかったが、これはおそらく弁護士が参考資料を個人的に確認していなかったからだろう。家庭裁判所の裁判官は、偽の引用を含む命令案に署名し、その結果、公式記録に記載されることとなった。 （トーレス・カンポスの弁護士は命令案の草案を作成したが、実際には彼の訴訟を却下した。）
トーレス・カンポスの弁護士が引用した2つの判例が「でっち上げられた判例法」であると言及したのは、家庭裁判所の判決に対する控訴の過程で初めてだった。
さらにネジの回転があった。トーレス・カンポスの控訴提起に応じて、ボナール氏は「倍増した」とブキャナン氏は書いた。ボナー氏は、ツイッグ氏は「有効で公表された先例」であると主張し、さらに3件の引用とされる内容をこの訴訟に追加した。すべては「元の引用と同じくらいインチキだった」とブキャナン氏は指摘した。
ボナール氏は、表向き本物の判例を検証するための「基礎的な法的調査を怠った」としてトーレス・カンポスの弁護士を嘲笑し、彼の「判例を見つけられないことは、控訴棄却につながった無能さを浮き彫りにしている」と付け加えた。
控訴判決によると、ツイッグへの追加の引用はレディットの投稿には表示されない。ボナールは彼らがどこから来たのか決して説明しなかった。しかし、彼女は架空の引用が「AIツールの使用に由来している可能性がある」と認めた、とブキャナン氏は指摘した。同氏は彼女に5,000ドルの罰金刑を科した。その主な理由は、彼女が当初、自分の引用が虚偽であることを認めず、相手方の弁護士に責任を転嫁しようとしたためである。
控訴審の裁判官はボナールのパフォーマンスを理由にトーレス・カンポスに勝訴を与える可能性もあったが、トーレス・カンポスの弁護士が相手側弁護士の引用を自ら確認していなかったために、そうすることを拒否した。トーレス・カンポスの弁護士、サンディエゴのデビッド・C・ビーベンズ氏によると、現段階ではムニョス氏がまだ犬の親権を持っており、訴訟は実質的に終了したという。
ビーベンズさんは、離婚訴訟においてペットの所有権と世話に関する命令を出す権限を裁判所に与えた2019年制定の州法の司法的解明を得るためにこの訴訟を利用したかったため、この訴訟を起こしたと述べた。控訴審の裁判官はAI問題に脇道にそれてしまい、その点には一切触れなかった。しかしビーベンズ氏は、AI捏造は法廷で非常に問題になっているため、事件の両側の弁護士と裁判官も含めて「全員に責任を問う必要がある」という委員会の立場に同意したと述べた。
ボナール氏は私に対し、制裁には異議を唱えていないが、それ以上のコメントは控えたと語った。
私はボナー氏に、仕事で AI を活用しようとしている他の弁護士にアドバイスがないか尋ねました。 「はい」と彼女は言いました。「すべてのサードパーティ情報源を確認してください。」
#ヒルツィク #なぜ弁護士は #によって雪に見舞われ続けるのでしょうか