Hiltzik：AIを使用する弁護士は、制裁や規律に直面する可能性があります

おそらく、彼らがそれがどれほど素晴らしいかを示しようとしているときに、クリエイターの顔に爆発する製品について聞いたことがあるでしょう。

大規模な法律事務所が、クライアントである人類が開発したAIボット製品を使用して、クライアントを擁護する専門家の証言を書くのを助けるのを助けるために、ヘッドラインからの糸から裂けた糸です。

うまくいきませんでした。 Anthropicのチャットボット、Claudeは、1つの論文のタイトルと著者を取得しました 専門家の声明 間違っており、他の場所に文言エラーを注入しました。エラーは、4月に法廷で提出されたときに声明に組み込まれました。

これらのエラーは、人類の訴えた原告を促すのに十分でした – AI会社がそうであると主張する音楽出版社 著作権を侵害します クロードに歌詞を与えてボットを「訓練」することによって – 事件を監督する連邦治安判事に尋ねることによって 専門家の証言を捨てます 全体が。

また、人類を表し、誤った宣言を提出した大規模な法律事務所のLatham＆Watkinsにとっても黒い目になるかもしれません。

レイサムは、エラーは取るに足らないものであり、「製造ではなく、正直な引用の間違い」に相当すると主張します。声明が提出される前のエラーに気付かなかった会社は「恥ずかしいと意図しない間違い、「しかし、専門家の意見を無効にするために悪用されるべきではない、と同社は訴訟の公判前段階を管理しているサンノゼの判事裁判官スーザン・ヴァン・ケーレンに語った。 「信頼性を致命的に損なう」 専門家の宣言の。

電話で行われた5月13日の聴聞会で、ヴァン・ケーレン自身が疑問を表明しました。

「見逃された引用とAIによって生成された幻覚の間には違いの世界があり、この電話の誰もがそれを知っている」と彼女は言った。 （ヴァン・ケーレンは、記録における専門家の宣言を維持するかどうか、または制裁を伴う法律事務所を攻撃するかどうかについてまだ裁定していません。）

それは、裁判所の申請が深刻な誤りを抱えているため、裁判官に直面している問題であり、AIの専門家が「幻覚」という用語を訴訟で提出し続けています。

フランスの弁護士とデータの専門家Damien Charlotinによって編集された名簿 現在、99のケースがあります 2ダース州の連邦裁判所から、およびヨーロッパ、イスラエル、オーストラリア、カナダ、南アフリカの裁判所から。

それはほぼ間違いなく不足だ、とシャーロティンは言う。 AIに生成されたエラーが検出されなかった場合の数は計り知れません、と彼は言います：「私は人々が捕まった場合しかカバーできません。」

ほぼ半分のケースでは、有罪者は親の訴訟者、つまり弁護士なしで訴訟を追求している人々です。これらの訴訟者は、一般に、経験不足を認識している裁判官によって寛大な扱われています。彼らのケースは却下されるかもしれませんが、彼らはめったに罰金を科されません。

しかし、ほとんどの場合、責任者は弁護士でした。驚くべきことに、弁護士が関与する約30のケースでは、AIボットが「幻覚」の傾向が明らかになった後、今年と同じようにAIに生成されたエラーが発見されたか、今年も提出された文書に記載されていました。それは、問題が悪化し、良くないことを示唆しています。

「AIに生成された素材がエラーと製造に満ちているという考えにまだ綿がいないとは信じられません。したがって、ファイリングのすべての引用を確認する必要があります」

審査員は、AIボットによって生成された存在しない先例への法的決定への誤った言及、誤った引用、誤った言及で、ここにそれを持っていることを明らかにしています。他の事件や裁判所の決定への引用を含む事実上の主張の真実を証明せずに簡単な文書またはその他の文書を提出することは、金融制裁または懲戒処分に対して弁護士を脆弱にする民事訴訟の連邦規則の規則11の違反です。

一部の裁判所は、提出の準備の任意の時点でAIの使用が既に命令を発行しました。 開示する必要があります、ドキュメント内のすべての参照が検証されたという認定とともに。少なくとも1つの連邦司法地区があります AIのほぼすべての使用を禁止されています。

裁判所の提出における誤った参照の拡散は、私たちの日常生活へのAIボットの広がりに関する最も深刻な問題も指摘しています。彼らは信頼できません。ずっと前に、最も洗練されたAIシステムでさえ、質問やタスクによって燃え上がっているとき、彼らは物事を作り上げて自分の知識で空白を埋めることが明らかになりました。

他のフィールドはAIボットを使用して重要なタスクを実行するため、結果は悲惨な場合があります。多くの医療患者 「幻覚に惑わされることができます」 スタンフォード大学の研究者チームが昨年書いた。彼らは、最も先進的なボットでさえ、30％の時間の堅実なソースで医学的主張をバックアップできなかったことを発見しました。

ほとんどすべての職業の労働者が疲れや不注意の犠牲になる可能性があると言うのは公平です。しかし、弁護士はしばしば、数千または数百万ドルの紛争にかかっている紛争を扱っており、彼らは事実を確認する正式な提出について特に厳格であると予想されています。

一部の法律専門家は、あると言います AIの正当な役割 法律では、慣習的に裁判官に任された決定を下すことさえ。しかし、弁護士は、ボットの出力を監視しないという自分の職業に対する落とし穴をほとんど知らないことはできません。

シャーロティンのリストに関する最初の制裁訴訟は2023年6月に発生しました – マタ対ヴィアンカ、その結果、ニューヨークの人身傷害事件 5,000ドルのペナルティ 主にChatGptチャットボットの製品である法的ブリーフを準備して提出した2人の弁護士のために。概要は、少なくとも9つの裁判所の決定を引用しましたが、これはすぐに存在しないと明らかにされました。この事件は広く公表されていました 海岸から海岸へ。

このようなフィアスコは、彼らの仕事をするために人工知能チャットボットへの依存の弁護士を治すと思うでしょう。 1つは間違っているでしょう。 Charlotinは、AIボットの出力の表面的に本物のトーンは、過労または不注意な弁護士がダブルチェックせずに偽の引用を受け入れることを奨励する可能性があると考えています。

「AIは見栄えが良い」と彼は私に言った。法的引用は標準化された形式に従っているため、「偽の引用で簡単に模倣することができます」と彼は言います。

また、一般的に数千ドル以下になった最も早いケースの制裁が、バーの注意を引くには不十分であったことも事実かもしれません。しかし、Volokhは、偽の引用を提出することの経済的結果は、非金銭的な結果の隣で青白くなるはずだと考えています。

「各弁護士への主な制裁は、裁判官の前、クライアントの前、監督者またはパートナーの前、おそらく反対の弁護士の前で、そして事件がニュースに当たった場合、将来のクライアント、他の弁護士などの前でニュースにぶつかった場合、」と彼は言いました。 「ビジネスにとっては悪いことで、自我は悪い。」

Charlotinのデータセットは、関係する弁護士を悔い改める場合、おもしろい読書になります。それは、彼らが住んでいる技術の世界に完全に気づかないように見える弁護士によって人々です。

Aviancaの事件で幻覚のチャットグプの提出を準備した弁護士、Steven A. Schwartzは、後に「このウェブサイトはそれ自体でケースを製造できない可能性があるという誤った認識の下で活動している」と証言した。彼がケースが偽物だったために法的データベースで見つからなかったと疑っ始めたとき、彼はChatGptから安心感を求めました！

「バルゲーゼは本当のケースですか？」彼はボットにテキストメッセージを送りました。はい、それは「本当のケース」です、とボットは答えました。シュワルツは私のコメントのリクエストに応答しませんでした。

他のケースは、AIに信頼を置くという危険を強調しています。

たとえば、昨年、ミネソタ州司法長官のキース・エリソンは、スタンフォード大学のコミュニケーション教授であるジェフ・ハンコックを雇い、政治におけるAIフェイク材料の危険性に関する専門家の意見を提供しました。エリソンは、政治キャンペーンにおけるそのような資料の分配を犯罪にした州法を擁護していました。法律は、言論の自由の侵害として訴訟で異議を申し立てられました。

ハンコックは、AIに生成されたディープフェイクの社会的危害の尊敬されている専門家 – 写真、ビデオ、録音は本物のものであると思われるが、説得力のあるものであると思われる – エリソンが法廷に正式に提出した宣言を提出しました。

しかし ハンコックの宣言 ChatGptによって生成された3つの幻覚の参照が含まれています。偽物の著者に彼自身が書いた記事を著者に帰したものの1つは、原告が指摘するまで彼は間違いを見つけませんでした。

この事件の連邦判事であるローラ・M・プロヴィンジーノは、彼女が「」と呼んだものに打たれた。皮肉」 エピソード：「AIと誤った情報の危険性に関する資格のある専門家であるハンコック教授は、AIの危険を中心に展開する場合に、AIにあまりにも強く依存するというサイレンコールの犠牲になりました。」

それは彼女に怒りを引き起こした。ハンコックの偽の引用は、「この裁判所での彼の信頼性を打ち砕く」と彼女は書いた。彼は偽証の罰則の下で彼の宣言の真実性を証明したことに注目して、彼女は彼の専門家宣言を捨て、エリソンが修正されたバージョンの提出を許可することを拒否しました。

で 裁判所へのMea culpa声明、ハンコックは、彼が自分自身にメモをカットして繰り返したとき、エラーが彼の宣言に忍び込んだかもしれないと説明した。しかし、彼は、彼が宣言で行ったポイントはそれにもかかわらず有効であると主張しました。彼は私のさらなるコメントの要求に応じなかった。

2月6日、州の農場保険に対するカリフォルニア連邦訴訟の特別マスターとしての元連邦治安判事であるマイケル・R・ウィルナーは、「多くの虚偽、不正確、および誤った法的引用と引用符でのブリーフを提出したために、31,000ドルの制裁で原告を代表する2つの法律事務所を襲った」

その場合、弁護士は、それを書くために割り当てられた仲間のためにブリーフの概要を準備していました。彼はAIボットを使用してアウトラインを書くのを手伝っていましたが、アソシエイトにボットの役割を警告しませんでした。その結果、彼らはアウトラインの引用を本物として扱い、それらを再確認することを気にしませんでした。

それが起こったように、ウィルナーは、「10ページの概要の27の法的引用のうち約9件が何らかの形で間違っていた」と述べた。彼は個々の弁護士を制裁しないことを選んだ：「これは集合的な大失敗だった」と彼は書いた。

ウィルナーは、彼がブリーフを読んだとき、引用は原告の事件が健全であるとほとんど説得したと付け加えた。 「それは怖い」と彼は書いた。 AIを誤用したという彼の金銭的制裁は、米国の裁判所で最大であるように思われます…これまでのところ。