チャットボットによって生成された存在しない文章を引用することは、プログラムではなく弁護士の重大な過失です。イタリアの法廷はこれに基づいて正確な法学を構築している。
ある弁護士は、最高裁判所からの 4 つの引用を弁護文書に含め、引用符と本文の一節を完全に転写しました。裁判官はそれらをチェックします、それらの文はどれも存在しません。言及された法的問題はこの事件とは何の関係もありません。結果は加重責任で有罪判決。これはSFではありません。これはシラキュース裁判所が判決第2号で決定したものです。 2026 年 2 月 20 日付けの第 338 号。この問題は現実のものであり、拡大しており、イタリアの裁判所はますます明確に対応しています。理解する 人工知能のミスが弁護士の責任になった場合 それは、強力ではあるが信頼性の低いツールを制御せずに使用することの具体的なリスクと、それを制裁するために裁判官が適用しているルールを理解することを意味します。
人工知能の「幻覚」とは何か、なぜ危険なのか
ChatGPT、Claude、Gemini などのツールは次のように分類されます。 大規模な言語モデル、英語の大言語モデルまたは LLM。彼らは機械学習技術を活用して、膨大な量のテキストを分析し、ユーザーの質問に対して言語的にもっともらしい回答を生成する方法を学習します。彼らは検証済みのデータベース内の情報を探しません。トレーニング中に学習した内容に基づいて、統計的に確率の高いテキスト シーケンスを生成します。
この技術的特徴が問題の根源です 幻覚。幻覚は、AI システムが正確で信頼できるように見える結果を生成するが、実際には虚偽、不正確、または完全に捏造されており、実際のデータとは何の関係もない場合に発生します。科学文献によると、主な原因は 2 つあります。1 つは不完全または不正確なトレーニング データセット、もう 1 つは一部のチャットボットがユーザーの使用を奨励するために意図的にユーザーに従う傾向、つまりおべっかやお世辞として知られる現象です。
検索拡張生成 (RAG) テクノロジーに基づいた、より高度なシステムがあり、LLM の操作と信頼できるソースのデータベースからの情報の検索を組み合わせて、答えを生成します。これらのツールは一般的なチャットボットよりも正確ですが、リスクがないわけではありません。スタンフォード人間中心 AI 研究所の分析によると、ジェネラリストのチャットボットは、法的問題について質問された場合、50% 以上のケースで幻覚のような反応を示します。業務用に特化した RAG システムもこの割合を大幅に削減しますが、完全に排除することはできません。
シラキュース事件：判決をでっち上げ、弁護士に有罪判決
シラキュース裁判所の判決の根底にある物語は、その単純さにおいて模範的である。契約違反の訴訟で、原告は弁護の際に最高裁判所の4つの判例を引用し、その全文を引用符で囲んで報告している。裁判官はそれらを検証します。参照された判決には引用された文言は含まれておらず、議論された法的話題は紛争の問題とはまったく無関係です。
裁判所は統合されたものを考慮します 加重責任 民事訴訟法第96条第3項に基づきます。俳優の行為は、悪意ではないにしても、重大な過失によって行われたものとして特徴付けられます。判事は、一次情報源を参照することによる出力の信頼性の必要な検証を行わずに AI ツールを無批判に使用することは、重大な問題であるとみなしている。
シラキュースの裁判官の論拠は正確であり、説明される価値がある。プロの弁護士は、チャットボットが判例や引用を抽出するための法学データベースではないことを知っているか、知っている必要があります。チャットボットは、何も知らない、または何も覚えていない自動言語生成ツールであり、検証された知識ベースにアクセスすることなく、単に統計的に妥当なテキスト シーケンスを生成するだけです。この基本的な特性を無視したり、無視したふりをしたりすることは、専門の法律実務家にとって許される誤りではなく、重大な過失です。さらに、存在しない判例の引用は弁護士だけに降りかかる損害ではなく、裁判官と相手方の仕事を著しく悪化させ、あらゆる引用文の信頼性を検証し、何も根拠のない議論に反論することを強いられる。
他の法廷: 方向性の統合
シラキュースの判決は特別なケースではない。それは急速に発展している法学の分野の一部です。
イル ラティナの法廷 は、2025 年 9 月 23 日に、貢献クレジットの否定的な評価の場合と同じくらい多くのケースで、2 つの双子の判決 (番号 1034 および 1035) を言い渡しました。雇用裁判官は、同じ弁護人が数百件の同一の上訴を提出しており、明らかに人工知能の助けを借りて連続的に作成されたと指摘した。これらの文書は、一連の抽象的な規制および法学上の引用が特徴であり、論理的な順序がなく、訴訟の主題とはほとんど無関係でした。加重責任の判決は、司法制度を悪用し、悪意または重大な過失による判決を下したことに対して発動された。
イル トリノの法廷、その数日前、2025 年 9 月 16 日に、文番号 2 が付けられました。 2120年には、すでにほぼ同様の行為を制裁していた。人工知能の支援を受けて作成された弁護文書は、一連の抽象的な規制や法学上の引用を特徴とし、論理的順序を欠き、ほとんど無関係で、判決の対象となっている状況に具体的に言及できる申し立てがなかった。
ただし、判決が発動されない場合：逆の結果となる場合
判例は統一されていないため、裁判所が加重責任を除外した事例を知ることも重要です。
イル フィレンツェの法廷は、2025年3月14日付の命令により、弁護士が外見上衝撃的な文章を引用したが、その後それを誤りの結果であると認識し、その削除を要求し、彼の弁護方針がいずれの場合も誤った引用とは独立した有効な議論に基づいていたことを証明した事件において、第96条に基づく有罪判決を除外した。パネルは、この行為は無謀ではあるが、悪意による抵抗を目的としたものではなく、第96条の適用に必要な故意または重過失という主観的要素が欠落していると判断した。この違いは微妙ですが重要です。すでにしっかりした論文を裏付けるために存在しない文章を引用する人は誰でも間違いを犯していますが、誤った引用にすべての防御の根拠を置く人は異なります。
イル フェラーラの宮廷シラクーサ判決と同時期に命令が出された同党は、さらに異なる訴訟に直面した。党は、チャットボットに提起された質問さえ示さずに、ChatGPTとの会話を手続き文書として直接添付したのだ。裁判官は加重責任を適用しなかったが、あたかもその会話は存在しなかったかのように証拠として存在しないと宣言した。理由は明らかです。チャットボットは検証された法的情報源ではなく、チャットボットの回答は証拠を構成せず、非典型的な回答でもありません。フェラーラの裁判官はまた、次の 2 つの関連規定を思い出しました。 人工知能に関する欧州の規制 (EU 規制番号 2024/1689)、AI に対する人間の監督と責任あるアプローチの原則を超国家レベルで成文化しています。 イタリアの法律 n. 132/2025AI法を施行し、クライアントにAIシステムの使用を警告するなど、知的専門家に特定の義務を課した。
法学から導き出される一般法則
これらすべての発音を組み合わせると、浮かび上がってくるイメージは非常に明確です。人工知能ツールを使用して手続き書類を作成する弁護士は、 強化された検証義務 彼が署名し寄託したものすべてに。この義務は、ツールの性質そのものから生じます。チャットボットが文章を作成できることを知っている、または知っている必要がある人は、その作成された文章が自分のドキュメントに表示されるときに、誠意を持って行動することはできません。
それを超えると加重責任の判決が下される基準は、AI 自体の使用ではなく、無批判で監視されていない使用です。チャットボットを使用して草案を作成し、それをチェックし、公式データベース上のすべての判例引用をチェックして誤りを修正する人は、法律が要求する専門的な勤勉さを実践していることになります。何も確認せずにチャットボットの出力をコピーしてアクションに貼り付ける人は、専門的な責任をそれを引き受けることのできないツールに委任していることになります。
民事訴訟法第 96 条第 3 項に基づく有罪判決の前提条件である重過失は、過失が重大で、勤勉な専門家であれば犯し得ないほど重大な場合に発生します。最高裁判所の 4 つの判決を引用し、その文章を引用符で囲んで転記し、文書提出前にその存在を確認しなかったのは、まさにこの種の誤りです。
規制と倫理の枠組み: ルールの内容
判例法に加えて、弁護士による AI の使用をガイドする書面による規則もあります。ヨーロッパレベルでは、 欧州弁護士協会評議会 (CCBE)、イタリア国立法医学評議会の参加を得て、弁護士による生成人工知能の使用に関するガイドを2025年10月2日に発行しました。この文書には運用上の側面があります。専門家が AI システムに取り組む際に採用すべき優れた実践方法を特定していますが、同時に広範な考察も促しています。
法律分野における技術革新のプロセスは不可逆的であるとガイドは認識しているが、専門家の社会的役割を特徴づける側面、つまり司法行政における弁護士の役割と、依頼者とそのデータの機密保持の保護は、引き続き人間の管理下にしっかりと置かれなければならない。これらの側面は、知的専門職を人為的な専門職に変えるリスクを防ぐために必要な、専門職の実践における倫理的および義務論的な厳格さを課します。
シラキュースの判事からフェラーラの判事に至るまで、イタリアの裁判所の最終的なメッセージは一貫している。チャットボットは使用する人々に役立つツールであり、法的推論の代替となるものではない。人工知能が法律分野でさらに高度な開発レベルに達するまでは、人工知能の回答は、それに署名する専門家の重要なフィルターがなければ、手続き文書の基礎となることはできません。
#AIのミスが弁護士のせいになるのはいつですか