1746658972
2025-05-07 20:14:00
イライラした裁判官からの繰り返しのプッシュバックにもかかわらず、人々は法的手続きで生成的なAIツールの使用を停止することはできません。 AIは最初は偽の「幻覚」ケースを通じて法廷に登場しましたが、トレンドはますます洗練されたAIビデオとオーディオツールによって駆動されました。場合によっては、AIは犠牲者を死から連れ戻すように思われるためにさえ慣れています。
今週、犯罪被害者の家族は、37歳のクリス・ペルキーのAIバージョンを描いたアリゾナ州の法廷で簡単なビデオを発表しました。ペルキーは、2021年にロードレイジ事件で射殺されました。 4年後、AIに生成された「クローン」は、法廷で彼の殺人事件に対処するように見えました。地元のアウトレットABC15によって最初に報告されたこのビデオは、被害者の影響ステートメントで使用される生成AIディープファーキの最初の既知の例のようです。
「私を撃った男のガブリエル・ホルカシタスにとって、そのような状況でお互いに出会ったのは残念です」とペルキーのAIレプリカはビデオで述べています。 「別の人生で、私たちはおそらく友達だったかもしれません。」
このビデオには、緑のパーカーと灰色の野球帽を服用している、あごひげを生やした陸軍の退役軍人であるペルキーのAIバージョンを示しています。 Pelkeyの家族は、PelkeyのさまざまなクリップでAIモデルをトレーニングすることにより、ビデオを作成したと伝えられています。次に、「老齢」フィルターを適用して、Pelkeyが今日どのように見えるかをシミュレートしました。最終的に、裁判官は、Horcasitasに過失致死罪のために10。5年の刑を宣告しました。これは、少なくともAIが生成された衝撃声明の影響を受けたと述べた決定です。
「これは、私が年をとる機会があれば私がどのように見えるかについてあなたに与えることができる最高のものです」とペルキーのディープファークは言いました。 「覚えておいてください、年をとることは誰もが持っているわけではない贈り物であるため、それを受け入れ、それらのしわについて心配するのをやめてください。」
ニューヨークの男性がAIディープファークを使用して、彼の訴訟を主張するのを助けました
AIに生成されたインパクト声明は、ニューヨーク州裁判所の被告人である74歳のジェロームデワルドがディープファーケーキビデオを使用して、彼自身の法的防衛の提供を支援してからわずか1か月後に行われました。 Dewaldが元雇用主との契約紛争について法廷に出頭したとき、彼はカメラに直接話すセーターと青いドレスのシャツを着た男性を示すビデオを提示しました。裁判官は、ビデオに混乱して、スクリーン上の人が彼の弁護士であるかどうかをデュワルドに尋ねました。実際には、それはAIに生成されたディープファークでした。
「私はそれを生成しました」とデワルドは言った ニューヨークタイムズ。 「それは本物の人ではありません。」
裁判官は喜んでおらず、DewaldがAIソフトウェアを使用して防御を支援したことを明らかにしなかったことでre責しました。と話す NYT 公聴会の後、デワルドは裁判所を誤解させるつもりはなかったが、AIツールを彼の防衛をより明確に表現する方法として使用したと主張した。彼は当初、ディープファークを自分自身に似ていることを計画していたが、技術的な困難に遭遇した後、法廷で示されているバージョンに切り替えたと言いました。
「私の意図は決して欺くことではなく、可能な限り最も効率的な方法で私の議論を提示することでした」とデワルドは裁判官への手紙で述べた。
関連している： [This AI chatbot will be playing attorney in a real US court]
AIモデルには、「幻覚」の偽の訴訟があります
2つのケースは、法廷に浸透する生成AIの最新の例を表しています。これは、OpenaiのChatGptのような人気のチャットボットへの公共の関心の急増に続いて数年前に牽引力を獲得し始めた傾向です。全国の弁護士は、これらの大規模な言語モデルを使用して、法的申請書を作成し、情報を収集するのを支援していると伝えられています。それは、モデルが完全に製造されたケース名と事実を「幻覚」しているいくつかの恥ずかしい事例につながり、最終的に法的手続きに進みます。
2023年、ニューヨークに拠点を置く2人の弁護士が、ChatGptによって生成された6つの偽のケース引用を含む簡単な概要を提出した後、裁判官によって認可されました。ドナルド・トランプ大統領の元個人弁護士であるマイケル・コーエンは、連邦裁判官に提出された申し立てで終わった偽のAIに生成された訴訟を彼の弁護士に送ったと伝えられています。コロラド州の別の弁護士は、AIが生成された訴訟を提出したと伝えられていると伝えられています。 Openaiは、ChatGptの反応が彼が何の関係もない本当の横領事件に関与していると非難したと主張したジョージアのラジオホストから訴えられました。
法廷でより多くのAIの準備をしてください
裁判所は、欺cept的に見える方法でAIを使用したことで弁護士と被告を罰しましたが、これらのツールを使用することが常に容認できるかどうかに関する規則は曖昧なままです。先週、連邦司法委員会は、AIアシストされた証拠が人間の専門家証人によって提示された証拠と同じ基準を満たすことを目的とした草案規則についてパブリックコメントを求めるために8-1を投票しました。最高裁判所の最高裁判所長官ジョン・ロバーツは、2023年の年次報告書でこの問題に取り組んでおり、法廷でより生成的なAIを許可する潜在的な利点と欠点の両方に注目しました。一方では、AIが限られた財源を持つ人々が自分自身を守ることを容易にすることができると彼は観察した。同時に、彼はテクノロジーが「プライバシーの利益に侵入し、法律を非人間化する」危険を冒すと警告した。
1つ確かなことがあるように思われます。私たちは、法廷でのAIの最後のものを見ていません。
その他の取引、レビュー、および購入ガイド
#この男は4年前に殺されました彼のAIクローンは裁判所で話しました