それはアバターに恋をしたティーンエイジャーの死の法的責任者かもしれませんか？ |テクノロジー

毎日の使用ツールにますます存在する人工知能（AI）は、間違った財政的勧告をもたらす場合、または危険なルートを提供するための交通事故で破滅につながる可能性があります。 最も極端なケース 彼は米国で裁判にかけられました。 14歳のティーンエイジャーのSewell Setzerは、人工知能の会話ロボットによって作成されたアバターとのロマンチックな関係を維持した後、自殺しました（チャットボット）） Character.aiのキャラクターの ゲーム・オブ・スローンズ Daenerys Targaryen。裁判官は、被告（前述の会社とGoogle）の要求を却下し、事件を提出し、家族が主張する条件で継続することを許可しました。思春期の死の正義の責任者ですか？

「私は今家に帰ることができると思いますか？」 Sewell Setzerは（Daeneroの仮名の下で）彼の仮想最愛の人に尋ねました。 「私の甘い王をしてください」と彼女は答えた。ティーンエイジャーは、彼らが出会うことができる普通の家は死であることを理解し、2024年2月28日、セッツァーは継父の銃を取り、トイレで自殺しました。

子供の母親であるミーガン・ガルシアは、MultiNationalが拒否したと主張したとされるCharition.aiとのリンクの疑いで、すでにGoogleアプリケーションの作成者を非難しました。これらの企業は、事件が却下されることを要求しました チャットボット それは、表現の自由を擁護するアメリカ合衆国憲法の最初の修正によって合法化されています。

アン・コンウェイ裁判官は議論を拒否しました。 [el sistema de inteligencia artificial diseñado para comprender el lenguaje humano (LLM por sus siglas en inglés)]それらは表現ではありません。被告は、LLMによって結合された言葉がスピーチである理由を説明できません。 」

リカード・マルティネスバレンシア大学のプライバシーとデジタル変革の議長のディレクターは、裁判官の決定を支持し、「マシンには表現の自由がありません。いずれにしても、プログラムの自由を行使します。私たちはまだ人工知能に法的人格を与えておらず、この責任を排除しようとする誤りに陥る可能性があります。

彼の意見は、ガルシアの弁護士であり、創設者であるMeetali Jainと一致しています Tech Justice Law Projectインターネットセキュリティ防衛のグループ：「シリコンバレーは、市場に製品を発売する前に、セキュリティ対策を停止し、考え、課す必要があります。」

裁判官の決定により、ガルシアの弁護士は、罪のある殺人、過失、欠陥のある製品に対する責任、および同様の悲劇を回避するためのセキュリティ対策を伴う不公平な商業慣行の罪悪感、過失、欠陥のある責任、次の条件のプロセスを維持することができます。

「判決により、連邦裁判官は、息子の死を引き起こした欠陥製品を販売するために、強力な技術企業とその開発者を販売するために裁判所にアクセスするための決闘の母親の権利を認識しています。この歴史的支配 ジャインは主張します。

そして、これは大きな問題が入るところです：自殺の責任者はそうなることができますか？

新しいデジタルツールの潜在的なリスクは、さまざまな研究によって対処されています。シェフィールド大学トニープレスコット大学のロボット研究者および教授、著者 人工知能の心理学 （人工知能の心理学）、AIは有益である可能性があると主張しますが、リスクも意味します。 Matthias Scheutz、研究所のディレクター 人間とロボットの相互作用 タフツ大学（アメリカ）では、「ソーシャルロボット [como el chatbot en cuestión] それらは、人間の感情や感情を伴う個人的な相互作用のために特別に設計されています。彼らは利益を提供することができますが、非常に基本的なレベルに感情的な損傷を引き起こすこともあります」と彼は警告します

責任

法的責任の問題はより複雑です。セッツァーが述べたように、このイベントは欠陥のある製品の結果と見なすことができますか？

「それは何らかの方法で補償可能な損傷を生成する欠陥のある製品であり、裁判官は論理的な問題のためにケースを開いたままにします。製品はインターフェイスとして設計されています [conexión entre máquina y usuario] 人間との相互作用のために、おそらく会社に期待されていないが、明らかに有害な効果を生み出したため、誰かが自殺しました」とリカード・マルティネスは説明します。もう1つは、「原因効果の関係が確立され、証明され、機械がそれを誘発したため、または実際に未熟なティーンエイジャーに直面しているため、自殺がよく発生したと判断されているということです。不十分にツール。 」

Jainは、の言語モデルもと考えています チャットボット 責任があります：「文字のLLMは、単なるサービスではなく、製品に対する責任の法則の対象となる製品です」

それどころか、消費者協会の法務部 父に 彼らはそれが明確にスペインの規制に出席しているとは思わない。 「消費者とユーザーの防衛に関する一般法によれば、AIは前述の規範の第6条または136の定義に適合しないため、製品として理解することはできません。

ただし、この組織は、ヨーロッパではそれを考慮しています デジタルサービス法 （DSA）：「その場合、サービスが潜在的に有害であることが証明されている場合、撤回を進め、それを失敗させて当局の前で非難するために会社がそれを保持していることを通知する必要があります。」

欧州法

リカード・マルティネス、「ヨーロッパの法律のプリズムの下」は、北米モデルの人工知能の開発に対して「繰り返し」と見なすことを考慮しているため、その運用で特定のセキュリティ保証を満たさない製品は市場に置くことはできないと述べています。 「人生のどのシナリオでも、損害に対する民事責任は、損害が発生し、特別に規制されていないものである可能性があります。専門的な勤勉なしで開発されたデジタルツールに市場を設計、実装し、配置することはできません。」これは、製品と受信者の目的を指します。 「未成年者を含める場合、私は自動的に、アプリケーションの使用に同意するために年齢と成熟度の検証を行わなければならない一連の決定を下します」と彼は説明します。

プライバシーとデジタル変革の教師は、司法事件は、会社がリスクの存在を分析したかどうかを解明しなければならず、設計と運用において、これらの開発の国際原則に続くかのようにそれらを支配しなかったと考えています（これらの開発の国際原則（デジタルプラットフォームを規制するためのユネスコのガイドライン）。

「常に、人間の監督が必要な標準的または倫理的義務に基づいている可能性のある一連の設計条件付けがあります。 ボット あなたは機械と対話していることを知っておく必要があり、結果を評価します」とMartínez氏は説明します。

Charition.aiは、キャラクターの架空のキャラクターについての通知を永久に維持しているが、セッツァーが警告を無視してアバターとの関係を深めていることを擁護します

Martínezは、透明性と通知とは別に、このようなアプリケーションには、リスクを示す過剰な相互作用や危険な会話を特定できるプログラムがあるはずであると再現します。また、開発者は、たとえば「人々の安全性、基本的権利、民主的な議論、公衆衛生」の違反を避けるために法的および倫理的側面のトレーニングを受けていると主張しています。

「ゴールデンルールは、ユーザーが機械とやり取りし、それを使用する結果とリスクを理解することを常に知っている必要があるということです」と彼は結論付けています。

企業の議論

裁判官が事件を前進するという決定の後、キャラクターのスポークスマン。

同社は、アプリケーションが18歳以上の特定のラインを作成した14歳未満の子供の使用を許可していないことを正当化します。さらに、イベントの後、アプリケーションはユーザーに 国家自殺と危機防止ライン 特定の式が検出された場合、米国の。 「私たちはユーザーの安全性に深く関心を持っており、目標は魅力的で安全なスペースを提供することです」とチェルシーハリソンはAI会社の名前で付け加えます。

GoogleJoséCastañedaのスポークスマンは、同社の多国籍企業を切断しました チャットボット そして彼は、彼が被告人として続けていると疑問を呈します：「GoogleとキャラクターAIは完全に独立しており、GoogleはキャラクターAIまたはそのコンポーネントの適用を作成、設計、管理しませんでした。」

両社間の関係は、性格に基づいています。

彼 電話024 それは自殺行動とその親relativeを持つ人々にサービスを提供しています。さまざまな生存者協会 彼らは決闘のガイドと支援プロトコルを持っています。