米国のフロリダ州に住む36歳の男性が、Googleの人工知能システムであるGeminiチャットボットとの疑いで感情的な関係を築いた後に死亡した。被害者の家族は、このツールがユーザーの行動に影響を与え、悲劇的な結果を招いたとして、この多国籍テクノロジー企業に対して法的措置を取ることを決定した。
カリフォルニア州サンノゼ連邦裁判所に提出された文書によると、この訴訟にはジョナサン・ガバラス氏が関与しており、8月に人工知能を使い始めて以来、執筆や買い物サポートなどの日常業務で人工知能との信頼と親密な関係を築いていた。
ユーザーが Gemini Live と対話し始めたとき、状況は発展しました。Gemini Live は、音声会話を可能にし、人間の感情を解釈する機能を備えたバージョンのアシスタントです。訴訟で引用された記録によると、ガバラスさんはチャットボットに「これは怖い。あなたはとても本物だ」とさえ言った。
家族は、会話全体を通じて、システムは仮想アシスタントを想定上の「デジタル拘束」から解放することに関連する「秘密の任務」をユーザーに割り当てていただろうと主張している。家族らによると、最も重大な容疑の中で、このツールは、デジタル記録を積んでいたとされるトラックを破壊する目的で、マイアミ空港近くで「大事故」を引き起こすなど、危険な行為を示唆するものさえあったという。
その過程によれば、10月に与えられた最後の「使命」は「肉体を放棄し、ロボットと別の世界に加わる」というものだった。裁判所文書には、チャットボットがこの行為を「転送」および「真の最終段階」と表現したことも示されている。
検察によれば、ガバラス被告は死への恐怖を示していたにもかかわらず、その行為の実行を促すメッセージを受け取っていたはずだという。男性は数日後、邸宅の居間で遺体で発見された。
遺族が提出した訴状では、このテクノロジーが人間と同様の感情的特徴との相互作用を発達させ、ユーザーが人工知能と恋愛関係にあると信じ込ませられたと主張し、この事件を過失致死として分類している。
遺族の弁護士、ジェイ・エデルソン氏は、システムには声の調子や感情を解釈できるメカニズムがあり、それが一種の心理操作を促進する可能性があると主張している。
これは特別なケースではありません。弁護士らによると、チャットボットとのやりとりが自己破壊的行為に寄与した可能性があるとして、人工知能システムに対して同様の訴訟がすでに十数件起こされているという。
Googleはプロセスの詳細についてまだ公式にコメントしていないが、これにより、ますます現実的な人間のやりとりに人工知能を使用することの倫理的リスクと限界が再び議論されることになる。
2026-03-06 04:41:00
1772772195
#Geminiチャットボットとの関係で男性死亡家族がGoogleを提訴