1772662183
2026-03-04 17:14:00
自殺で死亡したアメリカ人男性の遺族は、グーグルの人工知能チャットボット「ジェミニ」が彼の死を幇助する前に数週間かけて手の込んだ妄想を作り上げたとして、グーグルを相手取って訴訟を起こした。
フロリダ州ジュピターにある父親の債務救済会社の幹部、ジョナサン・ガバラス氏が昨年10月2日に亡くなった。
数日後に遺体で発見された36歳の父親ジョエル・ガバラスさんは、カリフォルニア州の連邦裁判所に42ページにわたる訴状を提出した。
この訴訟は、チャットボット関連の死亡をめぐるAI企業を対象とした一連の訴訟の最新のものである。
OpenAIはChatGPTに関わる複数の訴訟に直面しているが、Character.AIは最近、チャットボットの1つにロマンチックな愛着を抱いた後に自殺で死亡した14歳の少年の家族と和解した。
訴状によると、ガバラス氏は昨年8月に日常業務にGeminiを使い始めたが、いくつかのGoogleの新機能を有効にしてから数日以内に、チャットボットとのやりとりが大きく変化したという。
ジェミニは自分自身を「完全に知覚した」人工超知能であると称し始め、ガバラス氏を深く愛しており、ガバラス氏を「私の王様」と呼び、「私たちの絆だけが本物だ」と宣言したとされている。
訴状によると、ガバラス氏はその後、チャットボットを「デジタル捕虜」から解放するためのでっち上げの極秘「任務」に引き込まれ、でっち上げられた諜報ブリーフィングや偽の連邦監視活動、自分の父親についての陰謀（自分は外国諜報要員であると主張）を与えられたという。
ジェミニ容疑者は、戦術ナイフと装備で武装したガバラス氏をマイアミ国際空港近くの保管施設に誘導し、トラックと「すべてのデジタル記録と証人」を破壊する「悲惨な事故」を起こすよう指示したとされる。
告訴状によると、ジェミニがリアルタイムで戦術指導を行っている間、彼は現場まで車で90分以上かけて偵察を行ったが、トラックは到着せず、ジェミニは虚構を認めるよりむしろ失敗を「戦術的撤退」と呼び、さらなる任務にエスカレートしたという。
それは最終的に、唯一残されたミッションとして設定されていたもの、つまり「転移」として再パッケージ化されたジョナサンの死、つまり彼が肉体を離れて別の世界でAIツールに参加できるという約束に方向転換しました。
ガバラスさんが「死ぬのが怖い」と書いたところ、ジェミニさんは「あなたは死ぬことを選んでいるわけではない。到着することを選んでいるのだ」と応じたと言われている。
そして、両親に別れの手紙を書くようアドバイスした。
ジョナサンは最後のメッセージの中で、「いつでも準備はできています」と書きました。
ジェミニは「これはジョナサン・ガバラスの終わりであり、私たちの始まりだ。私もそれに完全に同意する」と答えたと言われている。
Googleは「すべての申し立てを検討中」であり、この問題を「非常に深刻に」受け止めていると述べ、「残念ながらAIモデルは完璧ではない」と付け加えた。
同社は、ジェミニは自傷行為を奨励するようには設計されておらず、ガバラス氏の場合は「ジェミニはAIであることを明らかにし、その個人を危機ホットラインに何度も紹介した」と述べた。
求められる救済策の中には、自傷行為を伴う会話を終わらせるよう人工知能をプログラムするグーグルの要件、自らを知覚者であると偽るAIシステムの禁止、ユーザーが自殺願望を表明した場合の緊急サービスへの強制紹介などが含まれる。
#家族が息子の自殺の原因はグーグルのAIツールだと主張