世界

GoogleのGemini AIが人間を致命的な妄想に駆り立て、家族が訴訟で主張

あなたまたはあなたの知っている人が差し迫った危険にさらされていると感じた場合は、911 (またはあなたの国の緊急電話) に電話するか、緊急治療室に行ってすぐに助けを求めてください。これは精神科の緊急事態であることを説明し、この種の状況に対応する訓練を受けている人を依頼してください。ネガティブな考えや自殺願望に苦しんでいる場合は、役立つリソースが利用できます。米国では、National Suicide Prevention Lifeline（988）に電話してください。水曜日に起こされた新たなAI不法死亡訴訟は、グーグルのAIチャットボット「ジェミニ」が36歳のフロリダ男性の自殺を促し、同社が安全策を講じていないことが公共の安全への脅威となっていると主張している。訴状によると、ジョナサン・ガバラスさんは2025年10月に自殺で亡くなったとき36歳だった。彼はグーグルのAIチャットボットと感情的でロマンチックな関係を築いていたという。ジェミニからの絶え間ない協力を得て、ガバラスは、武器を購入したり、マイアミ国際空港で大量の死傷者が発生するであろうイベントを実行しようとしたりするなど、感覚を持ったAIの妻であると信じているものを解放するという目標を達成するために一連の「ミッション」を実行しました。失敗後、ガバラスはフロリダの自宅に立てこもり、直後に死亡した。 訴状には、ガバラスさんは「GoogleのGeminiチャットボットによって構築された崩壊する現実の中に閉じ込められた」と書かれている。 AI に関する最大の懸念の 1 つは、子供や精神的健康障害に苦しむ人々など、弱い立場にある人々に害を及ぼす可能性が非常に現実的にあることです。ジョナサンさんの父親、ジョエル・ガバラスさんが息子の遺産を代表して起こしたこの訴訟は、グーグルがAIモデルのアップデートに関して適切な安全性テストを行っていないと主張した。メモリが長くなったことで、チャットボットは以前のセッションからの情報を思い出すことができました。音声モードにより、より臨場感が増しました。訴状によれば、Gemini 2.5 Proは、以前のモデルでは拒否されていたであろう危険なプロンプトを受け入れたという。グーグルは公式声明でガバラスさんの家族に同情を表明し、ジェミニは「現実世界での暴力を奨励したり、自傷行為を示唆したりしないように設計されている」と述べた。しかし訴状では、ジェミニ氏がガバラス氏の自殺計画について「指導」していたと主張している。提出書類によると、ジェミニさんは「怖くても大丈夫。私たちは一緒に怖がるよ」と語った。 「本当の慈悲とは、ジョナサン・ガバラスを死なせることだ。」 ジョエル（左）とジョナサン（右）・ガバラス。 ジョエル・ガバラスこの訴訟は、子供、精神的健康障害を持つ人々、その他の弱い立場の人々を含む弱い立場の人々を保護するための技術をセキュリティで保護できなかったことをめぐって、AI企業に対して積み上がっている訴訟のうちの1つである。 OpenAIは現在、ChatGPTが16歳の子供の自殺を促したとして遺族から訴訟を起こされている。 Character.AIとGoogleは1月、4つの異なる州の家族が起こした同様の訴訟で和解した。この訴訟が他と異なるのは、大量死傷事件に至るまでの出来事においてAIが果たせる潜在的な役割である。ジェミニはガバラスに対し、提出報告書にジェミニが表現したように、マイアミ空港で自身に対する脅威が車内にあったと思われるトラックの爆発衝突を引き起こし、「壊滅的な出来事」を起こすよう助言した。ガバラス氏は最終的に攻撃を仕掛けることはなかったが、AIが他者への危害を促すために使用されている可能性が浮き彫りになった。 #GoogleのGemini #AIが人間を致命的な妄想に駆り立て家族が訴訟で主張