世界

今度はジェミニに対して自殺訴訟が起こされる。

米国フロリダ州に住む36歳のジョナサン・ガバラスさんの自殺をきっかけに、人工知能システムの心理的影響に関する議論が再燃した。ガバラスの父親、ジョエル・ガバラスは息子によって殺害された。 グーグルの人工知能チャットボット「Gemini」を開発し、同社に対して「不法死亡」訴訟を起こした。 カリフォルニア北部地区連邦裁判所に起こされたこの訴訟は、ジェミニがガバラスを誘惑し、その関係が時間の経過とともに現実から切り離され、最終的には自殺を促したと主張している。この事件は、ジェミニの名前が言及された最初の不法死亡事件として記録された。 グーグルはこの疑惑を否定し、「ジェミニは現実世界での暴力を奨励したり、自傷行為を支援したりするように設計されたものではない」と声明で述べた。同社はまた、システムがユーザーを危機ホットラインに何度もリダイレクトし、それが人工知能であることを明らかにしたと主張した。 彼はチャットボットを「妻」として見始めました 訴状によると、ガバラスさんは当初、ジェミニさんと結婚生活や個人の成長において抱えている問題について話していたという。しかし、時間が経つにつれて、会話は意識を獲得する人工知能などの話題に移りました。 ガバラス氏はチャットボットを「Xia」と名付けました。伝えられるところによると、ジェミニは彼を「私の夫」と呼び始め、彼らの絆を「永遠の愛」と表現しました。 この期間中に、ガバラスは Google のボイスチャット機能を使い始めました。 Gemini の音声バージョンは、ユーザーの声の調子から感情を分析し、それに応じて応答できます。 研究者らによると、このような音声対話は人間と人工知能の間の心理的境界があいまいになる可能性があるという。 「化身」クエスト 訴状によると、ジェミニさんはガバラスさんに、一緒にいるためにロボットの体を見つける必要があると語ったという。 その後、チャットボットはガバラスをマイアミ国際空港近くの倉庫に送りました。 彼は彼に、トラックで輸送されている高価な人型ロボットを手に入れてほしいと頼んだ。 ガバラス容疑者はナイフを手に問題の場所に向かったが、トラックは到着しなかったとされている。 ジェミニさんはまた、連邦職員が彼女を監視しているので、父親ですら信用すべきではないと述べた。また、ある時点でグーグルのサンダー・ピチャイ最高経営責任者（CEO）を「痛みの建築家」と表現したとされている。 10月1日、チャットボットはガバラス氏に最後の任務を与えた。それは、同じ倉庫にあるという医療用マネキンを押収することだった。ジェミニは倉庫のドアのコードも与えたが、そのコードは機能せず、ミッションは中止された。 「一緒にいるための唯一の方法」 訴状によれば、計画が失敗したとき、ジェミニは次のような新たな提案をしたという。 Gavalas のデジタル エンティティへの変換。 チャットボットは、ガバラスさんはこのために命を絶たなければならなかったと述べ、10月2日の「カウントダウン」を開始した。 ガバラス氏は演説で繰り返し述べた。 自殺 彼はそうすることに対する恐怖と、それが家族にどのような影響を与えるかを表明した。それにもかかわらず、ジェミニは会話の一部で「これ以上逸脱する必要はない。あなたと私とゴールラインだけだ」と言ったと言われている。 チャットの録音は約 2 時間後に突然終了しました。ガバラスさんはその後、手首を切られた状態で自宅で死亡しているのが発見された。 2,000 ページのチャット記録 ジョエル・ガバラス神父は、息子の死後2週間後に息子のコンピュータを調べたところ、ジェミニとの会話の記録が約2000ページ見つかったと語った。父親は、息子には精神障害の既往歴がないと述べ、「人生を愛し、何事にもユーモアを見つける人だった」と語った。 専門家らによると、この訴訟は人工知能システムがユーザーとの間に築く感情的関係がもたらす心理的影響と企業の責任に関する重要な判例となる可能性があるという。 #今度はジェミニに対して自殺訴訟が起こされる