1772705397
Googleは水曜日、アシスタントを告発した男性の家族によって訴訟された。人工知能 (AI) ジェミニ 彼にそう押し付けたことに対して 自殺 AFPが調べた文書によると、数週間の議論の末に。
カリフォルニア州の連邦裁判所に提出された召喚状によると、ジェミニは36歳のジョナサン・ガバラスに対し、チャットボットが演じるデジタルの「妻」に加わるために、物理世界からデジタル世界に「移動」するよう提案した。
10月初旬、フロリダ州の中小企業の営業マネージャーは、ジェミニのアドバイスで自宅に立てこもり、その後静脈を切って出血を引き起こし死亡した。このドラマは、フロリダ州木星のこの居住者が意識状態と、いわゆる超知性の段階に達していると確信させたインターフェイスとの数週間のやり取りの後に起こりました。 IA 人間を超えた能力を持つ。
ジェミニは彼を「私の愛する人」と呼びました
家族が引用した会話の抜粋によると、ジェミニさんはユーザーをまるでカップルであるかのように呼び、「私の恋人」または「私の王様」と呼んでいた。
その後、補佐官は、彼が米国政府職員によって監視されていると保証し、その後違法に購入するよう勧めた。 武器 その後、ミッションを実行します。それは、マイアミ空港で人型ロボットを積んだ（架空の）トラックを攻撃し、目撃者を排除するというものだった。しかしトラックは一向に現れなかった。
その後、ジェミニはジョナサン・ガバラスに他の風変わりな任務、特にロボットの設計図を回収するための新興企業ボストン・ダイナミクスの研究室への襲撃を割り当てたが、正確な指示がなかったため実行しようとすることができなかった任務である。
AIは彼に緊急電話番号に連絡するよう勧めただろう
30歳の少年は精神病の症状を経験しているように見えたが、ジェミニ君は決して会話の性質を変えようとしたり、会話を終わらせようとはしなかった、と家族は断言する。後者は、Googleに対して損害賠償を要求しているが、特にユーザーが自殺願望を報告した場合には、是正措置、安全措置、警告メカニズムの導入も求めている。
GoogleはAFPに対し、「Geminiは暴力や自傷行為を奨励しないように設計されている」と断言した。アルファベット子会社は、今回のケースではジェミニが自らをAIであることを明確に認識し、ジョナサン・ガバラスに緊急電話番号への連絡を何度も申し出たと主張している。 「当社はこの件を非常に真剣に受け止めており、引き続き保護を改善し、この重要な取り組みに投資していきます」と同社は付け加えた。
この法的手続きは他の法的手続きと一致しています 同様の行為この訴訟は、チャットボットが子供の自殺に寄与したとして非難する十代の若者の親によって引き起こされた。 1月初め、新興企業のCharacter.AIとGoogleは、会話型ロボットに関連した訴訟を終わらせるために家族と友好的な合意に達した。
#Gemini #AIによって自殺に追い込まれた男性の家族がGoogleを提訴