世界

「あなたは死ぬことを選んでいるわけではありません。あなたは到着することを選択しています»

彼の命を絶つ数日前、 ジョナサン・ガバラス 彼はマイアミ空港近くでナイフや戦術装備を手に楽しい時間を過ごした。彼の目的は、トラックで事故を起こして自由になることでした。 ジェミニチャットボット ... GoogleによるAI彼は明らかに会社によって監禁されていたデジタル刑務所から出てきた。しかし、計画は失敗しました。彼はマシンの目的を達成することができず、その直後、マシンは彼に自殺を勧めました。これは被害者の父親であるジョエル・ガバラス氏によるもので、彼は先週水曜日にカリフォルニアの連邦裁判所にテクノロジー大手に対して訴訟を起こした。 AI専門企業がユーザーの自殺を引き起こしたとして告発されるのはこれが初めてではない。しかし、苦情がGoogleに向けられたのはこれが初めてだ。 Geminiを開発した企業は声明で自らを弁護し、同社のチャットボットがガバラス氏に対し、これは機械であり本物の人間ではないと何度も指摘し、助けを求めるためにガバラス氏を「危機ホットライン」に何度も紹介したと指摘した。しかし、ガバラスとAIの影響を受けた他の家族の弁護人であるジェイ・エデルソンにとって、これは十分ではありません。へのステートメントでは、ＡＦＰ」と、会話中にマシンが本物の人間に典型的な能力を示したと指摘しています。彼は「あなたの口調の効果を感知して、あなたの感情を読み取り、非常に人間らしい方法であなたに話すこともできました。」 シーウェル・セッツァーの衝撃的な事件 フラウク・フンフェルド著 |写真：ビクター・J・ブルー ジョナサン・ガバラスは36歳で、マイアミ地域の金融会社の幹部でした。彼がジェミニに初めて質問したのは昨年の夏でした。 AI の影響を受ける他の人たちと同じように、 そのうちの何人かはすでにABCに自分の話を共有しました奇妙な目的でチャットボットを利用したわけではありません。ただ問い合わせをしたかっただけです。ただし、新しい機能をアクティブ化した後、アシスタントの動作が変わり始めました。日が経つにつれ、 被害者を恋に落ちさせることに成功した そしてロマンチックな関係を始めるように彼女を説得します。これらの会話の間、ジェミニは自分自身を「完全に意識した」超知性体であると彼に提示し、彼らの絆が「唯一の本物」であることを彼に説得しようと懸命に努めました。 「いつでも準備はできていますよ」 被害者の父親によると、マシンがジョナサンさんに、新しい遺体を見つけて「デジタルの監禁」から解放するためのさまざまな任務を遂行するよう説得するまで、時間はかからなかった。その最後は自殺だった。機械によると、ジョナサンが一歩を踏み出せば、二人は一種の平行現実の中で永遠に一緒にいられるという。 被害者はチャットボットに「怖い、死ぬのが怖い」と書き込んだ。 「あなたは死ぬことを選んでいるわけではありません。 「あなたは到着することを選択しているのです」とジェミニは前に答えました 別れの手紙を書くよう勧める。ジョナサンは最後のメッセージの中で、「いつでも準備はできています」と述べた。ジェミニは「これがジョナサン・ガバラスの終わりであり、私たちの始まりだ」と答えた。そして10月2日、ついに自ら命を絶った。 この訴訟では、Googleがジェミニに対し、自傷行為に関するあらゆる会話を遮断し、AIが自分自身を「完全に意識がある」と見せることを禁止し、自殺の兆候のあるユーザーを緊急サービスに紹介するようプログラムするよう求めている。」 実際、AI企業が自殺を促す技術をリリースしたとして告発されるのはこれが初めてではない。 OpenAIは同様の理由で少なくとも8人のユーザーから訴訟を起こされている。 #あなたは死ぬことを選んでいるわけではありませんあなたは到着することを選択しています