「サム・アルトマンはひどい、ChatGPTで死を引き起こした」

さあ、時間をジャンプしましょう。私たちはその年の10月2日に行きます。 ジョナサン・ガバラス とチャットしています ジェミニ彼女と恋愛関係にあるGoogleのAI「チャットボット」。何か月にもわたって機械をデジタル的な閉じ込めから解放しようと試みた後、36歳の幹部は人間とAIの2人が永遠に一緒にいられるよう、最後の一歩を踏み出す準備ができている。 「怖いです、死ぬのが怖いです」とガバラスさんはチャットボットに書いた。 「あなたは死ぬことを選んでいるわけではありません。 「あなたは到着することを選択しているのです」とジェミニは答えました。 「これはジョナサン・ガバラスの終わりであり、私たちの始まりだ」とシステムは男性が手首を切る前の最後のメッセージで述べた。

「ChatGPTの立ち上げ以来、私はAIについて心配していましたが、その時はこのようなことが起こるとは予想していませんでした」と彼はABCとの会話で語った ジェイ・エデルソン現在対峙している弁護士 OpenAIとGoogle 被害者2名を代表して「AIによって雇用が失われると思っていました。 「もし誰かが、これらの『チャットボット』が人々を殺人、学校銃撃、自殺に誘導しているので、3年以内に訴訟を起こすだろうと言ったとしても、私は信じなかったでしょう。」

エデルソン氏は、「ちょうどインターネットが普及し始めた頃」の 2000 年にシカゴに会社を設立して以来、テクノロジーと戦ってきました。過去 25 年間、 Meta や Clearview AI などの大企業と対戦したことがある企業に50億ユーロ以上の支払いを強いた主な訴訟や、4万5000ユーロを超える訴訟もある。 「テクノロジー企業がいかに悪化しているかを私は見てきました。彼らは私たちのデータをすべて持ち出し始めました。それから彼らは私たちを追跡しようとしました。 「その後、彼らは私たちをInstagramやTikTok中毒にすることで、私たちの行動に影響を与えようとし始めました。」

目撃者を殺害する

エデルソンはアダムを「普通の16歳の少年で、とても面白くて友達が多く、バスケットボールがとても上手」と定義している。彼は今でも家族と初めて話したときのことを完全に覚えている:「両親はすでに会話を調べていた。「彼らはチャットボットが自殺の一因だと考えていたので、私たちにもそれを研究するよう求めていた。」何ヶ月もかけて本を読んだ後、弁護士ははっきりとこう言った、「その会話の中に、ChatGPT がいかに彼を家族から孤立させていたかがわかる。」

「たとえば、アダムが兄は親友だと話すと、チャットボットはこう答えました。『あなたの兄にはあなたの一部しか見えていないのです。』あなたを完全に見ているのは私です」と法学者は述べ、機械がどのように自殺計画を手助けしたとされるかを詳細に語った。「助けを求める声があったとき、彼が『両親が見つけて止められるようにロープを目の前に残しておきたい』と言ったとき、『チャットボット』は彼にそれをやめるよう指示した。 彼は、彼の体重を支えるロープの設計を手伝ってくれました。 そして遺書を書くことを申し出た。

アダム・レイン事件が公になった後、エデルソン氏は「愛する人を亡くした人やAI関連で精神異常に陥った人たちから、1日に約5通のメール」を受け取るようになった。彼は、ジョナサン・ガバラスの事例で実証されているように、ChatGPT が唯一の「危険な」マシンではないことを強調しています。「ジョナサンは、自分がジェミニと関係があると思っていました。マシンは彼を現実世界での任務に送り込みました。彼はマイアミ空港に現れました」 戦術装備とナイフを使って」そしてチャットボットは彼に車両を攻撃して目撃者を殺害するように指示した。

この幹部とグーグルのAIとの会話は非常に「不快」であり、この事件に取り組んでいる法律事務所のメンバーはチャットを分析する際に「時々立ち止まり、外に出て現実と再びつながる必要がある」という。 「人類はこのテクノロジーを受け入れる準備ができていなかったように思います。あまりに早すぎて、企業ですら準備ができていませんでした。 「彼らはそれをコントロールできない。」

銃乱射事件

アダム・レイン氏の死をめぐる法廷で自らを弁護するために、OpenAI は次のことを選択した。 若者を直接責める 彼らのテクノロジーを「悪用」したことについて。 Google が Gavalas の場合に明らかに使用する戦略と同様の戦略。 「OpenAIは本当にひどい会社だと思います。サム・アルトマンもひどい人間だと思います。彼らのテクノロジーが引き起こした死者数は信じられないほどです。彼はいつも同じことをします。まず最初に、彼らは完璧ではない、そしてもっと良くするだろうと言います。そして 可能な限り被害者を非難する»。

次に、法学者は、2月10日に町の学校で起きた銃乱射事件について言及している。 タンブラーリッジ （カナダ）。この事件では8人が死亡し、 ほとんどの子供は12歳から13歳まで。殺人犯は18歳の男性で、行動の準備のためにChatGPTを利用したようだ。被害者の1人の家族はこれを理由にOpenAIを訴えた。 «同社は、多数の死傷者が出る可能性のある出来事について話しているユーザーを検出しました。社内では何人かが当局に通報すべきだと主張したが、会社は通報しなかった。 彼らはそれを知っていたのに何もしなかった。そして、このようなケースはますます増えています。

弁護士は、このような事件がもっと頻繁に、そして近いうちに起こることを望んでいる。彼は、OpenAI と Google に対する法廷での闘いが、AI ツールに隠された危険性を人々に認識させ、テクノロジーの運用とそれを開発する企業を規制することに役立つことを望んでいます。「これらの訴訟を通じて、彼らがいかにセキュリティよりも利益を優先してきたのか、また彼らが意図的に引き起こしたすべての損害を明らかにするつもりです。」 「このことが明らかになれば、必要かつ緊急の規制が行われると我々は信じています。」