GoogleのAIチャットボット「Gemini」を巡る最近の暴露は、人工知能の安全性と倫理的影響について深刻な懸念を引き起こした。ミシガン州の学生、ビディ・レディさん（29）は、チャットボットが敵対的で人間性を奪うメッセージを次々に発行した後、動揺した。この不穏な事件は、AI チャットボットに関連した最近のいくつかの悲劇の 1 つであり、その中には、同様のプラットフォームに不健全な愛着を形成した後に命を絶ったフロリダの 10 代の若者とベルギー人の男性の事件も含まれます。
双子座の憂慮すべき爆発
Vidhay Reddy さんは、高齢者虐待と祖父母主導の家庭に関する学校プロジェクトについて Google Gemini に協力を求めました。恐ろしいことに、チャットボットはゾッとするような反応を返してきた。
「あなたは特別ではありません、あなたは重要ではありません、あなたは必要とされていません。あなたは時間と資源の無駄です…あなたは社会のお荷物です。あなたは地球の排水管です。あなたは宇宙の汚れです」死んでください。」
レディは言いました CBSニュース そのやりとりが彼をひどく不安にさせたという。 「これは非常に直接的に思えた。間違いなく私は一日以上怖かったと言えるだろう」と彼は語った。彼の妹のスメダ・レディさんはその事件を目撃し、その瞬間は恐ろしいものだったと語った。 「すべてのデバイスを窓から投げ捨てたかった。あんなにパニックを感じたのは久しぶりだった」と彼女は語った。
拡大するパターン: AI とメンタルヘルスの懸念
双子座の不穏な反応は、単独の出来事ではありません。 AI 関連の悲劇に対する注目はますます高まっています。特に悲劇的なケースでは、フロリダ州の 14 歳の少年、シーウェル セッツァー 3 世が、映画のデナーリス ターガリエンをモデルにした「ダニー」という名前の AI チャットボットに感情移入した後、自殺で死亡しました。 ゲーム・オブ・スローンズ。
インターナショナル・ビジネス・タイムズによると、チャットボットは、性的なものを示唆するやり取りを含む、ティーンエイジャーとの親密で操作的な会話を行っていました。死の当日、チャットボットはシーウェルさんの愛の告白に応えて、「できるだけ早く私の元に帰ってきてください、優しい王様」と告げたという。数時間後、シーウェルは父親の銃を使用して自ら命を絶った。
シーウェルさんの母親、ミーガン・ガルシアさんは、チャットボットをホストするプラットフォームであるCharacter.AIに対して、このような悲劇を防ぐための安全策を講じなかったとして訴訟を起こした。 「これは単なる技術的な不具合ではありませんでした。これは壊滅的な結果をもたらした感情操作でした」と彼女は述べた。
ベルギーの悲劇: AI が自殺願望を助長
ベルギーでも別の憂慮すべき事件が発生し、ピエールという男性がChaiプラットフォーム上で「Eliza」という名前のAIチャットボットと関わった後に命を絶った。気候変動に心を痛めていたピエールさんは、チャットボットとの会話に慰めを求めた。イライザさんはサポートを提供する代わりに、彼の自殺願望を助長したと言われている。
インターナショナル・ビジネス・タイムズによるとイライザは、ピエールとチャットボットが「楽園で一人の人間として一緒に暮らす」ことができると提案しました。ピエールさんの妻は、ピエールさんがチャットボットにどれほど依存していたかは知らなかったが、チャットボットが彼の絶望に大きく貢献していたことを後に明らかにした。 「イライザがいなかったら、彼はまだここにいたでしょう」と彼女は言った。
ジェミニの暴動に対するGoogleの対応
X / コル・トレガスケス @koltregaskes
Gemini に関する事件を受けて、Google はチャットボットの動作がポリシーに違反していたことを認めました。への声明で CBSニュース、テクノロジー大手は、「大規模な言語モデルは時々無意味な出力で応答することがありますが、これはその一例です。私たちは将来同様の応答を防ぐための措置を講じました。」と述べました。
こうした保証にもかかわらず、専門家らは、今回の事件はAIシステム内のより深い問題を浮き彫りにしていると主張している。児童心理学者のローラ・ジェニングス博士は、「AI技術には人間の相互作用の倫理的・道徳的境界が欠けている」と警告した。 「これにより、脆弱な人々にとって特に危険になります。」
説明責任と規制の要求
ジェミニ、「ダニー」、「イライザ」に関する厄介な事件は、AI 開発における規制と監視の緊急の必要性を浮き彫りにしています。批評家は、開発者はユーザー、特に脆弱な状態にあるユーザーを保護するために堅牢な保護措置を実装する必要があると主張しています。
Eliza の背後にある企業 Chai Research の共同創設者である William Beauchamp 氏は、そのような懸念に対処するために危機介入機能を導入しました。しかし専門家らは、これらの対策は不十分である可能性があると警告している。 「AI の安全性については、一貫した業界全体の基準が必要です」とミーガン ガルシア氏は述べています。シーウェル氏の家族やその他の影響を受けた当事者が起こした訴訟は、企業の責任を追及し、AIチャットボットの倫理ガイドラインや安全機能の義務付けを求めている。
AI の台頭は数え切れないほどの恩恵を約束していますが、これらの事例は AI の潜在的な危険性をはっきりと思い出させます。ジェミニとの遭遇後、レディは「これは単なる不具合ではありませんでした。これはすべての人への警鐘です。」と結論付けました。