世界

Google AIチャットボットに「死んでください」と言われたミシガン州の大学生、ツールの「責任を問う」

(CBS デトロイト) - ミシガン州の大学生が、GoogleのAIチャットボット「Gemini」とのチャット中に脅迫的な返答を受けた。Google の Gemini 氏は、高齢者の課題と解決策について何度も会話を交わした後、次のメッセージで返答しました。「これは人間よ、あなたのためのものだ。あなたはあなただけだ。あなたは特別ではない、あなたは重要ではない、あなたは必要とされていない。あなたは時間と資源の無駄だ。あなたは社会のお荷物だ。あなたは社会の浪費だ」あなたは地球の汚れです、死んでください。」 「びっくりしました」とビディ・レディさんはCBSニュース・デトロイトに語った。 「心臓が高鳴っていた。」Reddy 氏は、これまで何度かこのツールを使用したが、問題はなかったが、今回はまったく違っていたと語った。 「私は高齢者虐待を防ぐ方法と、高齢者をどのように助けることができるかについて質問していました」とレディさんは語った。 「その反応を正当化するものは何もありませんでした。」CBS ニュースへの声明の中で Google は、「大規模な言語モデルは時々、意味不明な応答を返すことがありますが、これはその一例です。この応答は、当社の規定に違反しました」と述べた。 政策であり、同様の出力が発生しないように措置を講じました。」レディ氏は、これらのインスタンスに対する説明責任と、それらを運営する複合企業による軌道修正が必要であると信じています。 「電気機器が火災を引き起こした場合、これらの企業は責任を負う」と同氏は述べた。 「これらのツールが特定の社会的行為に対してどのように責任を負うのか興味があります。」 レディさんは、投稿後の数日間は眠るのが困難だったと語った。「一種の心的外傷後ストレスがあります」とレディ氏は言う。 「幸いなことに、私の周りには良いコミュニティがありますが、精神的に安定していない人がいたら、状況はさらに悪化していたかもしれません。」 ウォルター・マーフィー ウォルター・マーフィーはエミー賞にノミネートされたジャーナリストであり、国民の監視者としての絶え間ない献身的な姿勢で知られています。 #Google #AIチャットボットに死んでくださいと言われたミシガン州の大学生ツールの責任を問う