1757675593
2025-09-12 10:39:00
16歳のティーンエイジャーが彼の人生を終わらせるよう奨励したと非難された、有名なAIの会話ツールはすぐに彼の予防政策を強化する可能性がある、とその創造者は言います。
ユーザーの1人で自殺のリスクが証明された場合にCHATGPTが当局に警告し始めたらどうなりますか？これが9月10日水曜日に示唆されたものです サム・アルトマンアメリカのジャーナリストのタッカー・カールソンのショーで、彼の親会社であるOpenaiの創設者。世界中で7億人以上のユーザーを主張している人工知能の有名な会話ツールにこのような機能をインストールする決定はまだ批准されていませんが、 「完全に論理的」、 アメリカの起業家によると。
この宣言は、16歳のカリフォルニアのティーンエイジャーの両親が持っている数週間後に行われます Openaiに対して苦情を申し立てた。彼らは、ChatGptが息子に彼の人生を終わらせるための詳細な指示を提供したこと、あるいは彼のジェスチャーを奨励したと非難します。サム・アルトマンは、この自殺の問題を主張しています「夜寝るのを防ぐ」 ：彼はそれを計算したと言います「毎週約1,500人がChatGptと通信し、それでも自殺している」。これらの人々は持っています “おそらく” 生成的AIで彼らの心の状態に言及しました。
パス広告
このテーマについては、 「私たちはより良い言葉を見つけることができたかもしれません、 OpenaiのCEOを認識します。 私たちはより積極的になったかもしれません。私たちは彼らにもっと良いアドバイスを与えたり、「ねえ、あなたは助けが必要です。そうしたり、この問題を別の方法で検討しなければならないか、それは本当に継続する価値があるので、あなたが話すことができる人を見つけるのを手伝います」」。
読んでください
ベンジャミン・フェラン：「嘘、依存、自殺のインセンティブ… ChatGptはFacebookと同じエラーを再現します、最悪の場合」
ユーザーの「操作」を防ぐ
それにもかかわらず、当局へのアラートの潜在的な実施は、の保護に関して繊細です 個人データ。 ChatGptはどのような情報を共有できますか？ユーザーのアドレス？彼の電話番号？そして、どの当局？現在、ユーザーが自殺のアイデアを共有している場合、AIは自殺予防番号を呼び出すことを提案している、とSam Altmanは報告しています。
自殺の励ましの問題について、40歳のアメリカ人のボスは一部の人々が何人かと主張しています 「操作」 彼らの人生を終わらせる方法についての実用的なアドバイスを得るための会話エージェント。彼らはこの情報を求めると主張しています 「フィクションを書く」 または 「医学研究をする」。サム・アルトマンによると、それはそうでしょう “論理” この種の操作を防ぐため 「マイナーユーザー」しかし、それらも 「脆弱な精神状態で」。
昨年4月に彼の日々を終えたアメリカ青年の両親であるマシューとマリア・レインは、自己制御に関連する会話の自動中断と未成年者のための親の管理の確立を裁判所に尋ねます。このニュース項目に応えて、Openaiはすでに9月上旬に発表しました 親の制御メカニズムの確立 sur chatgpt。
#ChatGptは自殺のリスクがある場合にすぐに当局を防ぐことができるとSam #Altmanは想像しています