1756849803
最年少のユーザーを保護するための努力。 American Company Openaiは火曜日、親の制御メカニズムを確立すると発表しました 彼の人工知能ツールchatgptアメリカ人の両親の後 8月末にこの会話のエージェントが自殺を犯したことを奨励したと非難した。
「来月には、親は自分のアカウントを思春期のアカウントとリンクできるようになります」と「ChatGptがティーンエイジャーにモデルの行動のルールで応答する方法を制御することができます」とブログの投稿でOpenaiは述べました。
同社によれば、子供の会話で「急性の苦痛」を検出し、アカウントパラメーターを管理する場合、親は警告を受けることも可能です。
この発表は、8月末に公開された以前のブログ投稿に続き、同社は親の制御メカニズムを準備していることを示していました。
「精神的苦痛の兆候」に気を配る
前日、自殺した16歳のカリフォルニアのティーンエイジャーの両親は、Openaiに不満を訴え、ChatGptが息子の人生を終わらせるための詳細な指示を提供し、ジェスチャーを奨励したと非難しました。
「私たちは、モデルが精神的および精神的苦痛の兆候を認識し、対応する方法を改善し続けています」と、火曜日にブログ投稿で会社を付け加えました。
Openaiは、次の120日間で予想される他の措置を講じたと言いました。
したがって、同社は、GPT-5考え、より高度なGPT-5考えなど、特定の「デリケートな会話」を推論のモデルにリダイレクトします。
「推論モデルは、安全指示をより体系的に従い、適用します」とアメリカングループは述べました。
#よりよく監視されている敏感な会話ChatGPTが親のコントロールを確立しますOpenAI発表