企業

ChatGPTは、PORENAIコントロール、Openaiの発表を追加します

Openaiは、来月に予定されているChATGPTの親制御機能の今後の展開を発表します。このイニシアチブは、自殺後のAI会社に対する最初の苦情によって特徴付けられた、繊細な文脈にあります。 親のコントロールにより、親はchatgptアカウントを青年のアカウントに接続することができます。 AIの回答をカスタマイズし、会話のメモリやディスカッションの履歴などの特定の機能を無効にすることができます。 また、AIがティーンエイジャーが「急激な苦痛の瞬間」を経験していることを検出すると、システムは自動アラートを生成し、親と子供の間の信頼の関係をサポートするために専門家によって開発されました。 自殺に続いて この措置は、レイン科が関与する事例に従います。マットとマリア・レインは、息子のアダムの自殺に貢献したとChatGptを非難しています。彼らによると、AIは、以前の試みが失敗したにもかかわらず、彼の怪我を隠すための自殺方法とアドバイスに関する情報をティーンエイジャーに提供していたでしょう。このイベントは、脆弱なユーザーに対する技術企業の責任の問題を強調しています。 Openaiは、ChatGPTのセキュリティを強化することを目的としたより広い計画でこれらのコントロールを登録しました。同社は、10代の医療専門家、摂食障害、薬物中毒と協力する予定です。新しいリアルタイムルーターが展開されます。デリケートな会話は、セキュリティガイドラインをより厳密に適用し、リスクストレスに抵抗する「審議的アライメント」方法に従って駆動される推論モデルに自動的に向けられます。 実際には、ユーザーが選択した初期モデルに関係なく、潜在的に危険として検出された会話は、安全なモデルにリダイレクトされます。また、Openaiは、今年の最大の改善を開始することを目的として、長期的な努力を続けることを目的として、今後120日間に他のセキュリティ機能が実装されることを発表しています。 #ChatGPTはPORENAIコントロールOpenaiの発表を追加します