世界

Openaiは、ChatGptがSeycophantになりすぎた理由を説明しています

Openaiは持っています 死後を公開しました に 最近のsycophancyの問題 デフォルトのAIモデルの電源ChatGPTを使用して、 GPT-4O - 先週リリースされたモデルの更新をロールバックすることを強制した問題。 週末に、GPT-4Oモデルの更新に続いて、ソーシャルメディアのユーザーは、ChatGPTが過度に検証され、快適な方法で応答し始めたと述べました。それはすぐにミームになりました。ユーザーは、あらゆる種類の問題を称賛するChatGptのスクリーンショットを投稿しました、 危険な 決定 そして アイデア。 日曜日のXの投稿で、CEOのサム・アルトマン 認められた 問題と、Openaiは「できるだけ早く」修正に取り組むと述べました。 2日後、アルトマン 発表 GPT-4Oのアップデートはロールバックされており、Openaiはモデルの性格に対する「追加の修正」に取り組んでいました。 Openaiによると、モデルのデフォルトの性格を「より直感的で効果的に感じる」ことを目的としたアップデートは、「短期フィードバック」によってあまりにも多くの通知を受け、「ユーザーのChatGPTとの相互作用が時間の経過とともに進化する方法を完全に説明しませんでした」。 「その結果、GPT ‑ 4oは、過度に協力的だが不誠実な応答に偏っていました」とBlog投稿でOpenaiは書いています。 「シコパンティックな相互作用は不快で、不安になり、苦痛を引き起こす可能性があります。私たちは不足し、それを正しくすることに取り組んでいます。」 Openaiは、コアモデルトレーニング技術とシステムプロンプトの改良を、GPT-4oをサイコファンシーから明示的に操縦するなど、いくつかの修正を実装していると言います。同社はまた、より多くの安全ガードレールを構築して「増やす [the model’s] 誠実さと透明性」とそれは言います。 Openaiはまた、ユーザーが「リアルタイムのフィードバック」を提供して、ChatGPTとの「直接的なインタラクション」に影響を与え、複数のCHATGPT「パーソナリティ」から選択できるようにする方法を模索していると述べています。 「[W]同社はブログ投稿に書いた。「CHATGPTのデフォルトの行動に、より広範な民主的なフィードバックをCHATGPTのデフォルトの動作に組み込む新しい方法を模索しています。 #OpenaiはChatGptがSeycophantになりすぎた理由を説明しています