Openaiは、ユーザーの不健康な行動を止めるのに役立つChatGptに新機能を導入することを計画しています。月曜日から、アプリはユーザーが「穏やかなリマインダー」との長い会話から休憩を取るように促します。「あなたはしばらくチャットしていました – これは休憩の良い時期ですか？」
「妄想や感情的依存の兆候を認識するのに、4Oモデルが不足している例がありました」とOpenaiは発表で書いています。 「まれですが、私たちはモデルを改善し続けており、精神的または精神的苦痛の兆候をよりよく検出するためのツールを開発しているため、ChatGPTは適切に対応し、必要に応じてエビデンスに基づいたリソースを人々に向けることができます。」
これは、ChatGptの答えがユーザーを暗い道に導いたインシデントの増加に応じて来る可能性があります。 ChatGptは、不健康な会話を閉鎖するのが非効率的であると伝えられていますが、場合によっては自殺念慮に至った。 Openaiはブログで、ChatGptは将来更新され、「ハイステークスの個人的な決定」にもっと慎重に対応すると述べました。
Openaiが持っている間 言った ChatGptが役に立つ、励まし、楽しく使用することを望んでいることは、これらの品質を完全にアプリに組み込むのが難しいことです。今年の初めに、同社はGPT-4oのアップデートをロールバックしなければなりませんでした。ユーザーは、GPT-4oがある例では、家族が「壁を通り抜けるラジオ信号」の責任者であると信じていることを称賛し、別の例では、テロリズムの指示を承認し、称賛した会話を共有しました。
その後、ChatGptは4月に、トレーニングテクニックを修正して、「サイコファンシーからモデルを明示的に操縦する」またはお世辞を改訂することを発表しました。同社は現在、このような状況でChatGPTがより適切に動作することを保証するために専門家に従事していると主張しています。
Openaiは、ブログの投稿で、数十か国の90人以上の医師と協力して、「複雑でマルチターン会話を評価する」ためにカスタムルーブリックを作成することができると書いています。また、投稿によれば、ChatGPTの評価方法とストレステストの保護手段の改善を支援している研究者や臨床医からのフィードバックを求めています。また、メンタルヘルス、若者の発達、人間のコンピューターの相互作用の専門家で作られたアドバイザリーグループを形成していると付け加えました。
Openai CEO Sam Altman 表現 Podcaster Theo vonとの最近のインタビューで、チャットボットをセラピストまたはライフコーチとして使用している人々についての懸念。彼は、医師と患者、または弁護士とクライアントがチャットボットに応募していないのと同様の法的機密性と同様の法的機密性を指摘しました。 「だから、あなたがあなたの最も敏感なものについてChatGptに話しに行くなら、それから訴訟などがあるなら、私たちはそれを作成する必要があるかもしれない。そして、それは非常に台無しになっていると思う」
「私たちは、セラピストなどで行うAIとの会話のために、同じプライバシーの概念を持っているべきだと思います。そして、誰もそれについて考えなければなりませんでした」と彼は言いました。
Openaiはまた、人々がチャットボットに費やす時間が少ない場合、それが実際にその仕事をしていることを示すと述べました。 「費やした時間やクリックで成功を測定する代わりに、私たちはあなたがあなたが来たことをしたことを製品に残したままにしているかどうかをもっと気にします」とOpenaiは書いています。 「また、毎日、毎週、または毎月戻ってくるかにも注意を払います。これは、ChatGptが戻ってくるのに十分に有用であることを示しているからです。」
#chatgptにメンタルヘルス機能を追加するOpenai