1763980814
2025-11-24 10:30:00
メンタルヘルスの危機に直面しているユーザーに対するChatGPTの対応の形成に貢献したOpenAIの安全性研究のリーダーが、先月社内で退社を発表したことが『WIRED』の調べで分かった。モデル・ポリシーとして知られる安全性研究チームの責任者であるアンドレア・ヴァローネ氏は、年末にOpenAIを離れる予定だ。
OpenAIの広報担当ケイラ・ウッド氏はヴァローネ氏の退任を認めた。ウッド氏は、OpenAIは後任を積極的に探しており、それまでの間、ヴァローネ氏のチームは同社の安全システム責任者であるヨハネス・ハイデッケ氏に直接報告する予定だと述べた。
そのプレッシャーの中で、OpenAI は、ChatGPT が苦しんでいるユーザーにどのように対処すべきかを理解し、チャットボットの応答を改善するために取り組んできました。モデル ポリシーは、その作業を主導するチームの 1 つであり、 10月のレポート 会社の進捗状況と170人以上のメンタルヘルス専門家との協議について詳しく説明しています。
OpenAIは報告書の中で、毎週数十万人のChatGPTユーザーが躁病または精神病の危機を経験している兆候を示している可能性があり、100万人以上が「潜在的な自殺計画や意図を示す明確な兆候を含む会話をしている」と述べた。 GPT-5 へのアップデートにより、OpenAI はレポートの中で、こうした会話における望ましくない応答を 65 ～ 80% 削減できたと述べています。
「過去 1 年間、私は確立された前例がほとんどない問題、つまり感情的な過剰依存の兆候や精神的健康上の苦痛の初期の兆候に直面したときにモデルはどのように対応すべきかという問題に関する OpenAI の研究を主導しました。」ヴァローネは次のように書いている。 役職 リンクトインです。
ヴァローネ氏は『WIRED』のコメント要請に応じなかった。
ChatGPT を楽しくチャットできるようにすること、しかし過度にお世辞にならないようにすることが、OpenAI の中核となる緊張です。同社は、Google、Anthropic、Meta の AI チャットボットと競合するために、ChatGPT のユーザー ベースの拡大に積極的に取り組んでおり、そのユーザー ベースには現在週 8 億人以上が含まれています。
OpenAIが8月にGPT-5をリリースした後、ユーザーは新モデルが驚くほど冷たいと主張して反発した。 ChatGPTの最新アップデートで同社は、チャットボットの「温かさ」を維持しながら、お調子者を大幅に削減したと述べた。
ヴァローネ氏の退任は 8月他グループ再編 苦しんでいるユーザーに対する ChatGPT の対応、モデルの行動に焦点を当てました。その元リーダーであるジョアン・ジャンはその役割を離れ、人間と AI の新しいインタラクション方法を研究する新しいチームを立ち上げました。残りのモデル動作スタッフは、トレーニング後のリーダーである Max Schwarzer の下に異動しました。
#ChatGPTのメンタルヘルス研究を支えた研究リーダーがOpenAIを去る