OpenAIのフィジー・シモ氏は、メタ氏のチームはAI製品のリスクを十分に予測していなかった、サム・アルトマン氏の下での彼女の最初の仕事はメンタルヘルスの懸念に対処することであったと語る

今年5月、フィジー・シモ メタ ミョウバンでした OpenAIのアプリケーション部門CEOとして採用。 CEOのサム・アルトマン氏の研究範囲外のあらゆるものや、同社のAIモデルのコンピューティング・インフラストラクチャの管理を任された彼女は、マーク・ザッカーバーグ氏が率いるテクノロジー企業で働くことと、アルトマン氏が率いるテクノロジー企業で働くことの顕著な対照を詳しく述べた。 有線 インタビュー 月曜日に出版されました。

「メタ社で私たちがうまくできなかったと思うのは、実際に私たちの製品が社会に生み出すリスクを予測していたことだと思います」とシモ氏は語った。 有線。 「OpenAI では、これらのリスクは非常に現実的です。」

メタはすぐには反応しなかった 運さんからのコメントリクエストです。

シモ氏は、メタ社がまだFacebookとして知られていた2011年から2021年7月までの10年間、メタ社で働いた。最後の2年半は、フェイスブックアプリの責任者を務めた。

2021年8月にシモ CEOに就任 食料品配達サービスの インスタカート。彼女は 8 月に世界で最も価値のある新興企業の 1 つに副 CEO として入社するまで、4 年間同社を指揮しました。

OpenAI での Simo の最初の取り組みの 1 つはメンタルヘルスであった、と 40 歳の彼は語った 有線。彼女に課せられたもう 1 つの取り組みは、競争の激しい雇用市場で従業員の AI スキルを強化するための会社の AI 認定プログラムの立ち上げと、社内での AI による混乱を円滑化することでした。

「これは非常に大きな責任ですが、私たちは真に真っ先に取り組む文化と優先順位の両方を持っていると感じています」とシモ氏は語った。

シモさんはテクノロジー大手に入社したとき、風景を見ただけでメンタルヘルスに対処する必要があるとすぐに気づいたと語った。

いわゆる「被害者」になる人が増えています。 AI精神病。専門家は、ChatGPT のようなチャットボットがユーザーの意欲を刺激する可能性があることを懸念しています。 妄想とパラノイア、それが彼らを入院させたり、離婚させたり、死亡させたりしました。

OpenAI 会社監査 査読済みの医学雑誌BMJが10月に発表した論文では、毎週数十万人のChatGPTユーザーが精神病、躁状態、または自殺願望の兆候を示していることが明らかになった。

最近のブラウン大学 勉強 また、メンタルヘルスに関するアドバイスを求めて ChatGPT やその他の大規模な言語モデルを利用する人が増えるにつれて、それらはアメリカ心理学会などの組織によって確立されたメンタルヘルス倫理基準に組織的に違反していることも判明しました。

シモ氏は、こうしたメンタルヘルス上の懸念に対処するには「未知の」道を歩まなければならないと述べ、OpenAIがさまざまな機能を継続的に展開することには固有のリスクがあると付け加えた。

「毎週、『ああ、これも対処すべき安全上の課題だ』と感じたときにリリースされる機能によって、新しい行動が出現します」とシモ氏は語った。 有線。

それでも、シモ氏は同社の最近の導入を監督してきた。 ペアレントコントロール ChatGPT の 10 代のアカウント向けに、OpenAI が「10 代を保護するための年齢予測」に取り組んでいることを追加しました。メタはまた、 移動しました 来年初めまでにペアレントコントロールを導入する

「とはいえ、毎回正しいことをするのは非常に難しいことです。」とシモ氏は言い、ユーザー数が膨大であるため（週に 8 億人）、「そこで私たちがやろうとしているのは、理想的ではない行動をできる限り捕捉し、モデルを継続的に改良することです。」と述べました。