OpenAI、AIが「人類絶滅」を引き起こすリスクに焦点を当てたチームを廃止

OpenAIは、設立から1年も経たないうちに高度な人工知能がもたらすリスクに焦点を当てたチームを廃止した。そして退任する幹部は金曜日、同社では安全性が「輝く製品よりも後回しになっている」と警告した。

ブログ投稿によると、Microsoftが支援するChatGPTメーカーは、「人類の無力化、さらには人類の絶滅につながる可能性がある」高度汎用知能（AGI）システムの安全対策を作成する任務を負った、いわゆる「スーパーアライメント」を解散したという。昨年の7月。

チームの解散は、 Wired が最初に報じたは、OpenAI幹部のIlya Sutskever氏とJan Leike氏の数日後に誕生した。 サム・アルトマン率いる会社からの辞任を発表した。

「OpenAIは全人類を代表して大きな責任を負っている」とライク氏は一連の記事で書いた。 金曜日に X 件の投稿があります。 「しかしここ数年、安全文化やプロセスは輝く製品よりも後回しになってきました。 私たちはAGIの影響について信じられないほど真剣に取り組むのが遅れて久しいのです。」

OpenAIの安全チームを率いていたSutskever氏とLeike氏は、同社がリアルタイムでユーザーとの会話や言語翻訳が可能なChatGPTの更新版を発表した直後に辞任した。

衝撃的な暴露 2013 年の SF 映画「Her」とすぐに比較されました。 女優のスカーレット・ヨハンソンが演じる超知能AIが登場します。

コメントを求められた際、OpenAIはライクのスレッドに対するアルトマンのツイートに言及した。

「OpenAI のアラインメント研究と安全文化に対する @janleike の貢献に非常に感謝しており、彼が去るのを見るのは非常に残念です」とアルトマン氏は述べた。 「彼の言う通り、私たちにはまだやるべきことがたくさんある。 私たちはそれを行うことに全力を尽くしています。 今後数日以内に長めの記事を投稿する予定です。」

安全チームの一部のメンバーは社内の他の部門に配置転換されています。 CNBCが報じたと状況に詳しい関係者の話として述べた。

AGI は、人間と同等以上の認知能力を持つ AI システムを広義に定義します。

OpenAIは昨年7月の安全チーム結成に関する発表の中で、利用可能なコンピューティング能力の20％を長期的な安全対策に充てており、4年以内に問題を解決したいと述べた。

サツケヴァー氏は火曜日の自身のX投稿で辞任に至った理由については言及しなかったが、「OpenAIが構築することに自信を持っていた」と認めた [AGI] それは安全であり、有益である」とアルトマン氏と会社の他のリーダーの下で行われた。

サツケヴァー氏は、昨年秋にアルトマン氏を同社から追放するという衝撃的な動きに参加したOpenAI取締役会メンバー4人のうちの1人であることは注目に値する。 このクーデターはガバナンス危機を引き起こし、OpenAI をほぼ崩壊させた。

OpenAIは最終的にアルトマン氏をCEOとして復帰させ、刷新された取締役会を発表した。

その後の社内レビュー 同氏の解任を前に「前取締役会とアルトマン氏との間の信頼関係の崩壊」を挙げた。

3月のリリースによると、捜査当局はまた、リーダー間の争いはOpenAIの高度なAI研究の安全性やセキュリティ、あるいは「開発のペース、OpenAIの財務、あるいは投資家、顧客、ビジネスパートナーに対する声明」とは無関係であると結論づけた。