OpenAIの長期AIリスクチームが解散

昨年 7 月、OpenAI 新しい研究チームの結成を発表した それはスーパースマートの出現に備えることになる 人工知能 創造者を出し抜き、圧倒することができます。 OpenAI の主任科学者であり、同社の共同創設者の 1 人である Ilya Sutskever 氏が、この新しいチームの共同リーダーに指名されました。 OpenAIは、チームがそのコンピューティング能力の20パーセントを受け取ることになると述べた。

現在、OpenAI の「スーパーアライメント チーム」はもういない、と同社は認めています。 これは、関与した数人の研究者が去った後のことです。 火曜日のニュース サツケヴァー氏が会社を辞めること、そして 辞任 チームのもう一人のリーダーの。 このグループの研究は、OpenAI の他の研究活動に吸収される予定です。

スツケヴァー氏の退任 CEOのサム・アルトマン氏が2015年にOpenAIを立ち上げ、ChatGPTにつながる研究の方向性を設定するのを手伝ったにもかかわらず、彼はまた、 11月にアルトマン氏を解雇。 OpenAIスタッフによる大規模な反乱と取引の仲介の後、混乱の5日後、アルトマン氏はCEOに復帰した。 Sutskever氏と他の2人の取締役が取締役会を辞任。

火曜日にサツケヴァー氏の辞任が発表されてから数時間後、スーパーアライメントチームのもう一人の共同リーダーで元ディープマインド研究者のジャン・ライク氏はこう言った。 Xに投稿されました 彼が辞任したことを。

サツケヴァー氏もライケ氏もコメント要請に応じなかった。 スツケヴァー氏は辞任の決断について説明を行わなかったが、OpenAIの現在の方針への支持を表明した Xの投稿で。 同氏は、「同社のこれまでの軌跡は奇跡にほかならない。OpenAI が現在のリーダーシップの下で安全かつ有益な AGI を構築すると確信している」と書いている。

ライクが投稿しました X のスレッド 同氏は金曜日、会社の優先順位とチームにどれだけのリソースが割り当てられているかについての意見の相違から決定したと説明した。

「私はかなり長い間、会社の中核的優先事項についてOpenAIのリーダーたちと意見が一致していませんでしたが、最終的に限界点に達しました」とライク氏は書いている。 「過去数か月間、私のチームは風に逆らって航海してきました。 コンピューティングに苦労することもあり、この重要な研究を遂行することがますます困難になってきました。」

OpenAI のスーパーアラインメント チームの解散は、昨年 11 月のガバナンス危機をきっかけとした社内の淘汰の最近の証拠をさらに強めます。 チームの二人の研究者、レオポルド・アッシェンブレナーとパベル・イズマイロフは、 解雇された 企業秘密を漏洩したとして、 情報 先月報告されました。 チームのもう一人のメンバー、ウィリアム・サンダース氏は2月にOpenAIを去ったという。 インターネットフォーラムの投稿 彼の名において。

AI の政策とガバナンスに取り組んでいるさらに 2 人の OpenAI 研究者も最近同社を退職したようです。 LinkedInによると、カレン・オキーフ氏は4月に政策最前線の研究主任の職を辞任した。 OpenAIの研究者で、より高性能なAIモデルの危険性について複数の論文を共著しているダニエル・ココタジロ氏は、「AGIの頃にOpenAIが責任を持って行動するという自信を失ったため、OpenAIを辞めた」という。 インターネットフォーラムに投稿する 彼の名において。 明らかに退職した研究者はコメントの要請に応じなかった。