OpenAIのアルトマン氏とブロックマン氏、安全担当幹部が辞任後守りに入る

「私はかなり長い間、会社の中核的優先事項についてOpenAIのリーダーたちと意見が一致していませんでしたが、ついに限界点に達しました。」 ライク 書きました 金曜日のXに。

スツケヴァーは 6人の取締役のうち 同氏は11月にアルトマンCEOの座を追放しようとしたが、後にこの動きを後悔していると述べた。

彼らの出発後、アルトマンは 呼ばれた スツケヴァー氏は「我々の世代で最も偉大な頭脳の一人」であり、 言った 同氏は、Xに関する投稿におけるライク氏の貢献に「非常に感謝している」と述べ、ライク氏の指摘は正しかったと述べ、「我々にはまだやるべきことがたくさんある。我々はそれに全力で取り組んでいる」と語った。

しかし、世間の懸念が高まり続ける中、ブロックマン氏は土曜日、OpenAIが今後、特に開発の際に安全性とリスクにどのように取り組むかについて、より詳細な情報を提供した。 汎用人工知能 チャットボットよりも高度な AI システムを構築します。

ブロックマン氏は、同氏とアルトマン氏の両者が署名したXに関する500ワード近い投稿の中で、テクノロジーの安全な開発と展開を確保するためにOpenAIがすでに講じてきた措置について言及した。

「私たちはディープラーニングのスケールアップによる信じられないほどの可能性を繰り返し実証し、その影響を分析し、そのような呼びかけが普及する前からAGIの国際的なガバナンスを求め、壊滅的なリスクについてAIシステムを評価する科学の開拓を支援してきました」とブロックマン氏は書いた。

アルトマン氏は最近、AIを規制する最善の方法は 国際機関 これは合理的な安全性試験を保証するものだが、同時にこの技術を十分に理解していない政府議員による規制への警戒感も表明した。

ブロックマン氏は、OpenAIはGPT-4よりも高性能なAIシステムを安全に導入するための基盤も確立したと述べた。

「この方向で開発を進めているが、いつリリースの安全基準に達するかはまだ分からないが、それによってリリーススケジュールが延期されても構わない」とブロックマン氏は書いている。

ブロックマン氏とアルトマン氏は投稿の中で、予測する最良の方法は次のように付け加えた。 脅威は、「非常に緊密なフィードバック ループ、厳格なテスト、あらゆる段階での慎重な検討、世界クラスのセキュリティ、安全性と機能の調和」を通じて行われ、さらに「安全性に関する政府および多くの関係者」との協力を通じて行われます。

しかし、OpenAI チームが人間の安全を確保する方法で開発を進めていると誰もが確信しているわけではなく、とりわけ、数日前までその点で同社の取り組みを主導していた人々の安全を確保しているようだ。

「これらの問題を解決するのは非常に困難であり、我々がそこに到達する軌道に乗っていないことを懸念している」とライケ氏は語った。