OpenAI、人工知能リスクチームを解散

2人の監督が去った後、チームはOpenAI 潜在的な人工超知能 (AI) のセキュリティを担当する (ChatGPT) が解散され、そのメンバーは社内の他の研究グループに統合されました。 OpenAIは5月17日金曜日にAFPに対しこの情報を認め、構造の変更が数週間前に始まったことを明らかにした。 ChatGPT の発明者は、AI モデルの安全性を担当する研究者がこれらのモデルを開発するエンジニアと協力して作業できることを保証します。

しかし、元チームのマネージャー2人はシリコンバレーのスター企業を去ったばかりだ。 ジャン・ライケ氏は金曜日、X（元Twitter）で、会社の優先事項であるイノベーションかセキュリティに関して経営陣と根本的な意見の相違があったため辞任すると説明した。 「我々は限界点に達した」「スーパーアライメント」、つまり人間と同じくらい知能のある将来の汎用AIが私たちの価値観と一致するようにすることを担当するチームを率いたエンジニアはこう述べた。

「彼は正しい、我々にはまだやるべきことがたくさんある」

サム・アルトマンサンフランシスコに本拠を置く会社の共同創設者兼社長はこう語った。 「見るのがとても悲しい (ジャン・ライク) 離れる”。 「彼は正しい、我々にはまだやるべきことがたくさんある」 (整合性と安全性の研究のため)そして私たちはそれを実行する決意をしています」彼は、近いうちに長いメッセージを約束すると付け加えた。

「スーパーアライメント」チームも次のようなリーダーによって率いられました。 イリヤ・サツケヴァー、OpenAIの共同創設者であり、火曜日に辞任を発表しました。 Xのとき、彼は自分にこう言いました。 「OpenAI が安全で有益な汎用人工知能を構築すると確信しています。」 以前は同社の主任科学者だった彼は、投票を行う取締役会の一員でした。 昨年11月にサム・アルトマン氏が解任された振り返る前に。

「重力に従って行動する」

ChatGPT で OpenAI が起動 生成型 AI 革命 （日常言語での簡単なリクエストに応じてコンテンツを制作すること）、これはシリコンバレーを興奮させるものですが、カリフォルニアからワシントン、ブリュッセルに至るまで、多くの観察者や規制当局を心配させています。 特にサム・アルトマンが汎用AI、つまり人間と同等の認知能力を持つAIの作成について語るときはそうだ。 OpenAIは月曜日、ユーザーとの口頭で流動的な会話ができるChatGPTの新バージョンを発表し、これまで以上にパーソナルで効率的なAIアシスタントへのさらなる一歩となった。

Jan Leikeは金曜日、OpenAIの全従業員に次のように呼びかけた。 「重力に従って行動する」 彼らが構築しているものを正当化するものは何か。 「セキュリティ、制御、安全性、サイバーセキュリティ、価値観との整合性、データプライバシー、社会的影響などのテーマについて、次世代モデルの準備にもっと多くの時間を費やす必要があると思います」》と彼は列挙した。