世界

OpenAI、新モデルの訓練開始にあたり安全委員会を設置

OpenAIは、役員が率いる安全・セキュリティ委員会を設立した。| 写真提供：ロイター AIスタートアップ企業のOpenAIは、次期人工知能モデルのトレーニングを開始するにあたり、サム・アルトマンCEOを含む取締役が率いる安全・セキュリティ委員会を設置したと、火曜日に発表した。オープンAIは同社のブログで、理事のブレット・テイラー氏、アダム・ダンジェロ氏、ニコール・セリグマン氏も委員会を率いると発表した。マイクロソフトが支援するOpenAIのチャットボットは、人間のような会話をしたり、テキストプロンプトに基づいて画像を作成したりといった生成AI機能を備えており、AIモデルが強力になるにつれて安全性に関する懸念を引き起こしている。AIが意図された目的に沿っていることを保証するOpenAIのスーパーアライメントチームのリーダーだった元主任科学者のイリヤ・スツケバー氏とヤン・ライケ氏が今月初めに同社を去った。(その日のトップテクノロジーニュースについては、当社のテクノロジーニュースレター「Today's Cache」を購読してください)OpenAIは、同社がSuperalignmentチームを設立してから1年も経たない5月初めに同チームを解散し、一部のチームメンバーは他のグループに再配置されたと、CNBCは著名人の退職から数日後に報じた。新しい委員会は、OpenAI のプロジェクトと運営の安全性とセキュリティに関する決定について理事会に勧告する責任を負うことになります。最初の任務は、今後90日間でOpenAIの既存の安全対策を評価し、さらに発展させることであり、その後、理事会に勧告を共有することになる。OpenAIは、委員会の検討後、採択された勧告に関する最新情報を公表する予定だと述べた。委員会の他のメンバーには、新任の主任科学者ヤクブ・パチョッキ氏とセキュリティ責任者のマット・ナイト氏も含まれる。同社はまた、元米国家安全保障局サイバーセキュリティ局長のロブ・ジョイス氏や元司法省職員のジョン・カーリン氏を含む他の専門家にも相談する予定だ。OpenAIは、自社のシステムを「AGIへの道のりで次のレベルの機能」に引き上げるということ以外、トレーニング中の新しい「フロンティア」モデルに関する詳細は明らかにしなかった。同社は5月初め、テキストと画像を介してリアルな音声会話と対話が可能な新しいAIモデルを発表した。 #OpenAI新モデルの訓練開始にあたり安全委員会を設置