安全保障をめぐる紛争：ドイツのトップ監督サム・アルトマン氏が退任

Jan Leike は以前、ChatGPT のセキュリティ責任者でした。 彼は人工知能が制御不能に陥らないようにする責任を負っていました。 彼は社内でプロジェクトに十分なコンピューティング能力を割り当てられなかったため、警告の言葉を添えて現在退職することになっている。

汚れた洗濯物は自宅で洗うのが一般的です。 ただし、これは、ChatGPT を開発し、生成人工知能の分野で世界で最も影響力のある企業となっているサンフランシスコの会社である OpenAI には当てはまりません。

元科学部長イリヤ・サツケヴァー氏の辞任後、彼の考えとChatGPTの責任者サム・アルトマン氏の考えが明らかに相容れないため、この紛争で唯一のドイツ人トップマネージャーが同社を去ることになった、ヤン・ライケ氏である。 人事の詳細は微妙だ。Sutskever氏とLeike氏は、高度に開発された人工知能システムを人間の目標と価値観に安全に調整するために2023年7月に立ち上げられたOpenAIの「Superalignment」プロジェクトの2人のリーダーだった。 研究チームは「人間よりもはるかに賢い人工知能システム」を制御下に置くための効率的な方法を開発することになっていた。 「スーパーアライメント」の目的を説明した文書によると、この目的のために、OpenAI は利用可能なコンピューティング能力の 20 パーセントを使用することを計画していました。 当初はすべてが、アルトマンがテクノロジーを責任を持って使用するための取り組みを開始したことを示しているように見えました。 しかし、その後は何も計画通りに進みませんでした。

「私は OpenAI の Superalignment の責任者でしたが、その仕事を辞めることは、私がこれまでに行った中で最も難しいことの 1 つです」と Jan Leike 氏は『can control and control』に書いています。 「私が OpenAI に来たのは、この種の研究を行うのに世界で最適な場所だと思ったからです」と彼は付け加えました。「しかし、私はしばらく前から、経営陣が設定した優先順位に同意できませんでした。 私たちの専門知識の多くは、セキュリティ、監視、最適なターゲティング、次世代 AI モデルの社会的影響に向けられるべきだと信じています。 しかし、ここ数か月間、私のチームはこの重要な研究に必要な計算能力を獲得するために戦わなければなりませんでした。「OpenAI には人類に対する責任があります」とライク氏は続けました。「しかし、近年、その文化とプロセスは、 「安全性の点ではピカピカの製品に後れを取っている」。

12ページ