「AI科学者」が独自の実験を考案し実行している

一見すると、 著名な研究者が最近発表した一連の研究論文 人工知能 バンクーバーのブリティッシュコロンビア大学の研究室の研究は、それほど注目に値するものではないかもしれない。既存のアルゴリズムやアイデアを段階的に改良した内容で、中途半端な AI カンファレンスやジャーナルの内容のように読める。

しかし、この研究は実のところ注目に値する。なぜなら、この研究は「AI科学者「UBCの研究所でオックスフォード大学の研究者とスタートアップ企業と共同で開発された」 会話型AI。

の プロジェクト これは、画期的なトリックとなるかもしれない、AI に新しいアイデアを発明し、探求させることで学習させるという、初期のステップを示しています。現時点では、それほど目新しいものではありません。いくつかの論文では、拡散モデリングと呼ばれる画像生成技術を改善するための調整について説明し、別の論文では、ディープ ニューラル ネットワークでの学習を高速化するアプローチを概説しています。

「これらは画期的なアイデアではありません。非常にクリエイティブなものではありません」と認めている。 ジェフ・クルーンUBC の研究室を率いる教授はこう語る。「しかし、誰かが試すかもしれない、とてもクールなアイデアのように思えます。」

今日の AI プログラムは驚異的ですが、人間が作成したトレーニング データを使用する必要があるという制限があります。AI プログラムが「興味深い」アイデアを試したり探究したりすることで、オープンエンド方式で学習できれば、人間が示した能力を超える能力を発揮できるかもしれません。

クルーネの研究室は以前、この方法で学習するように設計されたAIプログラムを開発していた。例えば、 Omniと呼ばれるプログラム いくつかのビデオゲームのような環境で仮想キャラクターの行動を生成しようと試み、面白そうなものを整理し、新しいデザインで繰り返しました。これらのプログラムでは、これまでは面白さを定義するために手動でコーディングされた指示が必要でした。しかし、大規模な言語モデルは、人間の推論を模倣する能力があるため、これらのプログラムが最も興味深いものを識別できるようにする方法を提供します。 最近のプロジェクト Clune 研究室の研究者たちはこのアプローチを使用して、AI プログラムに、Roblox のような世界内で仮想キャラクターがさまざまなことを実行できるようにするコードを作成させました。

AI 科学者は、クルーン研究室が可能性について語っている一例だ。このプログラムは機械学習の実験を考え出し、法学修士の助けを借りて最も有望と思われるものを決め、必要なコードを書いて実行する、という作業を繰り返す。結果は期待外れだったが、クルーン氏は、オープンエンド学習プログラムは、言語モデル自体と同様に、それらに供給するコンピューターのパワーが増強されれば、はるかに有望になる可能性があると述べている。

「新しい大陸や新しい惑星を探検しているような気分です」とクルーネ氏は法学修士課程によって開かれた可能性について語る。「何を発見するかは分かりませんが、どこを向いても何か新しいものがあります。」

トム・ホープエルサレムのヘブライ大学の助教授であり、アレンAI研究所（AI2）の研究科学者でもある彼は、AI科学者は法学修士課程の卒業生と同様に、非常に派生的なものであり、信頼できるとは考えられないと述べている。「現時点では、どの要素も信頼できない」と彼は言う。

ホープ氏は、科学的発見の要素を自動化する取り組みは、AIの先駆者たちの数十年前まで遡ると指摘する。 アレン・ニューウェル そして ハーバート・サイモン 1970年代、そしてその後、 パット

ラングレー ホープ氏は、学習と専門知識の研究機関で法学修士号を取得している。また、AI2 のチームを含む他のいくつかの研究グループが、最近、仮説の作成、論文の執筆、研究のレビューに法学修士号を活用していることにも言及している。「彼らは時代精神を捉えました」と、UBC チームについてホープ氏は言う。「もちろん、その方向性は、潜在的に非常に価値があります。」

LLM ベースのシステムが本当に斬新な、あるいは画期的なアイデアを生み出せるかどうかも、依然として不明だ。「それは 1 兆ドルの価値がある質問です」とクルーンは言う。

たとえ科学的な進歩がなくても、オープンエンド学習は、現時点でより有能で有用な AI システムを開発するために不可欠となる可能性があります。 報告書 投資会社エアストリートキャピタルが今月投稿した記事は、クルーンの研究が、より強力で信頼性の高いAIエージェント、つまりコンピューター上で有用なタスクを自律的に実行するプログラムを開発する可能性を強調している。大手AI企業はみな、 エージェントを次の大きなものとして見る。

今週、クルーネの研究室は最新のオープンエンド学習プロジェクトを発表しました。 AIエージェントを発明し構築するAIプログラムAI 設計のエージェントは、数学や読解力など、いくつかのタスクでは人間設計のエージェントよりも優れたパフォーマンスを発揮します。次のステップは、このようなシステムが不適切な動作をするエージェントを生成しないようにする方法を考案することです。「これは潜在的に危険です」とクルーネ氏はこの研究について語ります。「正しく行う必要がありますが、可能だと思います。」