Nvidia が Nemotron 3 で大手模型メーカーに

エヌビディアが作った に取り組む企業にチップを供給する財産 人工知能、しかし今日、チップメーカーは、エンジニアがそれらを使用するのに役立つデータとツールとともに、一連の最先端のオープンモデルをリリースすることにより、それ自体がより本格的なモデルメーカーになるための一歩を踏み出しました。

この動きは、OpenAI、Google、AnthropicなどのAI企業が独自のチップの開発能力をますます高めているタイミングで行われ、これらの企業が時間の経過とともにNvidiaのテクノロジーから遠ざかることに対する予防策となる可能性がある。

オープン モデルはすでに AI エコシステムの重要な部分となっており、多くの研究者や新興企業が実験、プロトタイプ、構築にオープン モデルを使用しています。 OpenAI と Google は小規模なオープン モデルを提供していますが、中国のライバルほど頻繁には更新していません。によれば、このような理由やその他の理由から、現在は中国企業のオープンモデルの方がはるかに人気があるという。 ハグフェイスからのデータ、オープンソース プロジェクトのホスティング プラットフォーム。

Nvidia の新しい Nemotron 3 モデルは、リリース前に同社が共有したベンチマーク スコアによると、ダウンロード、変更、自分のハードウェア上で実行できる最高のモデルの 1 つです。

「オープンイノベーションはAI進歩の基礎だ」とCEOのジェンセン・フアン氏はこのニュースに先立って声明で述べた。 「Nemotron を使用して、私たちは高度な AI をオープン プラットフォームに変換し、開発者にエージェント システムを大規模に構築するために必要な透明性と効率性を提供します。」

Nvidia は、Nemotron のトレーニングに使用されるデータを公開することで、多くの米国の競合他社よりも完全に透明性の高いアプローチを採用しています。この事実は、エンジニアがモデルをより簡単に変更するのに役立つはずです。同社はカスタマイズや微調整に役立つツールもリリースしている。これには、新しいハイブリッド潜在専門家混合モデル アーキテクチャが含まれており、Nvidia によれば、これはコンピュータまたは Web 上でアクションを実行できる AI エージェントの構築に特に適しているとのことです。同社はまた、ユーザーがエージェントをトレーニングして何かを実行できるようにするライブラリも立ち上げています。 強化学習、これには、モデルにシミュレートされた報酬と罰を与えることが含まれます。

Nemotron 3 モデルには 3 つのサイズがあります。Nano は 300 億のパラメータを持ちます。スーパーは1000億。そしてウルトラは5000億。モデルのパラメータは、そのモデルがどの程度機能するか、またどの程度実行しにくいかに大まかに対応します。最大のモデルは非常に扱いにくいため、高価なハードウェアを搭載したラック上で実行する必要があります。

モデルの基礎

Nvidia のエンタープライズ向け生成 AI ソフトウェア担当副社長、Kari Ann Briski 氏は、オープン モデルが AI ビルダーにとって重要である理由は次の 3 つであると述べました。ビルダーは、特定のタスクに合わせてモデルをカスタマイズする必要性が高まっています。多くの場合、クエリを別のモデルに引き渡すことが役立ちます。そして、これらのモデルに一種の模擬推論を実行させることで、トレーニング後にこれらのモデルからよりインテリジェントな応答を絞り出すことが容易になります。 「私たちは、オープンソースが AI イノベーションの基盤であり、世界経済を加速し続けると信じています」とブリスキー氏は述べました。

ソーシャルメディア大手のMetaは、初の先進的なオープンモデルを「Meta」という名前でリリースした。 2023 年 2 月のラマ。しかし、競争が激化するにつれ、Meta は将来のリリースがオープンソースではなくなる可能性があると示唆しました。

この動きは、AI 業界の大きなトレンドの一部です。過去 1 年にわたり、米国企業はオープンさから遠ざかり、研究についてより秘密主義になり、最新のエンジニアリング技術についてライバルに知らせることをより消極的になりました。