1711990135
2024-04-01 10:00:00
- Nvidia が TensorRT を最適化し、1 億台以上のコンピューターで生成 AI パフォーマンスを劇的に向上
- 新しい TensorRT アップデートにより、ユーザーは AI 出力をより詳細に制御できるようになり、モデルの速度と精度が向上します。
- Nvidia、大規模言語モデル (LLM) の推論を最適化するためのオープンソース ライブラリをリリースし、高度な AI ツールを幅広いユーザーが利用できるようにする
Nvidia は、TensorRT ソフトウェア開発キットの安定したビデオ分散を最適化し、RTX 対応グラフィックスを搭載した 1 億台以上の Windows PC およびワークステーションのパフォーマンスを大幅に向上させることで、生成人工知能の分野でさらに大きな一歩を踏み出しました。
ユーザーコントロールの向上
実際、TensorRT の Stable Diffusion WebUI 拡張機能の最新アップデートでは、ControlNet のサポートが導入されており、ガイダンス用の追加画像を組み込むことで AI 生成出力に対するユーザー制御が強化されています。 このアップデートにより、ユーザーのワークフローが簡素化されるだけでなく、AI モデルの速度と精度も向上します。内部テストでは、TensorRT テクノロジーを使用しない以前の実装と比較して、GeForce RTX 4080 SUPER グラフィックス カードのパフォーマンスが最大 50% 向上することが示されています。
他のアプリケーションでもパフォーマンスが向上
TensorRT テクノロジーを一般的なアプリケーションに統合すると、その利点は Nvidia 独自のテクノロジーを超えて広がります。 Blackmagic Design の DaVinci Resolve と Topaz Labs の Photo AI と Video AI ではパフォーマンスが大幅に向上し、RTX 対応グラフィックスではそれぞれ 50% 以上と 100% 以上の速度向上が見られました。 最大60％。 これらの改善は、安定拡散や SDXL などの生成 AI モデルの高速化における TensorRT の力の証です。 その結果、幅広いユーザーにとって高度な AI ツールがより利用しやすく、効果的になります。
Nvidia は、大規模言語モデル (LLM) の推論を最適化するために設計されたオープンソース ライブラリである TensorRT-LLM もリリースしました。 このリリースでは、人気のコミュニティ モデルに対するすぐに使用できるサポートが提供され、開発者、クリエイター、一般ユーザーが RTX 対応グラフィックス カードで最適化されたパフォーマンスを簡単に利用できるようになります。 Nvidia は、オープンソース コミュニティとの協力を通じて、TensorRT-LLM と一般的なアプリケーション フレームワークの統合を合理化したいと考えています。
AIの未来はローカルにあるのか？
ジェネレーティブ AI は業界に革命をもたらし続けており、RTX PC およびワークステーション上の TensorRT を使用した Nvidia の動きは、開発者と一般ユーザーの両方に非常に大きな可能性をもたらしています。 AI アプリケーションのローカル実行のおかげで、Nvidia のソリューションは、待ち時間の短縮、コストの削減、優れたデータ保護を保証できます。これはクラウドについてはまだ言えませんが、もちろん、その利点はローカル ハードウェアが保護しないという事実です。案件。
アダム・ホモラ
私は幼い頃から新しいテクノロジーに魅了されてきました。 時間が経つにつれて、ゲームとゲーム業界に対する私の長期的な関心は自然にハードウェア、ソフトウェア、インターネット サービス、そして 2022 年からは人工知能にも加わりました。
#Nvidia #が重要なアップデートをリリースし数百万台のコンピューターの #パフォーマンスを劇的に向上 #SMARTmania.cz