組織がカスタム AI を使用してデータを保護し、効率性を高める方法

ブライアン・カタンツァーロ

ChatGPT、Gemini、Claude などの生成 AI ツールは、AI の日常的な使用における大きな進歩を表しています。

これらの汎用大規模言語モデル (LLM) には、数千億、あるいは数兆ものパラメータが含まれています。公共図書館のように、可能な限り多くのトピックに関する膨大な情報が含まれており、提供される情報に精通することで、難しい問題を解決し、さまざまなタスクのパフォーマンスを向上させることができます。

しかし、公共図書館と同様、商業的な法学修士課程では高度に専門的な情報は見つからないかもしれません。また、自分の情報が公共の図書館で見つかるとは絶対に思わないでしょう。

LLM を利用したアプリケーションは、幅広い問い合わせに迅速かつ正確に応答できますが、トレーニングと展開が難しく、すぐに古くなる可能性のあるトレーニング データ セットに依存し、独自のポリシー、プラクティス、または独自の知識にアクセスできない場合があります。

これは、専門的で独自のデータが競争上の優位性の基盤となる企業環境では重要です。これらの「企業秘密」、つまり人、プロセス、数式、ビジネス慣行などに関するデータは、AI の自動化機能や分析機能と組み合わせると特に価値が高まります。

データとビジネス情報を保護しながら AI の価値を最大化するために、企業はより小規模なカスタマイズされた AI モデルを開発しています。これらのモデルは、ローカルの独自のデータセットとオンサイトのコンピューティング リソースを活用でき、アルゴリズムのトレーニングは合成生成データで補完できます。

データを活用する

企業は、検索拡張生成 (RAG) を使用して、独自のビジネス データで AI アプリケーションをカスタマイズしています。この AI フレームワークは、基礎モデルまたは汎用モデルを、製品データ、在庫管理システム、顧客サービス プロトコルなどの独自の知識ソースにリンクします。

RAG は、厳選されたデータ ソースに AI モデルを接続することで、企業データの対象部分のみを AI モデルに公開しながら、より迅速かつ効果的でケース固有の生成 AI の展開を可能にします。

高度に専門化された分野であっても、内部データセットを活用して、有用な生成 AI モデルをトレーニングし、展開することができます。NVIDIA の研究者は、チップを設計するエンジニアをサポートする AI 副操縦士を RAG を使用して構築しました。

NVIDIA GPU は、人間の髪の毛の 10,000 分の 1 の細さの金属ワイヤで接続された数百億個のトランジスタで構成される、非常に複雑なシステムです。 既存の基礎モデルを微調整することで 開発者は、NVIDIA の設計および回路図データを使用して、GPU のアーキテクチャと設計に関する質問に正確に回答し、エンジニアが技術文書をすばやく見つけられるようにするコパイロットを構築しました。RAG を使用すると、コパイロットはローカル サーバー上のライブ データベースからデータを取得し、すべてのコンピューティング操作を安全かつ社内で実行できます。

この戦略により、あらゆる業界の組織が独自のデータを使用して、さまざまなビジネス機能をサポートする AI エージェントを構築できます。これには、製品カタログと顧客インタラクション データでトレーニングされたカスタマー サポート エージェント、在庫と需要予測データでトレーニングされたサプライ チェーン最適化コパイロット、さらにはラベル付けされた画像データと検査基準でトレーニングされた製品品質管理エージェントなどが含まれます。

しかし、多くの組織にとって、AI を成功させるための最大の課題は、効果的なモデルをトレーニングするために適切なデータを収集して準備することにあります。

合成データ、実際の結果

特定のユースケース向けにモデルをトレーニングするためのデータの収集とラベル付けには、数週間から数か月かかることがあり、非常にコストがかかる可能性があります。医療、金融、政府などの規制の厳しい業界では、データを AI 環境に転送することが完全に禁止されている場合があります。

これらの理由から、AI 生成データ (合成データとも呼ばれます) は、AI の成功の秘訣としてますます重要になっています。組織は、実際のデータでモデルをトレーニングし、それを使用して新しいデータ サンプルを生成することで、gen AI 技術を使用して合成データを作成できます。

デルタエレクトロニクス電力および熱管理技術の世界的リーダーである同社は、組立ラインで使用する自動光学検査アルゴリズムをトレーニングするために、画像を手作業で収集してラベル付けするのに何日もかかっていました。作業をスピードアップし、コストを削減するために、同社は AI が生成した合成データを使用して、認識タスク用のディープ ニューラル ネットワークのトレーニングを開始しました。現在では、必要な量のトレーニング データをわずか 10 分で生成し、以前の 100 分の 1 の時間でモデル トレーニングを完了できます。

エンタープライズAIの未来

RAG を搭載した小型モデルは、AI におけるプライバシーと問題解決のバランスを取るという課題に対するソリューションを提供します。ローカル データをクエリしてオンサイト インフラストラクチャで実行できるため、ワークロードをサードパーティ サーバーに送信する必要がなくなり、データ センターのコストが削減され、セキュリティが強化されます。また、合成データにより、組織は正確でカスタマイズされた AI ソリューションを構築するために必要なデータを迅速かつコスト効率よく取得できます。

カスタム AI への障壁を減らすために、企業はパートナーシップを活用して、基礎モデル、AI および RAG ワークフロー、合成データ生成パイプライン、その他の AI 開発ツールキットにアクセスできます。

企業は独自のモデルをカスタマイズすることで、データセキュリティと規制コンプライアンスを維持しながら、計算要件の削減、AI の導入の高速化、機密情報の漏洩の低減といったメリットを享受できます。

詳細はこちら AIによるビジネス変革。

Bryan Catanzaro は、NVIDIA の応用ディープラーニング研究担当副社長です。