MLOPS成功のための7つの重要な戦略

AIと機械学習の可能性を最大限に引き出すには、選択、最適化、監視、スケーリング、および成功のメトリックをモデル化する鍵を理解する必要があります。

人工知能と機械学習を事業運営の中で効果的に統合して管理することは、進化し続ける状況で競争力を維持しようとしている企業にとって最優先事項となっています。しかし、多くの組織にとって、意味のある方法でAI/MLの力を活用することは、まだ満たされていない夢です。したがって、最新のMLOPSトレンドのいくつかを調査し、一般的なMLエンジニアリングの課題を征服するための実用的なテイクアウトを提供することは役立つと思いました。

ご想像のとおり、 生成AI モデルは従来とは大きく異なります 機械学習 開発、展開、および運用要件のモデル。トレーニングや配送パイプラインから監視、スケーリング、モデルの成功の測定に至るまで、これらの違いを説明し、AI/ML戦略を導くために組織が対処すべきいくつかの重要な質問をお客様に残します。

最終的に、モデルだけでなくソリューションに焦点を合わせること、そして整列することによって mlops それと DevOps システム、組織は、AIイニシアチブの可能性を最大限に引き出し、測定可能なビジネスへの影響を促進できます。

MLOPSの基礎

人生の多くのことと同様に、AIとMLを事業運営にうまく統合および管理するために、組織は最初に基盤を明確に理解する必要があります。今日のMLOPSの最初の基本は、間の違いを理解することです 生成AI モデルと 従来のML モデル。

コストは別の主要な差別化要因です。生成AIモデルの計算は、より複雑であり、レイテンシが高く、コンピューターの電力の需要が高く、運用費用が高くなります。一方、従来のモデルは、事前に訓練されたアーキテクチャや軽量トレーニングプロセスを利用していることが多く、多くの組織にとってより手頃な価格になります。生成AIモデルと標準モデルを利用するかどうかを決定する場合、組織はこれらの基準と個々のユースケースにどのように適用するかを評価する必要があります。

モデルの最適化と監視手法

特定のユースケースのモデルを最適化することが重要です。従来のMLの場合、事前に訓練されたモデルやゼロからのトレーニングは一般的な戦略です。 genaiは、次のような追加のオプションを紹介します 検索された生成 （RAG）。これにより、プライベートデータを使用してコンテキストを提供し、最終的にモデルの出力を改善できます。汎用モデルとタスク固有のモデルを選択することも重要な役割を果たします。汎用モデルが本当に必要ですか、それとも特定のユースケースのためにトレーニングされている小さなモデルを使用できますか？汎用モデルは汎用性がありますが、特定のタスク用に構築された、より小さな特殊なモデルよりも効率が低いことがよくあります。

モデルモニタリングには、生成AIおよび従来のモデルには明らかに異なるアプローチが必要です。従来のモデルは、精度、精度、および F1スコア、評価するのは簡単です。対照的に、生成AIモデルには、多くの場合、ユーザーのエンゲージメントや関連性など、もう少し主観的なメトリックが含まれます。 genaiモデルの優れたメトリックはまだ不足しており、実際には個々のユースケースに帰着します。モデルの評価は非常に複雑であり、モデルが計画に従って動作しているかどうかを理解するために、ビジネスメトリックからの追加のサポートが必要になる場合があります。いずれのシナリオでも、企業は、希望の出力を確実に提供するために測定できるアーキテクチャを設計する必要があります。

MLエンジニアリングの進歩

従来の機械学習は、LSTM（長期短期メモリ）やYolo（1回しか見ていない）などのオープンソースアーキテクチャから、オープンソースライブラリなど、オープンソースのアーキテクチャに長い間依存してきました。 xgboost そして Scikit-Learn。これらのソリューションは、アクセスしやすく多用途であることのおかげで、ほとんどの課題の基準になっています。ただし、Genaiの場合、OpenaiのGPTモデルやGoogleのGeminiなどの商用ソリューションは、高コストと複雑なトレーニングの複雑さのために現在支配しています。これらのモデルをゼロから構築することは、大規模なデータ要件、複雑なトレーニング、およびかなりのコストを意味します。

商業的な生成AIモデルの人気にもかかわらず、オープンソースの代替案は牽引力を獲得しています。 LlamaやStable Diffusionなどのモデルは、パフォーマンスのギャップを埋めており、特定のデータを使用して微調整または訓練する組織に費用対効果の高いソリューションを提供しています。ただし、オープンソースモデルは、継続的なコンプライアンスと効率を確保するために、ライセンス制限と統合の課題を提示することができます。

MLシステムの効率的なスケーリング

ますます多くの企業がAIに投資することを決定するにつれて、MLシステムのスケーリングと高性能を確保するために考慮されるべきデータ管理と分類およびアーキテクチャのアプローチのベストプラクティスがあります。

RAGで内部データを活用します

重要な質問はデータを中心に展開します：私の内部データは何ですか？どうすれば使用できますか？正しい構造でこのデータに基づいてトレーニングできますか？ GenaiでMLシステムをスケーリングするための1つの強力な戦略は、検索された生成です。 RAGは、内部データを使用して汎用モデルのコンテキストを変更する機能です。内部データを埋め込み、照会することにより、組織はコンテキスト固有の回答を提供し、Genai出力の関連性を改善できます。たとえば、製品のドキュメントをaにアップロードします ベクトルデータベース モデルがユーザークエリに対して正確でコンテキスト認識の応答を提供できるようにします。

主要なアーキテクチャの考慮事項

スケーラブルで効率的なMLOPSアーキテクチャを作成するには、埋め込み、プロンプト、ベクトルストアなどのコンポーネントに注意する必要があります。特定の言語、地域、またはユースケースの微調整モデルにより、テーラードパフォーマンスが保証されます。微調整をサポートするMLOPSアーキテクチャはより複雑であり、組織はさまざまなビルディングブロックでA/Bテストを優先して、結果を最適化し、ソリューションを改良する必要があります。

モデルの成功のメトリック

モデルの結果をビジネス目標に合わせることが不可欠です。顧客満足度やクリックスルーレートなどのメトリックは、実際の影響を測定することができ、組織がモデルが意味のある結果を提供しているかどうかを理解するのに役立ちます。生成モデルを評価するためには人間のフィードバックが不可欠であり、ベストプラクティスのままです。 Human-in-the-Loopシステムは、メトリックを微調整し、パフォーマンスをチェックし、モデルがビジネス目標を達成することを確認します。

場合によっては、高度な生成AIツールは、人間のレビュー担当者を支援または交換することができ、プロセスをより速く、より効率的にすることができます。フィードバックループを閉じ、予測をユーザーアクションに接続することにより、継続的な改善とより信頼性の高いパフォーマンスの機会があります。

モデルだけでなく、ソリューションに焦点を当てます

MLOPSの成功は、分離されたモデルではなく、全体的なソリューションの構築にかかっています。ソリューションアーキテクチャは、ルールベースのシステム、埋め込み、従来のモデル、生成AIなど、さまざまなMLアプローチを組み合わせて、堅牢で適応性のあるフレームワークを作成する必要があります。

組織は、AI/ML戦略を導くためにいくつかの重要な質問を自問する必要があります。

• 汎用ソリューションまたは専門モデルが必要ですか？
• 成功と、どのメトリックが私たちの目標と一致するかをどのように測定しますか？
• 商業用ソリューションとオープンソースソリューションのトレードオフは何ですか？また、ライセンスと統合は選択にどのように影響しますか？

鍵は次のとおりです。あなたはもはやモデルを構築するだけでなく、ソリューションを構築しています。多くの可動部品を含むアーキテクチャを構築しており、ビルディングブロックのそれぞれには、ソリューションから得られるエクスペリエンスとメトリックを変更する力があります。 MLOPSが進化し続けるにつれて、組織はスケーラブルでメトリック駆動型のアーキテクチャに焦点を当てることで適応する必要があります。ツールと戦略の適切な組み合わせを活用することにより、企業はAIと機械学習の完全な潜在能力を解き放ち、革新を推進し、測定可能なビジネス結果を提供します。

Yuval Fernbachは、MlopsのVPおよびCTOです jfrog。

続きを読む

Quantum Computingは、機械学習の専門家の次のフロンティアですか？ – ここでは、R＆Dがトラクションを獲得するにつれて、機械学習技術の才能が量子コンピューティングスペースで果たすことができる役割を考慮します

サイバーセキュリティにおけるAIおよびMLのユースケース – サイバー攻撃が本質的により多様であるため、サイバーセキュリティスタッフがそれに応じて脆弱性を解決する方法を決定するための適切な可視性を持つことが不可欠であり、AIは人間の同僚だけが単独ではできない問題を考え出すのに役立ちます

Kubernetesが機械学習（ML）にどのように拡張するか – この記事では、Kubernetesがエンタープライズ内で機械学習（ML）の使用を強化する方法を探ります