生成 AI モデルを導入するための戦略または選択肢 | ミラノの展望 | テクノリーウェイ | 2023 年 11 月

生成 AI は急速に進歩しており、IT リーダーはそれに追いつくのに苦労しています。 事前トレーニングされたモデルとアプリケーションの数は急増していますが、それらを企業のニーズや AI ガバナンスに合わせるのは困難です。

テクノロジーのリーダーは、さまざまな生成型 AI 導入アプローチとその長所と短所についての深い理解を欠いています。 一般的なアプローチには、モデルを組み込みアプリケーションとして使用すること、モデル API を埋め込み、プロンプト エンジニアリングでそれらを操作すること、検索拡張生成でモデルを拡張することなどが含まれます (ラグ） 建築。

ChatGPT の人気は、生成 AI におけるイノベーションの波に拍車をかけています。 過去数か月の間に、AI 基盤モデル、プロバイダーが微調整したモデル、生成 AI アプリケーション、および MLOps ツールが立て続けにリリースされました。 さらに、多くの大規模 ISV は生成 AI を既存のアプリケーションに組み込み、ビジネス ユーザーがアクセスできるようにしています。

こうした急速な発展は、一か八かの初期段階市場の特徴である競争の激化の表れであると同時に、企業の IT リーダーにとっては気の遠くなるような選択肢の数々を提示するものでもあります。 この記事の目的は、さまざまな生成型 AI 導入アプローチの違いをわかりやすく説明し、どちらかを選択するための意思決定の枠組みを提供することです。

生成 AI をデプロイする最も簡単な方法は、Web インターフェイスまたはモバイル アプリを通じて ChatGPT などのアプリケーションを使用することです。 ただし、これらのサービスはより消費者指向ですが、OpenAI やその他のプロバイダーは将来、より良いデータ プライバシー条件を備えたエンタープライズ グレードのサービス (ChatGPT for Business など) を導入する予定です。

1. 生成 AI 機能が組み込まれた商用アプリケーションを使用します。 たとえば、画像生成機能を備えたデザイン ソフトウェア アプリケーションです。 商用アプリケーションに埋め込まれた生成 AI を利用することは、生成 AI を始めるための最も簡単で中断の少ないアプローチです。 固定コストが低いかまったく必要なく、ユーザーは追加の投資をすることなく、基礎となる生成 AI モデルの改善による恩恵を受けることができます。 しかし、このアプローチでは、柔軟性とカスタマイズ オプションが少なくなります。 AI が組み込まれたアプリケーションは、より高度な生成 AI ソリューションと同様に、複雑なワークフローを処理したり、会話のコンテキストを理解したりできない可能性があります。 さらに、組織はアプリケーション プロバイダーのセキュリティとデータ保護の制御に依存しているため、セキュリティとデータ プライバシーのリスクをあまり制御できません。
2. 生成 AI API をカスタム アプリケーションに統合する。 クローズドソースの生成 AI モデルのほとんどは、クラウド API 経由でデプロイできます。 迅速なエンジニアリングを使用して、モデル出力の品質を向上させることができます。 カスタム アプリケーション フレームに生成 AI API を埋め込むことは、AI が埋め込まれた商用アプリケーションを使用するよりも柔軟でカスタマイズ可能なアプローチです。 また、トレーニングに対してではなく、モデルの使用 (推論) に対してのみ料金を支払うため、固定コストも低くなります。 このアプローチは、許容範囲のカスタマイズを行いながら、ユースケースをより迅速に実稼働環境に移行するのに役立ちます。 しかし, このアプローチにはいくつかの欠点があります。 制限の 1 つは、プロンプト経由で送信できるデータ量に制限があるため、実装できるユースケースの種類が制限される可能性があることです。 さらに、プロンプト エンジニアリングは比較的新しい分野であり、ベスト プラクティスはまだ生まれつつあります。 これは、新しいスキルが必要であり、学習曲線が必要になる可能性があることを意味します。
3. 検索拡張生成 (RAG) を使用して生成 AI モデルを拡張する。 RAG を使用すると、組織は基礎モデルの外部からデータを取得し、それをプロンプトに追加できます。 これにより、ドメイン固有のタスクに対するモデル応答の精度と品質が向上します。 検索拡張生成 (RAG) を使用すると、組織は、より最新のデータ、ドメイン固有のデータ、プライベート データなどの追加情報を基盤モデルに組み込むことができます。 これは、微調整、データの埋め込み、またはモデルを最初から構築する場合に必要な、基礎となるモデルを変更する複雑さやコストを必要とせずに実行できます。 RAG は、ドメイン固有のタスクに関する基礎モデルの精度を向上させ、その出力における幻覚を軽減することもできます。 しかし, RAG アプローチは生成モデルのコンテキスト ウィンドウによって制限され、モデルに送信できる取得情報の量が制限されます。 さらに、プロンプトを強化するための追加の取得手順によって遅延が増加する可能性があり、リアルタイムのユースケースでの RAG の実行可能性が低くなります。 RAG アプローチを実装するには、ベクトル データベースや埋め込みモデルなどの新しいテクノロジ コンポーネントを組み込むために、技術アーキテクチャとワークフローを再設計する必要があります。 ほとんどの企業にはこれらのコンポーネントを実装および管理するためのノウハウが不足しており、コストがかかる可能性があります。
4. 生成 AI モデルを微調整します。 微調整では、事前トレーニングされた基礎モデルを取得し、それを新しいデータセットでさらにトレーニングして、追加のドメイン知識を組み込んだり、特定のタスクのパフォーマンスを向上させたりします。 これにより、多くの場合、組織専用のカスタム モデルが作成されます。 微調整により、組織は完全なモデルを最初からトレーニングすることなく、特定のユースケースに合わせて生成 AI モデルのパフォーマンスを迅速に強化できます。 これにより、特定のタスク向けに組織データまたはドメイン固有のデータを使用してモデルを微調整することで、パフォーマンスの向上と幻覚の軽減につながる可能性があります。 通常、微調整には比較的少量の高品質データが必要ですが、基礎となる基盤モデルのトレーニングに必要な大規模なデータセットよりも大幅に少なくなります。 より小型でありながら高性能なオープンソース基盤モデルへの継続的な傾向により、微調整されたモデルの作成がさらに簡素化され、コスト効率よく促進されます。 オファーを微調整しながら 特定のユースケースでパフォーマンスが急速に向上すると、最初の微調整トレーニングのコストが比較的低かったとしても、継続的な推論コストが多額になる可能性があります。 微調整されたモデルは依然として大規模かつ複雑であり、数十億のパラメーターがあり、大規模に効率的に展開するには最適化が必要になる場合があります。 特定の基礎モデルに合わせてモデルを微調整すると、新しく改良された基礎モデルが出現したときにそれを採用する際の将来の柔軟性が制限される可能性があります。
5. カスタム基礎モデルを最初から構築する。 これは最も複雑なアプローチですが、組織はモデルを独自のデータおよびビジネス ドメインに合わせて完全にカスタマイズできます。 カスタム基盤モデルを最初から構築すると、モデルが組織のユースケースまたはドメインに合わせて特別に調整されているため、最高の理論的精度が得られます。 このアプローチにより、トレーニング データセットとモデル パラメーターを完全に制御できるため、組織はパフォーマンスを最適化し、バイアスやその他の意図しない結果を軽減できます。 カスタム基盤モデルを開発すると、大きな競争上の優位性がもたらされ、差別化された製品提供と市場でのポジショニングの強化がもたらされます。 モデルが優れたパフォーマンスと分野固有の専門知識を実証すれば、より広範な用途に商品化される可能性があります。 大規模な生成 AI モデルの開発と維持は、コストがかかる作業になる可能性があります。 費用には、トレーニング インフラストラクチャ、データ取得、インフラストラクチャとラベル付けのコスト、人によるモデル品質の監査、および推論のコストが含まれます。 高品質のモデルを構築し、その継続的なメンテナンスと更新を確実に行うには、一流の AI 研究者に継続的にアクセスすることが重要です。 生成 AI の状況は急速に進化しており、ほとんどの組織にとって、テクノロジー ベンダーによる外部イノベーションのペースが、内部イノベーション能力を上回ることになります。 これは、カスタム モデルを構築するという決定に関連した将来の後悔につながる可能性があります。

1. 技術的な違いを理解して文書化する:

• ベンダー ロックインを回避するために、各導入アプローチ間の技術的な違いを徹底的に理解します。
• 明確な期待と説明責任を確保するために、ベンダーとの責任共有モデルを完全に把握します。

2. 情報に基づいた意思決定のための長所と短所を分析する:

• 各導入アプローチの長所と短所を評価して、情報に基づいた意思決定を行います。
• 最適な結果を得るために、特定のユースケースを最適な導入アプローチと調整します。

3. 客観的でユースケースに基づいた意思決定を行う:

• すべての重要な意思決定要素を客観的に検討し、ユースケースごとに情報に基づいた選択を行います。
• 導入アプローチは相互に排他的ではないことを認識してください。 組み合わせが適切な場合があります。

4. 将来を見据えた新たなトレンドを監視する:

• 急速に進化する生成 AI 環境における新たなトレンドを継続的に監視します。
• 生成 AI 戦略を定期的に (理想的には数か月ごとに) 更新して、時代の先を行きましょう。

ミラン・ドーレ MS (データ分析)

クラウド戦略リーダー | 企業変革リーダー | AI |ML

TOGAF、AWS、ML、AI、アーキテクチャ、スノーフレーク、シックス シグマ、NCFM、高度データ分析、金融市場における優秀賞などで認定されています。 もっと知る- www.milanoutlook.com