1743120043
2025-03-27 23:53:00
業界をリードするAIカバレッジに関する最新のアップデートと排他的なコンテンツについては、毎日および毎週のニュースレターに参加してください。もっと詳しく知る
AIモデルは、それらを訓練または微調整するために使用されるデータと同様にのみ機能します。
ラベル付けされたデータは、その歴史の多くの機械学習（ML）と生成AIの基本的な要素です。ラベル付きデータは、AIモデルがトレーニング中にコンテキストを理解できるようにタグ付けされた情報です。
エンタープライズがAIアプリケーションを実装するために競っているため、隠されたボトルネックはしばしばテクノロジーではありません。ドメイン固有のデータを収集、キュレーション、ラベリングする数ヶ月にわたるプロセスです。この「データラベル付け税」により、技術的なリーダーは、展開の遅延を遅らせるか、ジェネリックモデルからの最適後のパフォーマンスを受け入れるかを選択することを余儀なくされました。
Databricks その挑戦を直接目指しています。
今週、同社はTest-Time Adaptive Optimization（TAO）と呼ばれる新しいアプローチに関する研究をリリースしました。アプローチの背後にある基本的なアイデアは、企業がすでに持っている入力データのみを使用して、エンタープライズグレードの大規模言語モデル（LLM）のチューニングを有効にすることです – ラベルは必要ありません – 数千のラベルのある例で従来の微調整を上回る結果を達成します。 Databricksは、データレイクハウスのプラットフォームベンダーとしてスタートし、近年AIにますます焦点を当てています。 DatabricksはMOSAICMLを13億ドルで取得し、開発者がAIアプリを迅速に作成するのに役立つツールを着実に展開しています。 DatabricksのMosaic Researchチームは、新しいTAOメソッドを開発しました。
「ラベル付けされたデータを取得することは硬く、ラベルが悪いため、出力が不十分になります。これが、Frontier Labsがデータラベル付けベンダーを使用して高価な人間に気付いたデータを購入する理由です」 「私たちは、顧客がいる場所で顧客に会いたいと思っています。レーベルはエンタープライズAIの採用の障害であり、タオとはもはやありませんでした。」
技術革新：TAOがLLM微調整を再発明する方法
その中心で、TAOは、開発者が特定のドメインのモデルをパーソナライズする方法のパラダイムをシフトします。
ペアの入出力の例を必要とする従来の監視された微調整アプローチではなく、TAOは補強学習と体系的な探査を使用して、クエリの例のみを使用してモデルを改善します。
テクニカルパイプラインは、コンサートで作業する4つの異なるメカニズムを採用しています。
探索的応答生成：システムは、無効な入力例を採用し、ソリューション空間を探求する高度な迅速なエンジニアリング手法を使用して、それぞれに複数の潜在的な応答を生成します。
エンタープライズキャリブレーションされた報酬モデリング：生成された応答は、正確性に重点を置いたエンタープライズタスクのパフォーマンスを評価するために特別に設計されたDatabricks Rewardモデル（DBRM）によって評価されます。
強化 学習ベースのモデル最適化：モデルパラメーターは、強化学習を通じて最適化されます。これは、基本的にモデルに高得点応答を直接生成するように指導します。
連続データフライホイール：ユーザーが展開されたシステムと対話すると、新しい入力が自動的に収集され、追加の人間のラベル付け作業なしで自己改善ループが作成されます。
テスト時間計算は新しいアイデアではありません。 OpenAIは、テスト時間計算を使用してO1推論モデルを開発し、DeepSeekはR1モデルをトレーニングするために同様の手法を適用しました。 TAOを他のテスト時間計算方法と区別するのは、トレーニング中に追加の計算を使用している間、最終調整モデルは元のモデルと同じ推論コストを持っていることです。これは、推論コストが使用されている生産展開に重要な利点を提供します。
「TAOは、トレーニングプロセスの一部として追加の計算のみを使用します。トレーニング後のモデルの推論コストは増加しません」とCUIは説明しました。 「長期的には、O1やR1などのTAOとテスト時間計算アプローチは補完的であると思います。両方を行うことができます。」
ベンチマークは、従来の微調整よりも驚くべきパフォーマンスエッジを明らかにしています
Databricksの調査は、Taoが従来の微調整と一致するだけではないことを明らかにしています。複数のエンタープライズ関連のベンチマークにまたがるDatabricksは、人間の努力が大幅に少ないにもかかわらず、このアプローチはより良いと主張しています。
FinanceBench（財務文書Q＆Aベンチマーク）で、TAOはLlama 3.1 8Bのパフォーマンスを24.7パーセントポイント、Llama 3.3 70bを13.4ポイント改善しました。 Databricksの方言に適合したBird-SQLベンチマークを使用したSQL生成の場合、TAOはそれぞれ19.1ポイントと8.7ポイントの改善を提供しました。
最も驚くべきことに、Tao-Tuned Llama 3.3 70Bは、これらのベンチマーク全体でGPT-4OとO3-MINIのパフォーマンスに近づきました。これは、通常、生産環境で実行するのに10〜20倍もかかるモデルです。
これは、技術的な意思決定者に魅力的な価値提案を提示します。これは、伝統的に必要な広範なラベル付けコストなしで、ドメイン固有のタスクでプレミアムカウンターパートに比較的に実行する、より小さく、より手頃なモデルを展開する能力です。
TAOは、企業にとって市場までの利点を有効にします
TAOは、より小さく、より効率的なモデルを使用できるようにすることで明確なコストの利点を提供しますが、その最大の価値は、AIイニシアチブの市場までの時間を加速することです。
「タオは、企業をお金よりも価値のあるものを救うと思います。それは彼らに時間を節約します」とCuiは強調しました。 「ラベル付きデータを取得するには、通常、組織の境界を越え、新しいプロセスを設定し、主題の専門家にラベル付けを行い、品質を検証する必要があります。企業は、1つのAIユースケースをプロトタイプするためだけに複数のビジネスユニットを調整するために数か月はありません。」
今回の圧縮は戦略的な利点を生み出します。たとえば、契約分析ソリューションを実装する金融サービス会社は、法務チームが数千のドキュメントにラベルを付けるのを待つのではなく、サンプル契約のみを使用して展開と反復を開始できます。同様に、医療機関は、ペアの専門家の回答を必要とせずに、医師の質問のみを使用して臨床意思決定支援システムを改善することができます。
「私たちの研究者は、お客様と話をするのに多くの時間を費やし、AIシステムを構築する際に直面する本当の課題を理解し、それらの課題を克服するための新しい技術を開発します」とCUIは言いました。 「私たちはすでに多くのエンタープライズアプリケーションにTAOを適用しており、顧客がモデルを継続的に反復し、改善するのを支援しています。」
これが技術的な意思決定者にとって何を意味するのか
AIの採用をリードしようとしている企業にとって、TAOは特殊なAIシステムの展開方法における潜在的な変曲点を表しています。広範なラベル付きデータセットなしで高品質のドメイン固有のパフォーマンスを実現すると、広範なAI実装に対する最も重要な障壁の1つが削除されます。
このアプローチは、特に構造化されていないデータとドメイン固有の要件の豊富な高地を備えた組織に利益をもたらしますが、マニュアルラベル付けのためのリソースは限られています。多くの企業が自分自身を見つける位置です。
AIが競争上の優位性の中心になるにつれて、概念から展開までの時間を圧縮するテクノロジーは、パフォーマンスを同時に改善することで、リーダーを遅れから分離します。 TAOは、このような技術であると考えられているようであり、企業が数か月や四半期ではなく数週間で専門的なAI機能を実装できるようにする可能性があります。
現在、TAOはDataBricksプラットフォームでのみ利用可能で、プライベートプレビューにあります。
毎日VBでのビジネスユースケースに関する毎日の洞察
上司を感動させたい場合は、VB Dailyがカバーしています。規制上のシフトから実際の展開まで、企業が生成AIで行っていることについて内部のスクープを提供するので、最大のROIの洞察を共有できます。
購読してくれてありがとう。こちらのVBニュースレターをご覧ください。
エラーが発生しました。
#データのTAODataBricksがデータラベルなしでAI #LLM微調整を最適化する方法