世界

合成データを最初から生成して LLM を微調整する

クリーン （G活性化された命令チューニング L大きいあんゲージモデル)合成データは、LLM の微調整を改善するためによく使用されますが、人間が作成したデータよりもはるかに安価です。本作ではGLAN（G活性化された命令チューニング L大きいあんゲージ モデル)、合成命令データセットを生成する新しい方法。(ほぼ) スクラッチからの合成データ: 言語モデルの一般化された命令チューニングこれまでのアプローチとは異なり、GLAN は人間の知識と能力の慎重に精選された分類を基盤として活用し、多数の分野にわたる指導データを体系的かつ自動的に生成します。この分類法は、正確さと包括性を確保するために言語モデルと人間による検証の助けを借りて、人間の知識をフィールド、サブフィールド、専門分野に分解することによって開発されています。 このプロセスは、管理可能な数の分野があるため効率的です。人間の教育プロセス (科目が定義され、シラバスが作成され、クラスセッション内で中心となる概念が特定される) を反映することで、GLAN はさまざまなトピックと人間のスキルにわたる多様な指示を生成します。 これは、シラバスに詳細に記載されている各クラス セッションから主要な概念をサンプリングし、それによって指導データセットを作成する教材と演習を作成することによって実現されます。ソースGLAN はタスクに依存せず、幅広いドメインをカバーでき、分類法の作成に必要な人間の労力を最小限に抑えて大規模な命令を生成します。 さらに、GLAN は、分類に新しいノードを追加することで、新しいフィールドやスキルの統合をサポートします。 この柔軟性により、各ノードを独立して拡張できるため、更新のためにデータセット全体を再生成する必要がなくなります。 LLM に関する広範なテストを通じて、GLAN は、タスク固有のトレーニング データに依存せずに、数学的推論、コーディング、学術試験、論理的推論を含むさまざまなタスクで効果的であることが証明されました。ソースこの記事は The Salt からの短い論文レビューです。 毎週の論文レビューについては、The Salt の購読を検討してください。 #合成データを最初から生成して #LLM #を微調整する