1755339234
2025-08-16 09:00:00
最近のRedditの投稿で、Unslothが公開しました 包括的なチュートリアル 彼らがサポートするすべてのオープンモデルのうち。チュートリアルは、モデルの長所と短所、およびパフォーマンスベンチマークを比較するために使用できます。
このチュートリアルでは、Qwen、Kimi、Deepseek、Mistral、Phi、Gemma、Llamaなど、広く使用されているオープンモデルファミリの多くをカバーしています。このチュートリアルは、モデルの選択に関するガイダンスを探している建築家、ML科学者、および開発者に役立ちます。次に、微調整、量子化、および強化学習に関する指示。
各モデルについて、チュートリアルにはモデルの説明とそれがよくサポートするユースケースが含まれています。例えば：
QWEN3-CODER-480B-A35Bは、エージェントコーディングおよびコードタスクでSOTAの進歩を提供し、Claude Sonnet-4、GPT-4.1、およびAuterformingのマッチングまたはアウトパフォーマンスを発揮します。 K2として。 480Bモデルは、エイダーポリゴットで61.8％を達成し、1Mトークンまで拡張可能な256Kトークンコンテキストをサポートします。
チュートリアルでは、推奨パラメーターとシステムプロンプトを含む、llama.cpp、ollama、およびopenwebuiでモデルを実行する方法に関する指示を提供します。このチュートリアルは、施されていないユーザーのモデルを微調整する方法に関する指示とリソースを提供します。
Gemma 3nとOllamaの場合、指示は次のとおりです。
-
まだ行っていない場合はオラマをインストールしてください！
apt -getアップデートapt -getインストールpciutils -y curl -fssl | sh
-
モデルを実行してください！注Ollama Serveinで別のターミナルを呼び出すことができます。失敗した場合！抱きしめる顔のアップロードにパラメーターにすべての修正と提案されたパラメーター（温度など）を含めます！
Ollama Run hf.co/unsloth/gemma-3n-e4b-it-guguf-q4_k_xl
微調整命令は、モデルの実装で潜在的な問題を回避するための実用的なヒントを備えたUnslothプラットフォームに固有のものです。たとえば、Gemma 3N微調整ガイドには次の発言が含まれています。
gemma 3n、like ジェマ3、ColabのTesla T4SなどのFlotat16 GPUで実行されている問題がありました。推論や微調整のためにGemma 3Nをパッチしない場合、NansとInfinitiesに遭遇します。 以下の詳細。
[…]
また、Gemma 3Nのユニークなアーキテクチャがビジョンエンコーダーに隠された状態を再利用するため、別の興味深い癖をもたらすことがわかりました。 以下で説明する勾配チェックポイント
UnslothやAxolotlなどのオープンソースの微調整フレームワーククリエイターは、特定のユースケースのモデルを作成するのにチームがかかる時間を短縮したいと考えています。
AWSなどの代替微調整フレームワークとモデルのエコシステムのユーザーは、モデルの実行とその機能の要約に関する指示に役立つチュートリアルを引き続き見つける必要があります。
2023年に設立されたサンフランシスコのスタートアップであるUnslothは、ハグするフェイスハブに多くのオープンな微調整された量子化モデルを提供しています。これらのモデルは、コード生成やエージェントツールサポートなど、特定の目的のためにトレーニングされています。量子化とは、推論モードで実行する方が安くなることを意味します。施されていないドキュメントは、システムの目的は「ローカルでモデルトレーニングを単純化すること」であることを説明しています。 [cloud] プラットフォーム。合理化されたワークフローは、モデルの負荷と量子化からトレーニング、評価、保存、エクスポート、および推論エンジンとの統合まで、すべてを処理します。」
あなたが見つけることができます Unsloth初心者ガイド 会社のウェブサイトで。
#UnslothチュートリアルはLLMSを比較して微調整しやすくすることを目指しています