ローカル LLM は、オタクが不要な大型コンピューターを正当化する方法です。

これらすべての素晴らしい AI モデルを現在、私たちのハードウェア上で実行できるのは、非常に信じられないことです。 DeepSeek のダウンスケール バージョンから gpt-oss-20b まで、さまざまなタイプのコンピュータに対応する多くのオプションがあります。しかし、ここで本当のことを考えましょう。それらはすべて、レンタル可能なフロンティアモデルよりも大幅に遅れており、したがって、ほとんどの開発者にとってはせいぜい好奇心です。これは技術的な成果を損なうものではありません。小規模なモデルが改良されており、いつか開発者が日々の作業で信頼できるほど優れたものになるかもしれないという事実から、何も変わるものではありません。しかし、その日は今日ではありません。したがって、開発者がローカル モデルをどの程度実行できるかという観点で次のコンピューターを評価するのを聞くのは、偽りであると私は感じます。だって全部最悪だから！一方が他方より少し吸わないかどうかは、あまり重要ではありません。これに気づくとすぐに、作業の大部分でレンタル モデルの使用に戻ることになります。これは本当に素晴らしいニュースです！つまり、机の上に 128GB VRAM のコンピューターは本当に必要ありません。これで安心できるはずです RAMの価格が高騰しているまさに、より多くのリソースに対する AI の飽くなき要求のためです。最近のほとんどの開発者は、特に Linux を実行している場合は、ほとんど何もせずに済みます。おそらくあなたが思っているよりもはるかに少ない量で済むと思います。 #ローカル #LLM #はオタクが不要な大型コンピューターを正当化する方法です