世界

ラップトップまたは電話でOpenaiのGPT-OSS AIモデルを実行する方法

あなたが見たかもしれないように、Openaiはちょうど持っています 2つの新しいAIモデルをリリースしました -GPT ‑ OSS ‑ 20BおよびGPT ‑ OSS-120B - GPT ‑ 2以来の会社からの最初のオープンウェイトモデルです。これらの2つのモデル（1つはよりコンパクトで、もう1つははるかに大きい）は、ローカルで実行できるという事実によって定義されています。彼らはあなたのデスクトップPCで動作します ラップトップ - ハードウェアが十分に強力であれば、オンラインに行ったり、クラウドの電源をタップする必要がないデバイス上にあります。したがって、20Bバージョンをダウンロードするか、PCが強力なマシンである場合は120Bスピンの場合、コンピューターでそれを使用して、それがどのように機能するか（テキストからテキストへの方法で）とモデルの考え方（推論のプロセス全体がステップに分類されます）を確認できます。確かに、これらのオープンモデルを微調整して構築することができますが、もちろん、安全ガードレールと検閲措置が整っています。 あなたは好きかもしれません しかし、これらのAIモデルを実行するには、どのようなハードウェアが必要ですか？この記事では、GPT ‑ OSS ‑ 20B（より抑制されたモデルパッキング210億パラメーター）と、1170億パラメーターを提供するGPT ‑ OSS-120Bの両方のPC仕様要件を調べています。後者はデータセンターの使用用に設計されていますが、ハイエンドPCで実行されますが、GPT ‑ OSS ‑ 20Bは消費者デバイス専用に設計されたモデルです。確かに、これらの新しいAIモデルを発表したとき、Sam Altmanは20Bを参照して、Mill-of-The-Millのラップトップだけでなくスマートフォンにも取り組んでいますが、それを十分に言っても、それはそれで十分です。 野心的な 主張、それは後で戻ってきます。これらのモデルは、抱きしめる顔からダウンロードできます（こちらです GPT ‑ OSS ‑ 20B そして、これがあります GPT…