1773614379
2026-03-15 22:10:00
- Thunderbolt 5 の帯域幅により、外部 GPU ハードウェアがワークステーションの領域に近づきます
- クラウドコストが上昇し続ける中、ローカル AI 推論が注目を集める
- 開発者は、個人のハードウェア上で言語モデルを直接実行することをますます検討しています。
外部 GPU エンクロージャは以前から存在していましたが、通常はゲーム用ラップトップや、モバイル プロセッサの能力を超えるグラフィックス アクセラレーション タスクに関連していました。
Plugable が新たにリリースした TBT5-AI はこのカテゴリに属しますが、ローカル AI ワークロードのためにデスクトップ グラフィックス ハードウェアをラップトップに接続することに重点を置いた設計が導入されています。
このエンクロージャにはフルレングスの PCIe x16 スロットがあり、ユーザーは外部シャーシ内にデスクトップクラスのグラフィックス カードを取り付けることができます。
記事は下に続きます
外部エンクロージャ内のデスクトップクラスのハードウェア
850 ワットの統合電源が、高性能の実行に必要なエネルギーを供給します。 GPU 通常はデスクトップ内でのみ動作します ワークステーション。
接続用に、このデバイスには 1 本の Thunderbolt 5 ケーブルが付属しており、これにより、 ラップトップ、最大 80 Gbps の双方向帯域幅をサポートし、ブースト モードでは特定のワークロードのスループットを 120 Gbps まで高めることができます。
エンクロージャ内では、この帯域幅が PCIe 4.0 x4 レーンを介して取り付けられた GPU をリンクし、以前の外部 GPU 設計を制限していた転送のボトルネックを軽減します。
このシステムは、グラフィックス カードの収容に加えて、接続されたラップトップの接続を拡張するハブとしても機能します。
最大 96 ワットの充電電力を供給しながら、2.5 ギガビット イーサネット ネットワーキングと複数の高速 USB ポートも提供します。
Plugable によると、多くのエンジニアはモデル処理とデータ処理を自分のシステム内で維持したいと考えることが増えており、TBT5-AI はローカル AI 推論環境を実験する開発者向けに設計されており、まさにそれを提供します。
このデバイスにより、開発者は次のことを実行できます。 大規模な言語モデル ワークロードをクラウド インフラストラクチャに送信するのではなく、ローカル ハードウェア上で直接実行します。
llama.cpp、Hugging Face モデル、 エヌビディアの NIM 推論プラットフォーム。
Plugable の最高技術責任者であるバーニー・トンプソン氏は、このハードウェアは機密情報の保護が厳しい運用要件のままである業界をターゲットにしていると述べた。
「データプライバシーは機能ではなく義務です」とトンプソン氏はヘルスケア、金融サービス、法律機関などの分野に言及して述べた。
Plugable は、バンドルされたグラフィックス プロセッサを含む、TBT5-AI16、TBT5-AI32、および TBT5-AI96 と呼ばれるエンタープライズ バージョンも準備しています。
これらの構成には、規制対象組織向けのエアギャップ AI オーケストレーション プラットフォームとして説明される Plugable Chat と呼ばれるソフトウェア環境が統合されます。
同社は、これらのシステムにより AI 処理がサブスクリプションベースのクラウド サービスからローカルに制御されるコンピューティング インフラストラクチャに移行すると主張しています。
Plugable TBT5-AI エンクロージャのスタンドアロン ユニットの価格は 599.95 ドルで、数日前に正式にリリースされ、現在は以下から入手可能です。 アマゾン そしてPlugable.com。
経由 マックソース
Google ニュースで TechRadar をフォローしてください そして 私たちを優先情報源として追加してください 専門的なニュース、レビュー、意見をフィードで入手できます。ぜひフォローボタンをクリックしてください！
もちろん、次のこともできます TikTokでTechRadarをフォローしてください ニュース、レビュー、開封をビデオ形式で確認し、定期的に最新情報を入手してください。 ワッツアップ あまりにも。
#この #Thunderbolt #ボックスはほぼすべてのラップトップをクラウド #アクセスなしでローカル #モデルを実行するプライベート #パワーハウスに変えることができます