世界

これは、インターネットに接続されていないコンピューターでAIを使用することです

の未来 人工知能 必ずしもクラウドに依存するのではなく、ローカル処理や、コンピューターで実行する他のサービスによって依存します。私たちは一緒にいました Lenovo P14 sQualcomm Snapdragon X EliteとNPUが装備されており、AIを処理するのに最適なコンピューターに配置されています。私たちは、この新世代のコンピューターについて、AIに優先順位を付けるために変化するこの新しい世代のコンピューターについて、スペインのレノボの大統領であるアルベルト・ルーノと話をする機会がありました。最も興味深いことの1つは、ChatGPTモデルを実行することです。 インターネット接続は必要ありません。 Ruanoは明確です：«PCの未来はAIを通過します。インテリジェントアシスタントだけでなく、サーバーにデータを送信することなく、自宅で作業することを可能にする機能のために»。そして、それはまさに私たちがテストしてきたものです。 経験は私たちを驚かせました。 AnynyLLMなどのアプリケーションを使用して、RAG関数を介して独自のデータベースを統合することさえ、完全にローカルな言語モデルを実行することができました。ジャーナリストや弁護士などの敏感な情報を処理する人のために、この能力はゲームのルールを変更します。モデルはクラウドに何も送信する必要はなく、すべてがデバイスにとどまります。プライバシーは合計です。ローカルモデルを使用すると、の応答レベルに到達できるのは信じられないことです chatgpt-4o私たちは、私たちのコンピューターにインストールされている人間の知識概要の大部分を持ち、質問に答えることができる人工知能を持っていること。 私たちのテストでは、本当に輝いているモデルは、8,000トークン（プロンプトに含めることができる6,000または7,000語に相当）のコンテキストで、3.1 8Bチャットと呼び出しました。どちらもSnapdragon X EliteのNPUで実行されるように特別に最適化されており、Anythllmに直接統合されています。この場合、QualcommがNPUに適応したモデルであるため、パフォーマンスは優れていました。速い応答時間と、クラウドエクスペリエンスに匹敵する即時性の感覚です。 NPUを使用すると、推論の速度が向上するだけでなく、バッテリー消費量を大幅に削減し、他のタスクのメインプロセッサをリリースします。このようにして、特定のChatptで絶えず遊んでいても、ほぼ完全な1日の自律性を楽しみ続けることができます。そして、ルーノは次のように説明しています。「目標は、特定のモデルで最大25時間の自律性に到達することであり、デバイスの重量を大幅に増加させることはありません。」 また、NPUに最適化されていないモデルを実行しようとしました。たとえば、最新世代の8,000百万パラメーターやDeepSeek R11Bを備えた新しいQwen 3などです。ここでは、経験が変わります。彼らは働き、働きますが、CPUでそれを行うので、同じ敏ility性ではありません。他のモデルの場合、メモリの制限のために正しくロードすることさえできません。他の人では、機能的ではありますが、高性能GPUなしで非常に一般的なものでした。 このテストにより、Qualcommハードウェアは有望ですが、重要なのはモデルをエコシステム、つまりNPUに適していることです。 Lenovoのビジョンはハードウェアを超えています。 «コンピューターを作業ツール以上のものにしたい。 Ruano氏は説明しました。これは、インターネットに絶えず接続せずに、リアルタイムで理解、処理、支援できるデバイスを意味します。 エラーを報告します #これはインターネットに接続されていないコンピューターでAIを使用することです