1756186151
2025-08-26 05:00:00
スマートホームをセットアップした人は誰でもルーチンを知っています。1つはライトを暗くするアプリ、もう1つはサーモスタットを調整し、正確なフレージングのみを理解する音声アシスタントです。これらのシステムは自分自身をスマートと呼んでいますが、実際には、しばしば厳格でイライラしています。
新しい 紙 IEEEのシニアメンバーであるAlakesh Kalitaは、別の道を提案しています。 LLMをEdgeのIoTネットワークと組み合わせることにより、デバイスは直感的で調整された方法で自然言語コマンドに応答できます。各デバイスを個別に管理する代わりに、ユーザーは1つの幅広いコマンドを発行し、システムに詳細を把握できるようになります。
提案されたフレームワークは、データ収集、処理、迅速な作成、応答処理、およびアクチュエーター管理を処理する複数の構造化モジュールに分けられます
従来のIoTシステムは、単純なコマンドベースのロジックに依存しています。ユーザーは、ライトをオフにするか、単一の目的のアプリまたはセンサーを使用してサーモスタットを調整する場合があります。これらのシステムは機能しますが、ユーザーは、多くの場合、複数のステップを通じて、必要なものを正確に綴る必要があります。 Kalitaのアプローチは、LLMSを搭載した自然言語インターフェイスを追加し、ユーザーが「Movie Nightのセットアップ」などのより広範で柔軟なコマンドを発行できるようにします。システムは、その要求を解釈して、軽く照明を調整したり、テレビの電源を入れたり、温度を調整したりするなど、複数のデバイスをトリガーできます。
モジュール式のエッジファーストフレームワーク
この作業を実際に作るために、研究者はモジュール式のエッジ中心のデザインを提示します。リソースが限られているために実用的でない各IoTデバイスでLLMを実行する代わりに、モデルはネットワークのゲートウェイに接続されたより有能なエッジコンピューティングデバイスで実行されます。このセットアップはデータをローカルで処理し、レイテンシを減らし、プライバシーを改善します。
システムはいくつかのモジュールに分かれています。これは、センサーデータとユーザーコマンドを使用して収集するIoTデータ収集モジュールから始まります MQTT、軽量のメッセージングプロトコル。次に、データ処理モジュールがこの入力をフォーマットおよびフィルターします。履歴データは個別に保存され、後で意思決定のコンテキストを提供するために使用できます。
真の革新は、システムがLLMのプロンプトを作成する方法から生まれます。プロンプト作成モジュールは、リアルタイムセンサーデータと格納履歴を組み合わせて、検索された生成を使用して構造化されたプロンプトを生成します（ぼろきれ） アプローチ。この構造化された入力は、LLMがより正確で状況に対応する応答を提供するのに役立ちます。
LLMがプロンプトを処理すると、出力は応答処理モジュールに渡され、標準形式に分析します。アクチュエーター処理モジュールは、適切なコマンドをIoTデバイスに送り返します。
スマートホームでアプローチをテストします
このセットアップをテストするために、研究者はRaspberry Pi 5をエッジデバイスとして使用してスマートホームプロトタイプを構築しました。ライト、テレビ、ファンの3つのアプライアンスが使用されて接続されていました ESP8266 マイクロコントローラー。 2つのLLMがテストされました：Llama 3（7b）とGemma 2b。 「勉強の余地を設定する」や「私は今眠りたい」などのコマンドは、テキストインターフェイスを通じて発行されました。モデルはコマンドを解釈し、JSON応答を生成し、適切なアクションを派遣しました。
Llama 3は、セマンティックの精度が高いが、最大208秒までかなり長くかかった応答を提供しました。 Gemma 2Bは30秒未満ではるかに高速でしたが、時々コマンドを誤解していました。これは、コアトレードオフを強調しています。より大きなモデルはより正確ですが遅くなりますが、小さいモデルはより高速ですが、特定のタスクに合わせて調整する必要がある場合があります。
ユースケースの拡大
著者はまた、より広範なユースケースを探ります。産業用設定では、LLMSは複雑なセンサーパターンを解釈することにより、予測的メンテナンスを強化できます。ヘルスケアでは、ウェアラブルセンサーデータに基づいてリアルタイムの監視とパーソナライズされたアラートをサポートできます。
通信効率のために、Edge Deployed LLMSは、生データを送信する代わりにコンパクトなセマンティックな説明を生成することにより、帯域幅の使用を減らすことができます。これは、5Gおよび将来の6Gネットワークで特に関連します。
端にあるセキュリティの懸念
LLMSがIoTデバイスを制御する場合、セキュリティは大きな考慮事項です。 チャス・クローソン、SUMO LogicのセキュリティであるField CTOは、ヘルプセキュリティに、業界は長い間人間のアイデンティティの保護に焦点を当てているが、身体的変化を引き起こす可能性のある非人間のアイデンティティに同じ厳密さを適用する必要があると語った。彼は、研究がLLM制御パスをより安全で決定論的にするためにガードレールを改善しているが、「私たちはまだ信頼を必要としますが、すべてのアクションを監視、ポリシーチェック、および制御障害または境界違反をキャッチするためのアラートをラップする」ことを指摘しました。
実際には、Clawsonは、重要なシステムのログフィードを集中化し、外れ値の動作の検出を追加し、デバイスログを超えたテレメトリを拡張して、プロンプト、モデル出力、バリデーター拒否、およびアクチュエータの決定をファーストクラス監査イベントとして含めることを推奨しています。彼はまた、脆弱性の気付かれない導入を防ぐために、アプリケーションコード、モデル、およびRAG構成の変更を監視し、ソフトウェアサプライチェーンの考え方で展開することにより、「さらに左」をシフトすることをアドバイスしました。
この論文はまた、課題が残っていることを警告しています。機密データがLLMによって処理される場合、プライバシーは懸念事項です。ローカルエッジ実行は、クラウドベースのモデルよりも優れたプライバシーを提供しますが、スケーラビリティも制限します。ヘルスケアや産業の自動化などの重要な環境では、LLMからの間違いが物理的な結果をもたらす可能性があります。著者は、LLMをルールベースのシステムと組み合わせて、ドメイン固有のベンチマークを開発して信頼性を向上させることを提案しています。
#LLMS #EdgeIoTデバイスがどのように話し行動するかを再考する