1753735922
2025-07-28 20:32:00
- executorch ARM、Apple、Qualcommなどの業界リーダーからのサポートを受けて、Metaが開発したエッジデバイスのPytorch推論フレームワークです。
- 機械学習(ML)モデルのランニングオンデバイスは、Metaのファミリーオブアプリ(FOA)にとってますます重要になっています。これらのデバイスモデルは、ユーザーのデバイスにデータを保持することにより、レイテンシを改善し、ユーザーのプライバシーを維持し、オフライン機能を有効にします。
- Instagram、WhatsApp、Messenger、Facebookで何十億もの人々にサービスを提供しているデバイスのAI機能のいくつかを紹介しています。
- これらのロールアウトにより、MetaのFOAにおけるデバイスMLモデルのパフォーマンスと効率が大幅に向上し、研究を緩和しました。
executorchはそうでした 業界のリーダーとのコラボレーションで構築されています Pytorch 2.xテクノロジーを使用して、モデルを安定したコンパクトな表現に変換して、効率的なオンデバイス展開を行います。コンパクトなランタイム、モジュール性、および拡張性により、開発者はコンポーネントを簡単に選択およびカスタマイズできます。プラットフォーム全体の移植性、Pytorchとの互換性、高性能を確保します。
Executorchを採用することで、世界中の何十億人もの人々が使用する製品やサービスでのユーザーエクスペリエンスを強化するのに役立ちました。
以下は、ExecutorchがサポートするAndroidおよびiOSデバイス上のアプリのさまざまなMLモデルのほんの一部です。
Instagramでのカットアウトを有効にします
切り抜き Instagramの創造的な表現とストーリーテリングの最新機能の1つです。人々は、お気に入りの瞬間の写真やビデオを、リールやストーリーで共有できるアニメーションでパーソナライズされたステッカーに変換できます。 Instagramのカットアウト機能を移行して、Executorchで実行することで実行しました スクイーズサム、軽量バージョン メタセグメントAnything Model(SAM)。 AndroidとiOSの両方で、Executorchは古いスタックと比較して大幅に高速であり、Sutoutsの毎日のアクティブユーザー(DAU)の増加に変換されました。
Executorchは、Instagramのカットアウト機能を、デバイス上のステッカー生成(左)と写真のオーバーレイの作成の両方で、より速く効率的に実行できるようにします。 (右)
WhatsAppのビデオと呼び出しの品質を改善します
WhatsAppは、ネットワーク接続の帯域幅に関係なく、使用可能で信頼性が必要です。これを達成するために、さまざまなプラットフォームに合わせて帯域幅推定モデルを開発しました。これらのモデルは、利用可能なネットワーク帯域幅を検出および利用し、ビデオ通話の滑らかさを損なうことなくビデオストリーミング品質を最適化するのに役立ちます。
これらのモデルは、非常に正確であり、可能な限り効率的に実行する必要があります。 executorchを活用することにより、パフォーマンス、信頼性、効率の指標における帯域幅推定モデルの改善が観察されました。具体的には、モデルの負荷時間と平均推論時間を大幅に短縮しながら、アプリをレスポンシブ(ANR)メトリックではなく削減しました。途中で、古いPytorchモバイルフレームワークと比較して、セキュリティ保証をさらに強化しました。 ファジングテスト、プログラムに無効またはランダムな入力を提供し、例外を監視することを伴います。これらのリリースからの肯定的な信号を使用して、デバイスのノイズキャンセルやビデオ強化のためのものなど、他のいくつかの重要なWhatsAppモデルもExecutorchに移行しています。
ここでは、メッセンジャーの言語識別モデル(LID)は、Meta AIのImagine機能の迅速な言語を英語に制限します。
メッセンジャーのエンドツーエンド暗号化用のデバイスMLの配送
メッセンジャーのエンドツーエンド暗号化(E2EE) あなたとあなたが話している人々以外の人は、メタでさえもあなたのメッセージを見ることができないことを保証します。 Executorchは、サーバーサイドモデルを移動してオンデバイスを実行することにより、MessengerでE2EEを有効にし、データ転送を暗号化し続けることができます。
E2EEを有効にするために、メッセンジャーのデバイス上の言語識別(LID)モデルを含むいくつかのモデルを移行して展開しました。 LIDは、指定されたテキストの言語を検出し、翻訳、メッセージの要約、パーソナライズされたコンテンツの推奨事項など、さまざまなダウンストリームタスクを可能にするメッセンジャーモデルです。 executorchを使用すると、デバイス上の蓋が大幅に高速で、サーバーとネットワークの容量を節約します。
MessengerのE2EE環境を保存するために、Executorchを活用して、ビデオ通話品質(WhatsAppの帯域幅推定モデルと同様)を最適化するための1つとImage Sutout(Instagramのカットアウトと同様)を最適化するための1つを含む、他のメッセンジャーモデルをオンデバイスに移動しました。これらのシフトにより、容量を解放し、これらの機能をグローバルに拡大できるようにすることにより、インフラストラクチャの効率が向上しました。
Facebookのバックグラウンドミュージックの推奨事項
Facebookは、画像認識/分類、キャプション、画像のAIの生成背景の作成、画像安全チェックなど、さまざまなタスクを実行するシーンエックスと呼ばれるコアAIモデルを採用しています。 Executerchにシーンをシフトすることで、画像に基づいてバックグラウンドミュージックを提案することで、人々のFacebookストーリーを強化できるようになりました。
executorchのロールアウトにより、古いスタックと比較して、低いものからハイエンドのデバイスからボード全体でシーンエックスのパフォーマンスが向上しました。画像品質を高め、コール中にバックグラウンドノイズリダクションを実行するなど、他のいくつかのモデルは、A/Bテストのさまざまな段階にあります。
executorchコミュニティとのデバイスAIの未来を構築する
Executorchを活用して、大規模なメタ上のMLの課題のいくつかを解決するためにレバレッジを見た結果が、他の業界にとって勇気づけられることを願っています。 Executorchに貢献するように勧めます そして、私たちについてフィードバックを共有します githubページ。成長しているコミュニティに参加することもできます Executorch Discord Server。
Device MLでより多くの革新を推進し、コミュニティと一緒にDevice AIの未来を形作ることを楽しみにしています。
#executorchを使用したメタのファミリーのアプリファミリでのデバイスMLの加速