オンサポート Android 搭載デバイスを使用すると、ネットワーク接続やクラウドへのデータ送信を必要とせずに、豊かな生成 AI エクスペリエンスを提供できます。オンデバイス AI は、低遅延、低コスト、プライバシー保護が主な懸念事項であるユースケースに最適なソリューションです。
オンデバイスのユースケースでは、Google の Gemini Nano 基盤モデルを利用できます。クラウドで推論を実行する他の Gemini モデルよりも小さいですが、Gemini Nano を微調整して、より大きな対応物と同様に特殊なタスクを実行することができます。
Gemini Nano は Android の AICore システム サービスで実行されます、デバイス ハードウェアを活用して推論遅延を低く抑え、モデルを最新の状態に保ちます。
Gemini Nano API と AICore へのアクセスは、Google AI Edge SDK によって提供されます。 Google AI Edge は、オンデバイス ML のための包括的なツール スイートです。 Google AI エッジについて詳しく見る。
建築
システムレベルのモジュールとして、デバイス上で推論を実行するために、一連の API を通じて AICore にアクセスします。さらに、AICore にはいくつかの安全機能が組み込まれており、当社の安全フィルターに対する徹底的な評価を保証します。次の図は、アプリが AICore にアクセスしてデバイス上で Gemini Nano を実行する方法を示しています。
図1. Google AI Edge SDK、AICore、Gemini Nano。
ユーザーデータをプライベートかつ安全に保つ
オンデバイスの生成 AI はプロンプトをローカルで実行し、サーバー呼び出しを排除します。このアプローチでは、機密データをデバイス上に保持することでプライバシーが強化され、オフライン機能が有効になり、推論コストが削減されます。
AICore はプライベート コンピューティング コアの原則に準拠しており、次の主要な特徴があります。
制限付きパッケージバインディング: AICore は、特定のシステム パッケージに対する限られた例外を除き、他のほとんどのパッケージから分離されています。この許可リストへの変更は、完全な Android OTA アップデート中にのみ行うことができます。
間接的なインターネット アクセス: AICore にはインターネットへの直接アクセスがありません。モデルのダウンロードを含むすべてのインターネット リクエストは、オープンソースの Private Compute Services コンパニオン APK を通じてルーティングされます。 Private Compute Services 内の API は、プライバシー中心の性質を明示的に示す必要があります。
図2。 AIコアアーキテクチャ
AICore を使用して AI 基盤モデルにアクセスする利点
AICore を使用すると、Android OS で AI 基盤モデルを提供および管理できます。これにより、主に次の理由により、アプリ内でこれらの大規模なモデルを使用するコストが大幅に削減されます。
導入の容易さ: AICore は Gemini Nano の配布を管理し、将来のアップデートを処理します。ネットワーク経由で大規模なモデルをダウンロードまたは更新することを心配する必要はなく、アプリのディスクやランタイム メモリの予算への影響も心配する必要はありません。
加速された推論: AICore はオンデバイス ハードウェアを活用して推論を高速化します。アプリは各デバイスで最高のパフォーマンスを得ることができるため、基盤となるハードウェア インターフェイスについて心配する必要はありません。
サポートされている機能
AICore は次のデバイスとモダリティをサポートします。
- サポートされているデバイス: AICore は現在、Pixel 9 シリーズ デバイス、Pixel 8 を含む Google Pixel 8 シリーズ デバイスで利用可能です1 とPixel 8a2、Samsung S24 シリーズ デバイス、Samsung Z Fold6、Samsung Z Flip6、Realme GT 6、Motorola Edge 50 Ultra、Motorola Razr 50 Ultra、Xiaomi 14T/Pro、および Xiaomi MIX Flip。
- サポートされているモダリティ: AICore は現在、Gemini Nano のテキスト モダリティをサポートしています。
追加のデバイスとモダリティのサポートは、積極的な投資が行われている分野です。
ユースケース
クラウド サーバーと比較してモバイル デバイスのリソース制約があるため、オンデバイスの生成 AI モデルは効率とサイズに重点を置いて設計されています。この最適化では、より一般化されたアプリケーションよりも、明確に定義された特定のタスクが優先されます。適切な使用例は次のとおりです。
- テキストの言い換え: テキストのトーンとスタイルを変更します (カジュアルからフォーマルなど)。
- スマート リプライ: チャット スレッド内で状況に応じて関連する応答を生成します。
- 校正: スペルと文法の間違いを特定して修正します。
- 要約: 長い文書を簡潔な要約 (段落または箇条書き) に凝縮します。
最適なパフォーマンスについては、以下を参照してください。 戦略を促す
ドキュメント。これらのユースケースを直接調べるには、サンプル アプリをダウンロードして、Gemini Nano の実験を開始してください。
Gemini Nano は、いくつかの Google アプリで使用されています。例としては次のようなものがあります。
- トークバック: Androidのアクセシビリティアプリ トークバック Gemini Nano のマルチモーダル入力機能を活用して、視覚障害のあるユーザー向けの画像説明を改善します。
- ピクセルボイスレコーダー： の ピクセルボイスレコーダー アプリは Gemini Nano と AICore を使用して、デバイス上の要約機能を強化します。 Recorder チームは、より長時間の録音をサポートし、より高品質のサマリーを提供するために、最新の Gemini Nano モデルを採用しました。
- ジーボード: Gboard スマート リプライは、AICore を備えたオンデバイスの Gemini Nano を利用して、正確なスマート リプライを提供します。
#Gemini #Nano #と #Google #Edge #SDK #Android #開発者