はじめに

• オンデバイスAIとは、クラウドではなく手元のスマホやPCの中だけでAIの推論を動かす技術です。2026年は iPhone・Pixel・AI PC の対応モデルへ次々と広がり、一気に身近になりました
• 最大の魅力はプライバシーとオフライン動作・低遅延。ただし「データが外に出ない＝何でも安全」ではなく、モデルが端末上にあるからこその新しいリスクもあります
• 端末内モデルだけでは大きな処理に限界があるため、業界の答えはハイブリッドAI（できることは端末で、複雑なことはクラウドへ賢く振り分け）に向かっています

この記事では、オンデバイスAIの基礎からメリットデメリット、プライバシーとセキュリティ、そして Apple Intelligence・Google Pixel・AI PC という3つの主役の現在地を、技術者の視点で具体的に整理します。Macでできる実機検証のコラムも用意したので、お手元の環境でぜひ試してみてくださいね。

生成AIの社内利用をお考えの企業様へ 
ナレフルチャットは初心者でも使いやすい設計で、組織全体への生成AI浸透を支援するツールです。プロンプト自動生成機能や社内共有機能により、AIリテラシーに差があっても全員が活用できます。企業のAI導入を検討している方は、こちらをご覧ください。

オンデバイスAIとは

ここではまず、オンデバイスAIとは何かを、クラウドAIと比べながら整理します。AIを手元の端末の中だけで動かす、というのが基本のイメージですよ

定義とクラウドAIとの違い

オンデバイスAIとは、スマートフォンやPCなどの端末そのものの上でAIの推論処理を完結させる技術です。ChatGPT のようにデータをクラウドへ送って処理してもらうのではなく、入力も推論も出力もすべて端末の中で行います。

両者の違いを表にまとめてみましょう。

ざっくり言うと、手軽さ・プライバシー・反応の速さ（通信待ちがない） がオンデバイス、圧倒的な賢さ・大きさ がクラウド、という住み分けです。なお「反応の速さ」は通信の往復がなくなることによるもので、推論そのものの処理速度は端末のチップ次第です。大きなモデルだとクラウドより遅くなることもあるので、ここは後ほど詳しく触れますね。

エッジAIとの関係

「エッジAI」という言葉を聞いたことがある方も多いのではないでしょうか。エッジAIは、工場の製造装置・監視カメラ・自動車・基地局まで含む「ネットワークの端でAIを動かす」幅広い概念です。

その中でも、スマホやPCなど私たちが日常的に手に持つコンシューマー端末向けのものが「オンデバイスAI」 だと考えると分かりやすいです。本記事はこのコンシューマー端末にしぼって深掘りします。

ちなみに、AI推論を支える専用プロセッサ「NPU（Neural Processing Unit）」は、いまやスマホにもPCにも当たり前のように載っています。NPUはCPUやGPUと比べて、低消費電力でAI推論を高速にこなせるのが持ち味です

なぜ2026年に盛り上がっているのか

オンデバイスAIが2026年に一気に主役級になった理由は、大きく3つあります。

1. NPUの普及 … スマホもPCも、AI推論に特化した省電力プロセッサ（NPU）を当たり前に積むようになりました
2. 小型モデルの性能向上 … 数十億パラメータ級のモデルでも、数年前の大型モデルに迫る品質を出せるようになりました
3. プライバシー意識の高まり … 個人データをクラウドに送りたくないというニーズが、規制と利用者の両面から強まっています

市場規模

市場の伸びも数字に表れています。ただし調査会社ごとに「オンデバイスAI」「エッジAI」など定義の範囲が違うため、ここでは出所を明記して並べます（数値は断定ではなく目安として見てくださいね）。

出典 market.us On-Device AI Market / SNS Insider On-Device AI Market / BCC Research Edge AI Market

どの調査でも年率25%超で伸びると見られていて、これからますます身近になる分野です。

メリットとデメリット

ここでは、オンデバイスAIの良いところと、まだ苦手なところを正直に並べていきます。両方を知っておくと、製品選びや設計の判断がぶれません。

メリット

• プライバシーが守られる … 生データが端末から出ないため、送信時の漏洩や第三者保存のリスクを構造的に減らせます
• オフラインで動く … 飛行機の中でも地下でも、ネットがなくてもAI機能が使えます
• 遅延が小さい … サーバーとの往復通信がないので、文字起こしや翻訳などリアルタイム処理に強いです
• 通信コストとAPI課金がかからない … クラウド推論のような従量課金が発生しません
• 可用性が高い … サーバー障害や混雑の影響を受けにくいです

デメリットと制約

一方で、正直なところまだ苦手なこともあります。次の5つは特に押さえておきたいポイントです。

• モデルサイズと性能の上限 … 端末に載せられるモデルは数十億パラメータ級が中心で、クラウドの巨大モデルほどの賢さは出しにくいです
• メモリが最大のボトルネック … モデルの重みをメモリに常駐させる必要があり、これが端末で動かせるモデルサイズを直接縛ります
• バッテリーと発熱 … スマホは継続的な高負荷向けの放熱が苦手で、モデルが大きくなると発熱で性能が抑えられる（サーマルスロットリング）ことがあります
• 配信と更新が難しい … クラウドはサーバー側を更新すれば全員に反映されますが、端末モデルは各デバイスへ配信する必要があり、機種差も大きいです
• 「オンデバイス＝速い」とは限らない … チップやメモリが弱い端末では、かえってクラウドより遅くなる場合もあります

量子化というトレードオフ

端末にモデルを載せる鍵が量子化です。これはモデルの重みの精度を落としてサイズを小さくする技術で、AIの脳みそを軽量化して持ち運べるようにするイメージです

たとえば70億パラメータ（7B）のモデルの場合、ざっくり以下のように縮みます。

出典 Nearform On-device generative AI

ただし精度を落とすほど品質も少しずつ犠牲になります。「載せるために小さくする」と「賢さを保つ」のバランスを取るのが、オンデバイスAI設計の腕の見せどころです。

プライバシーとセキュリティ

「データが外に出ないから安全」とよく言われますが、本当にそうでしょうか。ここでは、オンデバイスAIのプライバシーとセキュリティを、光と影の両面から整理します。

プライバシー上の利点

オンデバイスAIの最大の売りがプライバシーです。データを端末内で処理するため、クラウドへ送らずに済みます。これは GDPR が求めるデータ最小化やプライバシー・バイ・デザインの考え方と相性がよく、医療や健康データなど機微な領域で特に評価されています。

英国の規制当局 ICO も、UK GDPR をAIに適用する詳細なガイダンスを公開しており、規制当局は「AIとデータ保護」を一体の遵守テーマとして扱う方向にあります。

出典 ICO Artificial intelligence guidance

セキュリティの両面性

ここで大事なのは、「端末内で処理する＝完全に安全」ではないということです。プライバシーは向上しますが、セキュリティの面では新しい論点も生まれます。

• 攻撃面が変わる … クラウド集約が減る一方で、たくさんの端末に処理が分散することで、守るべき対象が広がる側面もあります
• モデル抽出のリスク … モデルが端末上に保存されるため、攻撃者がモデルを取り出して解析・複製・改ざんできる可能性があります
• サイドチャネル攻撃や物理改ざん … 消費電力やタイミングからモデルの内部を推定したり、端末そのものを物理的に細工する攻撃も研究されています

油断は禁物という実例

2025年には、Android のオンデバイス画像検出サービス「SafetyCore」を対象にした学術研究が公開されました。端末上のモデルを抽出して画像を細工し、保護機構を実質的にすり抜けられることを示したものです。

出典 arXiv 2509.06371

これは「オンデバイスだから安全」と過信せず、モデルへのアクセス対策や異常検知も合わせて考える必要があることを教えてくれます。

プライバシー（データが漏れにくい）とセキュリティ（攻撃されにくい）は別物だと意識すると整理がラクになります。オンデバイスは前者に強いけれど、後者では「モデルが手元にある」ことが新しい弱点にもなる、という温度感が正確です。

iPhone・Mac Apple Intelligence

ここからは3つのプラットフォームを順に見ていきます。最初は iPhone と Mac の頭脳、Apple Intelligence です。端末内モデルとプライベートクラウドの二段構えが特徴になっています。

2層構成という考え方

Apple Intelligence は、まず端末内の小さなモデルで処理し、手に負えない複雑な要求だけをクラウドへ回すという2層構成が特徴です。

• オンデバイスモデル … Apple silicon 向けに最適化された言語モデル。2025年時点では約30億（3B）パラメータ級
• Private Cloud Compute（PCC） … 端末で処理しきれない要求を引き受ける、Apple独自のプライバシー設計クラウド

出典 Apple Machine Learning Research 2025 updates / Apple Intelligence Engine（プライバシー）

Private Cloud Compute のプライバシー設計

クラウドに回す＝プライバシーが下がる、と思いますよね。でも Apple は PCC に「処理後にデータを残さない」「管理者でも中のデータに触れない」「特定個人を狙い撃ちできない」「本番ソフトを公開して第三者が検証できる」といった強いルールを課しています。端末は、公開済みソフトを動かしていると暗号的に確認できたノードにしかデータを送りません。

出典 Apple Security Private Cloud Compute

2026年WWDC26の最新情報

2026年6月のWWDC26では、Apple Foundation Models（AFM）の第3世代が発表されました。注目は端末内モデルの大幅な進化です。

• AFM 3 Core … 約30億パラメータの後継モデル（品質向上）
• AFM 3 Core Advanced … 200億（20B）パラメータの疎（sparse）なオンデバイスモデル。プロンプトに応じて一部だけを動かす仕組みで、最も高性能な端末でのみ有効化。新しいSiriや高精度ディクテーションなどを担います
• クラウド側にも3つのモデルが用意され、全体を束ねる「system orchestrator」が役割分担します

出典 Apple 第3世代 Foundation Models

開発者向けには、端末内モデルを直接呼び出せる Foundation Models framework（WWDC25発表）も用意されています。推論はオフラインで動き、利用は無料です。

対応デバイスとオンデバイス機能

動かすには A17 Pro または M1以降のチップ＋8GB以上のメモリが必要で、iPhone 16以降や iPhone 15 Pro、M1以降の iPad / Mac などが対応します（日本語を含む16言語）。

端末内で処理される主な機能はこちらです。

• メール・メッセージ・通知のプレビュー要約
• 文章校正（Proofread）やリライト
• Genmoji の生成、Image Playground（モデルダウンロード後）
• 写真の自然言語検索やクリーンアップ

出典 Apple Intelligence 公式 / Apple 機能一覧

検証 新しい Siri AI を Mac で試す

WWDC26で最も大きく取り上げられたのが、ゼロから作り直された Siri AI です。画面に映っている内容を理解し、複数のアプリにまたがる操作を会話でこなせるのが特徴うさ ここでは、その目玉である「画面の内容をそのまま Siri に尋ねる（オンスクリーン認識）」を、実際に Mac（macOS 27）で試してみました。

⏳ 提供時期について
Siri AI は2026年6月時点では開発者ベータでの先行提供で、すべての人向けの正式提供は2026年秋の予定です。

設定方法（はじめに一度だけ）

1. アップルメニュー →「システム設定」→「Apple Intelligenceと Siri」を開く
2. Apple Intelligence をオン、Siri をオンにする（初回はモデルのダウンロードに数分かかることがあります。Wi-Fiと電源につないで待つのがおすすめです）
3. 同じ画面の「キーボードショートカット」で、Siri を呼び出すキーを確認・変更できます
   • デフォルトは「Command（⌘）を2回押す」

検証 画面の内容を Siri AI に尋ねる

手順

1. 要約したい Webページや長めの文章を画面に表示する
2. Siri を呼び出す（⌘を2回 など）か、画面上を Control-クリック（右クリック）→「Ask Siri」 から尋ねる
3. 今回は表示中のブログ記事に対して「いま表示している画面の要点を3つにまとめて」とお願いしました

Mac（macOS 27）で、表示中のブログ記事の要約を Siri AI に依頼したところ

結果

数秒で、画面の内容を日本語のまま3点に要約してくれました。記事の主旨（長コンテキストLLMの解説）をきちんと読み取れています。ブラウザを開いたまま、別アプリに切り替えずに要約まで完結できるのが快適でした。

表示中の記事を3つの要点に整理してくれた。下部の入力欄からそのまま会話を続けられる

法人向け生成AIサービス「ナレフルチャット」では、ChatGPT、Gemini、Claudeなど主要プロバイダのAIモデルを選んで利用可能！用途に応じて、料金の低いモデルを使うなど最適なAI活用を可能にします。
また、料金プランは企業単位の定額制を採用しており、何人で利用しても追加のコストは発生しないため、コスト管理の手間がかからないスムーズな全社導入を実現できます。
初月無料で生成AIが利用できるトライアル期間も用意しておりますので、生成AIの利活用を検討している企業様は、是非一度導入をご検討ください。

Android Google Pixel / Gemini Nano

2つ目は Android です。Androidは多くのメーカーの端末がありますが、ここではオンデバイスAIに力を入れている代表例として Google Pixel を取り上げます。Pixelの中では「Gemini Nano」という小さなGeminiが動いています

Gemini Nanoとは

Gemini Nano は、ネット接続なしで生成AIを動かすためのオンデバイス向け基盤モデルです。Android上では「AICore」というシステムサービスの中で動きます。

Pixel での世代対応は、おおよそ次のように進んできました。

出典 Android Developers Gemini Nano

最新の nano v3 は、Pixel 10 の Tensor G5 チップで動き、前世代比で約2.6倍高速・約2倍効率的とされています。

出典 Google Blog Tensor G5

Gemini Nano と Gemma 4（開発者の入口）

ここで紛らわしいのが、Gemini Nano と Gemma の関係です。Gemini Nano は Pixel に内蔵されたプロプライエタリなモデルで、開発者は ML Kit GenAI API（要約・校正・書き換え・画像説明が端末内で完結）を通して呼び出します。

一方、2026年4月に公開された Gemma 4 はオープンウェイトのモデル（Apache 2.0）で、スマホでも動く E2B / E4B が用意されています。Gemini と同じ研究をもとに作られていて、誰でも自由にダウンロードして動かせるのが大きな違いです。「自分の手で動かすローカルAI」を試したい方は、こちらが入口になります。

出典 ML Kit GenAI APIs / Google Blog Gemma 4

オンデバイス機能の具体例

Pixel 10 では、20以上のオンデバイス生成AI体験が用意されています。

• Magic Cue … 通話やメッセージの文脈に応じて、必要な情報を先回りして提示
• Voice Translate … 通話をリアルタイム翻訳し、話者本人の声で再現
• Call Notes … 通話を要約し、カレンダー登録などのアクションを提案
• レコーダー要約 … 録音した会議や講義をオフラインで要約
• スキャム検出 … 通話やテキストの詐欺パターンを端末内で検出（データはクラウドに送らない）
• TalkBack の画像説明 … ラベルのない画像も端末上で説明し、アクセシビリティを高める

出典 Google Blog Pixel 10 AI features / Google Store Gemini Nano offline

📱 Android（Pixel）での実機検証について
自分の手で動かすオンデバイスAI（Gemma 4 などのオープンモデル）の実機検証は、別記事「うさぎでもわかる！ローカルLLM比較ガイド 注目モデルの実力と使い分け」で実際に試しています。スマホで動くローカルモデルの実力が気になる方は、そちらもあわせてどうぞ

Windows AI PC / Copilot+ PC

3つ目は Windows の AI PC です。手元のPCの中でAIが動く時代になりました。ここでは端末内で動くモデルと、開発者向けの基盤に注目していきます。

まずは入場条件だけ簡単に

Copilot+ PC は、40兆回/秒（40+ TOPS）以上を処理できるNPUを積んだPCのクラスです。あわせて16GB RAM・256GB SSDなどが最低要件になっています。対象SoCは Qualcomm Snapdragon X シリーズ、Intel Core Ultra 200V/300V シリーズ、AMD Ryzen AI 300/400 シリーズなどです。

出典 Microsoft Windows 11 specifications

Phi Silica（端末内で動く小型言語モデル）

Windows のオンデバイスAIの心臓部が Phi Silica です。Microsoft が開発した約33億（3.3B）パラメータの小型言語モデル（SLM）で、Copilot+ PC のNPU上で動くよう最適化されています。4bit量子化で低メモリ・低消費電力に抑えつつ、短いプロンプトなら最初のトークンが出るまで約230ミリ秒という応答性を実現しています。

なお開発者向けには、CPU/GPU/NPUを自動的に使い分ける推論ランタイム Windows ML（2025年9月に正式提供開始）が用意されています。

出典 Microsoft Phi Silica / Windows ML GA

オンデバイス機能の具体例

• Recall … PC上で見たものを横断的に検索。インデックスは端末内に作って保存します
• Live Captions … 音声や動画をリアルタイムで字幕化・翻訳（27言語以上からの翻訳に対応）
• Cocreator（ペイント） … テキストと手描きスケッチから端末内で画像生成
• そのほか Windows Studio Effects、Restyle Image、Click to Do など

なお Recall は当初プライバシー懸念で提供が延期され、その後「端末内処理」「暗号化」「オプトイン」といった配慮を加えて段階的に展開された経緯があります。

出典 Microsoft Copilot+ PCs / Windows Experience Blog

オンデバイスとクラウドの“いいとこ取り” ハイブリッドAIへ

最後に、オンデバイスAIのこれからを考えます。全部を端末でもクラウドでもなく、両者を賢く分担させる流れがはっきりと見えてきています。

たどり着いた現実解はハイブリッド

ここまで見てきたように、オンデバイスAIには「速くて安全だけど大きな処理は苦手」という性質があります。そこで業界が向かっているのがハイブリッドAIです。

考え方はシンプルで、できることは端末で処理し、複雑なことだけクラウドへ振り分けるというもの。Qualcomm は、モデルサイズ・プロンプト・生成量が一定以下で十分な精度が出るなら端末で完結、複雑なら端末とクラウドで分担、と説明しています。0か100かではなく「混ぜて使う」発想です。

出典 Qualcomm The future of AI is hybrid

端末とクラウドの共同プレー

両者がチームで動く面白い例が投機的デコーディングです。端末上の小さなモデルが先回りで答えの候補を作り、クラウドの大きなモデルが並列でそれを検証・採用します。速度と省エネを両立できるアプローチです。

Apple の Private Cloud Compute も、まさにこのハイブリッドの一形態と言えます。

端末別の役割分担イメージ

Qualcomm は、端末ごとに動かせるモデルサイズの目安をこう示しています。

出典 Qualcomm Hybrid AI ビジョン（YouTube, 2025年9月）

残る課題

ハイブリッドにも宿題があります。いつ・どの処理が端末からクラウドへ回されたのかが利用者や開発者から見えづらい、という透明性の課題です。とくに企業利用では「どこで推論が実行されたか」を記録したい場面があり、可観測性（ログやポリシー制御）の整備が今後の論点になっています。

出典 SimpleMDM Apple Intelligence PCC for enterprise

まとめ

ここまでお疲れさまでした 最後にぎゅっと振り返ります。

• iPhone（Apple Intelligence） … 端末内モデルとPrivate Cloud Computeの2層構成。プライバシー設計の透明性が強み。2026年は最上位機向けに20B級の端末内モデルも登場
• Pixel（Gemini Nano） … AICoreの上で動く小さなGemini。Pixel 10＋Tensor G5で大きく進化し、レコーダー要約やVoice Translateなどオフライン機能が充実
• AI PC（Copilot+ PC） … 端末内SLMのPhi SilicaとWindows MLが軸。NPUを生かしたローカルAIが当たり前に

オンデバイスAIは「プライバシー・オフライン・低遅延」という確かな強みを持ちつつ、メモリやバッテリーという物理的な限界も抱えています。だからこそ、全部を端末でもクラウドでもなく、賢く分担するハイブリッドAIが現実解として広がっています。

技術者として今すぐ触れる入口もそろっています。

• Apple … Foundation Models framework
• Google … ML Kit GenAI API、Gemma 4
• Microsoft … Windows ML、Phi Silica

お手元に Mac があれば、本記事の検証コラムで新しい Siri AI をぜひ試してみてください。スマホ側の検証が気になる方は、別記事のローカルLLM比較ガイドもどうぞ。手元の端末がこんなにAIを動かせる時代になったんだなあと、きっと実感できるはずですよ