文 | 云涌AI ,作者 | 黄云皓
一. Google I/O 2026之后:四大端侧OS步入Agent时代
2026年5月12日,Google举办了Android Show|I/O Edition发布会,这是5月19日I/O大会之前的Android专场。Android生态总裁Sameer Samat给这场发布会定调:Android要从操作系统转化成一套智能系统。承接这条主线的,就是Gemini Intelligence——Android系统层的一套主动式AI能力。
2026年Android Show|I/O Edition发布会海报
来源:Android Heaadlines
与去年Gemini Nano+AICore的组合相比,这次Google让Agent跨App与上下文的能力进一步嵌入OS层:跨App任务自动化(订餐、采购、下单)、表单自动填充、网页摘要、自定义小组件,依次写进系统级能力清单。Google同时把用户显性控制(explicit user control)、全面数据保护(comprehensive data protection)、运营透明(operational transparency)列为产品三原则。
一周后的5月19日I/O主题演讲上,Google CEO Sundar Pichai沿这条主线开场:
Welcome to the agentic Gemini era(欢迎进入Agent化的Gemini时代)
投身端侧OS Agent化浪潮,Google算不上起跑早。
Microsoft在2024年5月的Build 2024上推出Copilot+PC(搭载40+ TOPS NPU的新一代Windows 11机型品类),基于端侧小模型Phi Silica、屏幕Agent能力Click to Do、系统级活动记忆Recall三项能力将Agent能力嵌入OS系统。
2024年6月的WWDC24上,Apple就已正式公布“Apple Intelligence”,Apple当时给它的定位就是“personal intelligence system”(个人智能系统),后续陆续上线了一些AI辅助功能,只不过由于自家大模型难产、Siri“弱智”等问题,Apple Intelligence的核心Agent能力一直未能面世。
华为则在2025年6月HDC 2025上发布HarmonyOS 6与鸿蒙智能体框架(HMAF),随后小艺智能体广场上线了80多个智能体。
端侧OS Agent化的大趋势已经同时出现在Android、iOS、HarmonyOS、Windows等主流操作系统上。
发布会展示的只是功能,OS厂商真正要拼的,是支撑OS Agent可靠运行、实际解决问题的三层能力底:系统级AI Runtime、可控芯片、端云模型矩阵。
二. 发布会之下:撑起OS Agent的三层底盘
系统级AI Runtime:端侧智能的调度中枢
Runtime是端侧模型在操作系统里运行的推理引擎与系统服务。往下,它直接对接NPU与系统资源调度;往上,它以稳定API把推理能力暴露给所有App。它把端侧模型变成了“OS层的共享智能”:跨App共享模型权重、统一调度算力与内存、承载Agent所需的工具调用、引导生成、上下文与权限对接。它决定了OS Agent究竟是App里的一个聊天按钮,还是操作系统上能执行系统级操作的常驻服务。
Android体系内最完整的样本是Google AICore。2023年12月,AICore作为Android 14的系统服务(system service)上线;2025年8月,Gemini Nano通过ML Kit GenAI APIs对开发者开放。从系统服务底座到面向App的稳定API,AICore走了近两年,不断打磨。
其他OS厂商走的是同一条路,节奏不同。Apple在WWDC25把Foundation Models框架开放给开发者,框架自带@Generable装饰器、工具调用、引导生成(guided generation)与有状态会话(stateful session),背后接的是约3B参数的端侧基础模型,加上私密云端计算提供云端支持。Microsoft把端侧AI框架Foundry on Windows与Phi Silica装进Windows 11,以Windows ML作为底层推理后端。华为在HDC 2025发布Agent Framework Kit(鸿蒙智能体框架,HMAF),把意图体系与Agent协作协议一起开放。
Android AICore 作为系统服务,调度 Gemini Nano 在硬件加速器上推理
来源:Android Developers
可控芯片:软硬协同的支点
Google在Android Show|I/O Edition上为Gemini Intelligence设置明确的硬件门槛:完整功能集首发仅面向Pixel 10系列与Galaxy S26系列等少数最新旗舰,去年的机型均不在列。这指向一个简单事实:AI模型还在快速演进,软件对硬件持续提出新要求。可控芯片是承接这些要求的底盘,可控程度决定OS厂商为端侧OS Agent做软硬适配的空间。
Apple是软硬一体路线的典范。iOS与macOS从一开始就与A系列、M系列芯片同代演进,Core ML则把CPU、GPU、ANE的调度统一封装到框架层。这条路线在LLM时代继续延伸。Apple Machine Learning Research给出过一组实测:按Core ML的优化路径把Llama 3.1 8B Instruct部署到M1 Max上,本地解码速度可达约33 tokens/s。《Apple Intelligence Foundation Language Models》技术报告也披露,Apple为自家芯片做了KV cache共享与2-bit量化感知训练等架构级优化,才得以成功把约3B的端侧基础模型通过Foundation Models框架开放给开发者。这种深度,只有把芯片握在自己手里才做得出——这正是可控芯片之于OS厂商的价值:它决定了软硬协同的深度,也提高了端侧OS Agent的体验上限。
进入AI时代,Google也在做同一件事——从Pixel 6起走自研Tensor SoC路线,最新的Tensor G5把TPU性能最高提升60%、CPU平均提升34%,作为首款完整运行最新一代Gemini Nano的SoC在Pixel 10落地。当然,Tensor G5也有短板:Android Central实测显示其内存配置(RAM容量)仍是AI性能瓶颈、Geekbench AI跑分输给骁龙8 Elite;Macworld的Geekbench 6实测中,G5的单核与多核分数都低于A18 Pro。Google还在追赶,但自研Tensor加端侧Gemini的协同路线已经成形。
华为麒麟搭配达芬奇NPU与盘古端侧模型,是另一条与Apple、Google并行的可控芯片路径。小米落地了玄戒O1,是朝可控芯片方向走出的新进者。
端云模型矩阵:Agent的智力源泉
端云模型矩阵是终端设备的“智力”源泉:云端模型撑起复杂任务的能力天花板,端侧模型托起日常运行的下限——延迟、续航、隐私、稳定性都压在端侧这一头。两端缺一不可,差别在与OS的耦合深度。端侧模型要嵌入每一台终端设备的OS、与本机NPU深度耦合,在OS里承担双重身份:往下,它是Runtime的本地推理后端;往上,它通过Runtime的框架与SDK作为系统级API向App开放。
自研在云端、端侧都有意义,只是端侧的回报更显性。云端模型外采也能撑起能力天花板,自研的优势则主要体现在路由控制权、商业条款、模型迭代节奏。端侧不同。端侧模型嵌入到每一台设备的OS与NPU之中,自研的回报直接体现在产品性能上:KV cache共享、为某代芯片专门设计的2-bit量化感知训练、Per-Layer Embedding(源自Gemma 3n,按层从快速存储增量加载嵌入参数)等等,这些都得是模型与硬件同步设计才方便实现;与此同时,协同节奏也不可再受第三方硬件厂商制约。
Tensor G5的TPU算力较上一代G4最高提升60%,但Gemini Nano在G5上的提升远不止于此——据Google官方与Jon Peddie Research整理,本地处理速度达上一代的2.6倍、能耗降至原先的一半、token窗口从12,000扩到32,000(相当于一次性消化约百张截图)。这些显著超出的性能表现,源自Gemini Nano v3采用的Matryoshka Transformer弹性推理架构,叠加与Tensor G5 TPU的协同优化。
Gemini Nano on Tensor G5较上一代的性能跃迁
来源:Google/Jon Peddie Research,云涌AI制图
端侧模型这一层,各主流OS厂商手里握着的都是自家牌:Google的Gemini Nano、Apple约3B参数的端侧基础模型、Microsoft的Phi Silica、华为的盘古端侧模型。自研,是这一层的默认选项。
三. 三层之间:协同越深,差异化空间越大
三层能力底盘自下而上耦合:可控芯片→端侧/云端模型→Runtime→Agent。可控芯片决定端侧模型可达到的推理效率与功耗,端侧模型决定Runtime可调度的本地智能,Runtime决定Agent作为系统服务跨App执行的可靠性。三者协同越深,OS厂商在端侧Agent上的产品体验差异化越大,护城河也越厚。
三层在同一套软硬件中咬合得越深,OS Agent 的产品能力也越会涌现出单层做不到的差异。
- 响应延迟与功耗。Gemini Nano在Tensor G5上拿到的2.6倍处理速度与能耗减半,依靠的是模型架构、芯片设计、Runtime调度三层在同代软硬设计里相互适配,这种量级的改善才会涌现。
- 隐私与可信。涉及隐私数据的常用任务由端侧模型就地完成,复杂请求再交给云端——这是现阶段OS Agent对待用户数据的合理默认姿态。三层耦合决定这种“端侧优先、云端兜底”能否真正落地:NPU与端侧模型深度适配,是仍处于发展期的端侧模型肩负起日常高频推理的关键路径;模型为NPU做量化压缩与KV cache共享;Runtime按任务复杂度在端侧与云端之间路由。三层任一不到位,“端侧优先”就只能是营销话术。
- 系统级上下文。OS厂商把跨App和OS层用户数据(语义索引、屏幕感知、长期记忆)重组成系统级个人语境提供给Agent,是Agent真正“理解用户”的前提,也是OS Agent不同于单一应用级Agent的核心特征。落地依赖三层咬合:Runtime持有跨App索引与权限,端侧模型常驻负责理解推理,NPU提供本地高效算力。Apple的Core Spotlight在终端建立语义索引,App通过App Intents把动作与数据接入系统,Agent将通过Personal Context获取语境(Apple已宣布该能力将随未来软件更新上线);Android侧AppFunctions走的是同一条路径。
- 作为系统服务的可靠性。OS Agent要被当作系统级服务调用,就得在不联网、低电量、热降频等现实场景下保持可用。端侧模型常驻设备,让Agent离开网络也能工作;高度软硬优化的NPU承担低功耗推理;Runtime在设备资源紧张时按可用性回退调度(切到更轻量的模型,或把请求路由到云端)。三层任一缺位,OS Agent就撑不起系统服务的形态,只能退回App级聊天按钮。
Apple Intelligence呈现了完整的协同范式:Apple Silicon、约3B端侧基础模型、Foundation Models 框架自下而上咬合,端侧处理常用场景,复杂请求转入私密云端计算。Google是另一种形态。Tensor G5作为首款完整运行最新一代Gemini Nano的SoC在Pixel 10落地,由AICore统一调度,让Magic Cue、Pixel Screenshots等系统级Agent功能可以不依赖云端默认开启。华为是国内构筑三层协同的典范:麒麟、达芬奇 NPU、盘古端侧、HMAF 四件全部自有,自下而上耦合成完整的三层底盘。
端侧OS Agent三层底盘咬合机制
来源:云涌AI
四. 底盘之上:长期护城河的其他关键变量
三层协同筑起护城河的核心。底盘之上还有众多变量影响OS Agent时代的产品竞争力,包括Agent与App的交互能力、隐私保护等。
OS Agent与App的交互,处于OS厂商和App厂商博弈的最前线。眼下两条路径并行。一条是识屏与自动化,包括Gemini Live屏幕共享、Apple Visual Intelligence、Circle to Search等。OS Agent靠读屏幕、点按钮介入App,单次任务可行,但每次调用都缺乏结构化信息,多步动作难以稳定搭建工作流。另一条是API深度集成,包括Google AppFunctions、Apple App Intents、华为Intents Kit等。App把核心动作以结构化接口暴露给系统,Agent调用稳定,也能搭建多步工作流。API路径能否铺开,关键不在OS厂商,而在App厂商。把核心功能交给Agent调用,意味着用户可能不再直接打开App,品牌曝光、广告位、行为数据、付费入口都有被OS截走的风险。这将是用户侧终端流量分配权的核心争夺点。
隐私保护,是端侧系统的关键价值和底线。OS厂商在端侧握有最深的系统级权限和最敏感的用户数据,隐私既是本职立场,也是前两件事长期推进的前置条件。Apple通过端侧Secure Enclave独立安全芯片与私有云计算PCC节点共享的同一套硬件级安全设计,构建了基于终端的隐私保护体系,这一产品策略让“Privacy. That’s Apple.”成为Apple在全球高端市场的核心品牌标签,进而赢得用户信任。
Apple的“Privacy. That’s Apple.”标签
来源:Apple官网
三层协同立起护城河的核心,底盘之上的这些长期变量则影响它能加固到多深。
五. 不只是重做OS
端侧OS Agent化趋势下,系统级AI Runtime、可控芯片、端云模型矩阵这三层底盘越扎实,OS厂商在这场仗里的产品下限就越高、差异化空间也越大。把握住这一趋势的OS厂商,才有机会推动端侧入口流量分配权的重置,拿到更强的竞争位置。
这一趋势不止于手机和PC。OS Agent的底层能力沿着各家已搭建的多设备生态向更多终端外溢,尤以IoT为盛。可控芯片向汽车SoC等场景下沉,华为已布局车规级麒麟芯片、小米澎湃OS走进自家车型;端侧模型向眼镜等新形态硬件轻量化迁移,Google与Samsung、Gentle Monster、Warby Parker联合开发的Android XR智能眼镜将在2026年秋季上市;Runtime与Agent的协同则借由各家已铺设的“超级终端/分布式”框架扩展到设备群,例如华为的1+8+N与鸿蒙分布式软总线、小米的“人车家全生态”与HyperConnect、Apple的Continuity、Google的Cross device SDK与跨设备服务。OS Agent这场仗,远不限于手机和PC的胜负。
AICore打磨了近两年;Apple的OS与Apple silicon系列芯片磨合了十几年;Tensor一路改到G5,Pixel 10方能肩负Gemini Nano v3的重担。这场仗的高下,从来不在发布会上的一两个小时,而在一代代的芯片、模型与Runtime中磨出来的。
参考资料:
- Gemini Intelligence brings proactive AI to Android|Google Blog
- I/O 2026: Welcome to the agentic Gemini era|Google Blog
- Phi Silica, small but mighty on-device SLM|Windows Experience Blog
- Apple Delays Siri Upgrade Indefinitely|Bloomberg
- HarmonyOS 6 开发者 Beta 启动新闻稿(HDC 2025)|华为
- The latest Gemini Nano with on-device ML Kit GenAI APIs|Android Developers Blog
- Foundation Models framework documentation|Apple Developer
- 鸿蒙智能体框架白皮书|华为开发者
- On-Device Llama 3.1 with Core ML|Apple Machine Learning Research
- Apple Intelligence Foundation Language Models Tech Report 2025|Apple Machine Learning Research
- Google Tensor G5: Benchmarks and everything you need to know|Android Central
- Google’s new M5 SoC(Tensor G5 详解·Matryoshka Transformer)|Jon Peddie Research
- Private Cloud Compute: A new frontier for AI privacy in the cloud|Apple Security Engineering
- Overview of AppFunctions|Android Developers
- App Intents|Apple Developer
- Intents Kit 简介(HarmonyOS)|华为开发者
- The Google Pixel 10 Pro’s Tensor G5 chip is impressive—if you compare it to an iPhone 14|Macworld
- Gemma 3n model overview|Google AI for Developers
