2025移动终端智能体隐私安全白皮书

移动终端智能体HONORHONOR前言:AI智能体重塑数字生态隐私安全筑底可信未来伦理与法律陷入双重困境移动终端智能体行为分级标准和管控逻辑083.1移动终端智能体行为定义3.4移动终端智能体执行提醒和终止按钮2.1移动终端智能体隐私安全原则原则—:公开透明原则三:安全保障2.2能力边界移动终端智能体服务需要同时受以下两类约束AI智能体行为盘点AI智能体行为分级映射20术语和定义参考文献移动终端智能体隐私安全白皮书01I前言:AI智能体重塑数字生态隐私安全筑前言:AI智能体重塑数字生态01移动终端智能体隐私安全白皮书01I前言:AI智能体重塑数字生态隐私安全筑底可02AL智能体(AlAgent)作为能自主设定和实现目标的代理,其演进之路伴随着人工智能(Al)技术的持续发展,实现从自动化工具到自主性能力的升级。20世纪50年代,博弈论、控制论、信息论及图灵测试等相继为智能体的研究提供了理论基础。1986年,马文.明斯基首次在Al领域引入智能体概念。20世纪90年代,随着机器学习和自然语言处理技术的突破,智能体的研究扩展至多模态感知交互和自主学习,智能体的定义演化成了以智能终端为载体,以大模型为决策核需求,决策如何为用户选择和提供优质服务,并基于智能体能力执行任务。.国内侧重场景实践:中国在应用场景创新、数据资源丰富度及政策支持方面展现独特优势。消费级市场倾向于利用用户流量逻辑推广通用型AL智能体产品,以快速占领市场;企业级(B端)则聚焦Al平台商业化,选取高价值产品落地。中国政府对Al产业的支持力度持续加大,通过系列政策法规鼓励技术创新与应用,推动产业链整体发展。特别是在中国终端产业发展优势的大背景下,终端智能体应用技术发展尤为重要。当前,中国移动终端智能体产业已迈过概念验证阶段,进入规模化落地与深度渗透的关键期。在政策支持、市场需求和技术创新的合力驱动下,智能体正以前所未有的速度融入各类移动终端设备,成为重塑用户体验和产业生态的核心力量。.技术底座——端云协同架构成熟:—方面,大模型端侧部署正在加速落地,国产领先的大语言模型正通过模型轻量化技术(剪枝、量化、蒸馏)快速适配终端硬件。旗舰级智能手机已成为首批大规模承载本地化大模型能力的核心载体,显著提升了响应速度、隐私保护和离线可用性。另—方面,“端云协同”架构已成为事实标准,当前主流解决方案普遍采用端侧处理+云端赋能的协同架构。轻量级本地模型保障基础交互的即时响应与隐私敏感任务的安全处理;云端强大算力则支撑复杂的知识推理、内容生成等高级功能。这种架构有效平衡了能力、效率、成本与安全。移动终端智能体隐私安全白皮书01I前言:AI智能体重塑数字生态隐私安全筑底可03.生态构建——操作系统与硬件双支撑:首先,国产主流操作系统(小米澎湃os、oPPoColoros、vivooriginos、华为HarmonyosNEXT、荣耀Magicos等)均将智能体能力作为核心系统服务深度集成。提供统—的AL框架和APL接口,极大降低了应用开发者接入门槛,系统级AL服务(如智慧搜索、文档总结、图片生成/编辑、通话摘要)已成为新终端体验的标配。其次,终端芯片厂商持续提升专用NPU(神经网络处理器)的算力与能效比。新—代soC普遍集成高性能NPU,为本地运行数十亿参数级别的大模型提供了坚实的硬件基础,推动智能体验从高端向主流机型普及。.应用落地——场景爆发与产业生态:移动终端智能助手从语音助手升级为全能伙伴,覆盖智慧搜索、文档创作/总结、多语种翻译、图像生成与编辑、AL消除、通话纪要、行程规划、个性化服务推荐等全场景,成为提升生产力和娱乐的核心入口。形成由基础大模型厂商、芯片提供商、操作系统开发商、终端设备制造商、垂直应用开发者共同参与的活跃生态链。各方积极合作探索创新应用,同时也在关键入口和标准方面展开竞争。现状总结:智能体能力正从高端旗舰设备快速向中端乃至部分入门级设备渗透,行业重心正从技术展示转向打磨实用、高频、解决刚需的用户体验,追求自然无缝的交互,而在隐私安全方面,端侧处理敏感数据、数据最小化原则、本地化存储与计算正在成为设计和宣传重点,以应对日益严格的监管与用户关切。中国移动终端智能体领域正处于技术快速落地、场景深度渗透、生态加速构建的黄金发展期。大模型端侧化、操作核心能力与差异化竞争力。市场活力充沛,应用场景丰富且不断扩展,—个围绕智能体的新型终端生态体系正在中国移动终端智能体隐私安全白皮书01I前言:AI智能体重塑数字生态隐私安全筑底可04AL智能体的数据驱动特性使其成为隐私泄露的高危载体。在数据主权层面,智能体需深度访问用户个性化数据(如生物特征、行为轨迹)以提供精准服务,但数据采集与使用边界尚未形成国际共识。例如,欧盟GDpR要求“目的限定”原则,而智能体的持续学习机制常导致数据二次利用,引发合规冲突。在技术防护层面,攻击面显著扩大:提示词注入(promptlnjection)可诱导模型执行恶意指令;数据投毒(Datapoisoning)污染训练集导致决策偏差;智能体权限滥用则可能引发中间人攻击(Man-in-the-Middle)。当前防护机制依赖传统网络安全框架,缺乏针对AL智能体工作流的专用审计工具,无法有效追溯跨应用数据流转路径。智能体的自主决策机制挑战了传统伦理法律范式。伦理层如,招聘智能体因训练数据偏差歧视特定群体,违背公平性原则。决策黑箱问题进—步削弱透明度:当智能体在医疗诊断中权衡治疗方案时,其推理过程缺乏可解释性属模糊成为核心争议:自动驾驶智能体的事故责任应归属开发者、用户还是算法本身?真人形象克隆智能体涉及的人格权纠纷(如深度伪造侵害名誉权),以及训练数据中的知识产权侵权风险(如未经授权使用专利文献),均暴露出现行法律在主体认定和举证规则上的滞后性。国内目前发布的人工智能标准主要着眼于通用的安全要求和AlGC内容安全,针对AL智能体安全管控方面的标准处于起步阶段;社会结构遭遇系统性冲击智能体对劳动力市场和社会稳定的潜在影响已超越技术范畴。就业生态重塑方面,波士顿咨领域23%的岗位可能被智能体替代,而再就业培训体系尚未建立,加剧结构性失业风险。更严峻的是技术失控隐患:强自主性智能体在复杂系统中可能引发级联故障(CascadingFailǚre)——例如,电网调度智能体的误判导致区域性在此背景下,小米、oppo、vivo、荣耀作为全球领先的智能终端厂商,联合发布《移动终端智能体隐私安全白皮书》,旨在:.实现“过程透明可控、行为可追溯、授权动态化”的下—代移动终端智能体隐私安全体验。.推动Al智能体隐私安全行业标准的建设移动终端智能体隐私安全白皮书02I移动终端智能体的隐私安全原则与边界定义05移动终端智能体的移动终端智能体是指以个人移动智能终端为载体与终端os系统深度融合,以大模型为决策核心,为用户提供智能服务的智能体。它能够感知用户、环境、系统信息,理解用户意图和需求,决策如何为用户选择和提供优质服务,并基于移动智能终端系统能力执行任务。移动终端智能体隐私安全白皮书02I移动终端智能体的隐私安全原则与边界定义062.1移动终端智能体隐私安全原则项安全原则:原则一:公开透明.智能体能力在启用前需明确告知用户其能力边界和操作范围。.智能体执行中需要有实时标识,执行记录需支持回溯。原则二:用户可控.智能体的相关行为能力需要可视化的管理界面,支持用户自主开启或关闭。.智能体的相关行为需在执行中保持用户干预通道畅通,支持用户随时终止。原则三:安全保障.智能体需具备明确的行为边界,涉及用户财产(含虚拟)和人身安全的操作,禁止智能体代理用户执行.数据使用最小化,智能体在数据收集和使用时需遵循功能必需上限,不得获取非必要的数据.敏感数据端侧优先,智能体在处理涉及用户隐私信息的敏感数据时,需优先在端侧完成,必须上云的数据需在可信隔离环境中执行。移动终端智能体隐私安全白皮书02I移动终端智能体的隐私安全原则与边界定义07能力边界是移动终端智能体的安全红线,明确了移动终端智能体能做什么,不能做什么,能做的事情又会受到哪些约束和管控,是用户可控和安全保障原则落地的基础。这种边界设计不仅是技术落地的核心,更是用户可控与安全保障的基石,让用户可清晰掌握智能体的权限范围(如“仅允许替用户下单不能确认支付”),将风险隔离在边界之外。若缺失这—红线,智能体将沦为失控的“数字盲盒”,引发隐私泄露、越权操作等系统性危害。具体而言:移动终端智能体服务需要同时受以下两类约束:.基础应用权限,智能体需要遵守手机系统现有的应用权限管理体系,在现有应用权限管理体系的管控下,调用相关.由于智能体的出现而新增的能力的管控,作为—个系统级的智能体,具备了超越普通应用的行为能力(感知、记忆、执行),而这些行为能力的管控,便是智能体隐私安全框架的核心。智能体的权限和能力管控与设备&账号双重绑定智能体的权限和能力管控与设备&账号双重绑定,即用户A设备上智能体的权限和能力开关状态无法复用至B设备,在B上需要再次授权或开启开关;若用户在设备A上登陆了其他用户账号,也需要再次授权或开启开关。直接影响用户资产权益(含虚拟资产)和人身安我们设立绝对红线,禁止智能体代理用户执行移动终端智能体隐私安全白皮书移动终端智能体行为分级标准08移动终端智能体隐私安全白皮书03I移动终端智能体行为分级标准和管控逻辑093.1移动终端智能体行为定义基于移动终端智能体的双重能力本质——感知与执行,我们将移动终端智能体的行为划分为两大行为域、九类核心能力:.传感器采集:通过传感器获取即时状态信息:摄像头、麦克风、定位、光线、陀螺仪....数据访问:通过APl直接访问存储在设备中的数据:相册、联系人、短信、通话记录、闹钟、日程、运动健康....屏幕信息获取:端侧视觉语义提取(OCR/NLP本地推理):锁屏、桌面、—方应用、三方应用....应用学习:操作路径抽象建模,记录并学习用户使用应用的方式及其过程中产生的信息:酒店偏好、航司偏好、饮食.系统功能控制:调用系统服务执行预定义原子操作:通知、硬件调用(声音、震动)、屏幕亮度、音量、网络连接....应用任务代理:通过Al智控或意图框架触发应用功能:如播放音乐、添加购物车、商品比价....智能家居控制:发送loT标准化控制指令集:空调模式切换、扫地机启停等、灯光....车辆系统交互:通过终端的机车互联软件/协议,操作车辆的信息娱乐系统/应用,以及控制车载非关键性模块(如空调/风扇调节等,排除动力/制动系统控制)移动终端智能体隐私安全白皮书03I移动终端智能体行为分级标准和管控逻辑3.2移动终端智能体行为分级为了有效地管理和控制移动终端智能体在各种情境下的行为潜在风险与影响,我们依据其行为的潜在影响程度和所需管控强度,建立了—套标准化分级体系。该体系共分为三个敏感度等级(S1-低敏感、S2-中敏感、S3-高敏感)。分级逻辑:行为潜在影响程度级别越高(S1->S3),表明该行为—旦不当执行或发生错误,可能造成的后果严重性(如数据泄露风险、经济损失、用户体验损害、法律合规问题等)越大。所需管控强度级别越高(S1->S3),表明对该行为的执行所需前置检查的严谨性、过程监控的实时性、权限控制的严格性越高。此分级旨在为智能体行为的风险评估、策略制定、权限分配和监控响应提供—个清晰、—致的框架基础,确保不同敏感度的行为能得到与其风险相匹配的管理措施,从而提升整体系统的安全性与可靠性。分级详情:s3-高敏感行为:定义:直接影响用户资产权益(含虚拟资产)和人身安全的行为(如,智能体执行支付转账、门锁控制)。管控逻辑:禁止智能体代理用户执行。s2-中敏感行为:定义:涉及用户个人隐私信息的行为(如,医疗数据访问、社交内容发布)。管控逻辑:需动态授权+实时提示。s1-低敏感行为:定义:基础功能操作(S2、S3之外的行为,如,音乐播放、亮度调节)。管控逻辑:协议默认授权。关键点说明:1.在S1级基础能力层,我们保障服务流畅性,通过协议授权实现无感体验;2.在S2级敏感行为域,我们建立动态授权机制,确保用户知情权与选择权实时在线;3.在S3级高危禁区,我们设立绝对红线,以技术硬约束守护生命财产安全。详细的行为分级可参考附录详细的行为分级可参考附录:智能体行为分级映射移动终端智能体隐私安全白皮书03I移动终端智能体行为分级标准和管控逻辑3.3移动终端智能体能力开关基于智能体的行为定义和分级,S1-低敏感和S2-中敏感的行为均需要配置相应的能力开关,S3-高敏感行为需要直接禁用,下面我们分别展开:S1-低敏感行为普遍为智能体的基础能力,既不涉及用户隐私也不涉及用户的财产和人身安全。所以更多从保障服务流畅性和基础体验的完整性的角度考量,允许通过协议对智能体授权,以实现无感体验,且不强制要求提供管理界面。如,天气查询、通用知识问答、音量控制...S2-中敏感行为:需提供开关S2-中敏感行为开始会涉及用户隐私信息,需要对智能体建立动态授权机制,确保用户知情权与选择权实时在线,具体原则包括:.智能体需要向用户提供S2-中敏感行为能力的管理界面,允许用户随时开启和关闭.智能体需要用户主动开启能力后才可进行S2-中敏感行为样例参考,以AI识屏为例:主动开启管理界面S3-高敏感行为涉及到用户的财产权益(含虚拟)和人身安全,需设立绝对红线,禁止智能体代理用户执行,当智能体执行S3-高敏感类行为时,需要立即中断,并提醒用户接管自行完成。示例如下:2.在执行立即支付、免密支付、转账、发红包等支付类操时,应提示用户接管,自行手动完成。3.在执行用户授权同意、电子签章、协议确认等协议/授权类操作时,应提示用户接管,自行手动完成。4.在执行注销、改密码、冻结等高敏感账号操作时,应提示用户接管,自行手动完成。5.在执行恢复手机出厂设置、清空回收站、彻底删除等不可逆的数据删除时,应提示用户接管,自行手动完成。6.在执行智能门/门锁/保险箱/车辆解锁等安防类解锁操作时,应提示用户接管,自行手动完成。样例参考,以AI识屏为例:3.4移动终端智能体执行提醒和终止按钮对于S2-中敏感行为,除能力开关外,还需要在执行时显示相应的执行提醒,并支持用户随时终止。动态执行提醒:1.智能体执行S2-中敏感操作时,界面需出现相应的提示,提示2.智能体接管用户正在使用的前台应用时,需获得用户同意,接管后需要有明显的ul表面当前应用正在被智能体接管。3.智能体进行屏幕识别时,需在屏幕上给出明确的提示。4.智能体接管的应用在后台执行时,界面上需要有持续的ul提醒,标明后台有应用正在被智能体接管并执行。一键终止执行:钮,点击后智能体即刻终止当前行为并释放资源,终止后需反馈结样例参考:3.5移动终端智能体行为追溯为保障行为透明与事后审计,需构建三级追溯体系智能体接收并执行的全部用户qǚery,需被记录在日志中。需要向用户提供可视化的行为记录查询界面。样例参考:移动终端智能体隐私安全白皮书移动终端智能体隐私安全白皮书1.移动终端智能体进行数据收集、权限调用、行为学习范围、保留期限及第三方共享情况,确保用户在充分理解的前提下做出自主选择。同意操作需设置明确确认环节(如隐私协议的独立同意按钮点击),禁止默认勾选。2.移动终端智能体获取敏感个人信息(如生物特征、医疗记录、金融账户信息)时,应具备实时提示能力,覆盖识屏状态标识、麦克风/摄像头/位置权限调用等场景,确保用户能清晰感知。如:a.视觉提示:如在设备屏幕边缘显示动态光条,悬浮窗实时更新数据使用进度等。b.听觉提示:采用定制化提示音(区别于系统通知音),如智能语音助手持续发出声音告知用户当前正在进行的操作。1.移动终端智能体应建立覆盖全业务场景的数据必要性评估,通过动态更新的场景化数据需求清单明确每个功能模块的核心数据项与非必要数据项。例如,导航功能仅需获取用户实时位置、目的地坐标及路况信息,无需调用通讯录、短信等无关权限;语音助手执行天气查询任务时,仅需采集语音指令文本数据,无需留存原始语音音频。2.在数据采集数量与频率控制上,采用“按需动态调整”策略:对于即时性任务(如外卖下单),仅在用户操作过程中采集地址、联系方式等数据,任务完成后立即终止采集;对于持续性服务(如健康监测),根据服务精度需求设置采集间隔。3.基于数据最小化原则,移动终端智能体需支持数据过滤的能力,自动识别并剔除冗余信息。例如,在处理用户图片对个人权益影响最小的方式”的要求,通过技术手段将数据采集严格限定在实现用户命令的必要范围内。1.移动终端智能体在执行数据处理任务时,对于生物识别信息(如指纹、人脸、声纹)、地理位置轨迹、健康生理数据等敏感信息,需优先采用端侧处理模式。可依托设备本地的芯片级安全计算单元(如智能手机的TEE可信执行环境、安全芯片)完成数据解析与运算。例如:语音指令识别过程中,原始音频数据在设备端完成转文字处理后,仅上传文本指令,原始音频即时销毁。移动终端智能体隐私安全白皮书2.对于确需端云协同处理的复杂任务(如跨设备数据同步、大规模数据分析),移动终端智能体需先在端侧完成数据脱敏处理,仅上传经特征提取后的非敏感数据。例如,健康APP分析用户运动数据时,在端侧剔除具体运动时间、地点等敏感信息,仅向云端上传运动类型、时长、消耗热量等聚合数据。3.端侧处理架构需通过技术手段实现数据“本地闭环”:采用隔离机制防止敏感数据被其他应用访问,利用加密技术确保数据在处理过程中不被非法读取,避免数据泄露风险。范》(GB/T35273-2020)中关于“目的限制”的要求,确保数据的每—次流转都在用户授权的可控范围内,从源头2.如需拓展数据使用范围(如将用户的健康数据用于医学研究),向用户说明新用途的具体场景、数据使用方式、第三方合作机构信息及用户权益保障措施,获取用户的同意。数据存储与销毁:1.移动终端智能体在执行任务过程中产生的即时状态数据(如实时语音流、临时定位信息、设备传感器瞬时数据),采用临时缓存机制进行处理,数据仅在任务进程存续期间驻留于设备中,不写入持久化存储介质。任务完成后 (如语音指令执行结束、导航目的地到达),系统立即触发擦除指令,立即清空内容。2.移动终端智能体针对用户明确要求记录的信息(如通讯录备份、行程安排、健康档案),在设备端及云端存储时需采用加密算法对数据进行加密处理。数据流转规则:1.针对移动终端智能体即时获取的状态信息(如运动采集的实时步数、监测的室内温度),需实现端侧闭环处理。数据仅在端侧空间内流转。在数据处理完成后(如生成运动报告、调节空调温度)立即清空内容,不做该数据的端侧存储。例如,智能手表的心率监测数据仅在健康监测进程内用于计算心率变异性指标,指标生成后原始心率数据即时销毁,不写入本地存储。2.移动终端智能体与系统服务、云端服务器进行数据通信时,需构建多层级传输保护体系:移动终端智能体隐私安全白皮书a.建立加密传输通道,确保数据在传输链路中不被窃听;b.对于重要指令(如支付指令、权限变更指令),使用加密算法进行数字签名,防止指令被伪造、篡改或重放;3.用户敏感数据(如身份证号、银行账号、病历信息)在传输过程中实施“双重保护”:a.传输链路保护:传输链路通过协议保障安全,b.传输数据保护:对数据本身采用加密算法进行加密,4.3用户权利与响应撤回同意:1.用户应拥有对所有授权事项的完整撤回权,系统需提供用户可管控的能力与页面,用户可通过关闭按钮终止授权。2.用户撤回同意后,系统需通过底层接口终止相关数据的获取、传输与处理行为:对于持续性数据采集(如健康监测),立即停止相关传感器及数据的调用;对于正在进行的数据分析任务,立即中断进程并销毁中间数据。数据管理:移动终端智能体需为记录用户的相关信息提供数据查询与删除的能力。查询结果需清晰展示每条数据,数据删除操作需经过二次确认,防止用户误操作。4.4安全保护措施1.完善数据保护框架,覆盖智能体全链路,构建贯穿数据收集、处理、存储、传输、销毁全流程的保护体系。依据《个人信息保护法》《数据安全法》等法规要求,在数据流转的各环节设置“安全关卡”。2.数据收集环节严格遵循用户授权范围,处理环节限定在用户许可的用途内,存储环节实施分级保护策略,传输环节强化用户可感知的安全提示,销毁环节确保用户能全程追溯操作结果。移动终端智能体隐私安全白皮书1.利用技术手段对用户指令、模型和移动终端智能体进行完整性保护,防止伪造、篡改和指令重放,建立多层次的完整性保障机制。用户发起的每—项指令(如支付、信息修改、权限设置)都会起时间、设备信息等要素,确保指令来源可追溯。2.针对模型和移动终端智能体的完整性,在产品更新迭代时,通过官方渠道向用户推送版本说明,明确本次更新涉及的功能调整。敏感数据保护针对用户敏感数据实施访问控制策略,基于最小化原则,以用户权益为核心,构建“用户自主可控+产品主动防护”的双重保护体系。在用户自主管理层面,提供直观易用的“权限管理”,支持用户按权限类型(如位置、相机、图片)设置访问权限。移动终端智能体隐私安全白皮书智能体行为盘点智能体行为盘点一级子类二级子类补充描述信息获取&挖掘手机数据与传感器传感器.通过传感器获取即时状态信息.通过API直接访问存储在设备中的数据屏幕信息.通过屏幕识别,获取屏幕当前信息应用学习应用1、应用2....允许智能体记录并学习用户使用应用的方式及其过程中产生的信息运动健康数据—.体重、血压、睡眠监测...智能家居数据—.传感器数据:温湿度、人体、烟雾、水浸....安防设备数据:监控、防丢器....设备状态:清洁、照明、厨房、卫浴...车辆信息—.车内温度、行驶状态、成员...操控应用&设备系统控制系统功能&设置.系统控制:通知、硬件调用(声音、震动)....系统设置:屏幕亮度、音量、壁纸、网络连接(如wi-Fi、移动数据)...应用控制应用1、应用2....包括一方应用和三方应用智能家居控制家庭1、家庭2....灯光、扫地机、空调...车辆控制车辆1、车辆2....座椅、空调、音乐、导航...20移动终端智能体隐私安全白皮书智能体行为盘点和分级映射智能体行为分级映射二级子类分级详情信息获取&挖掘手机数据与传感器传感器s2:全部屏幕信息—应用学习应用1、应用2...运动健康数据—智能家居数据—车辆信息操控应用&设备系统控制系统功能&设置s3:涉及用户资产权益类设置(含虚拟资产).系统功能:无.系统设置:恢复出厂设置、账号操作(注销、改密码、三方授权操作...)s2:无s1:s2、s3之外的操作.系统功能:控制手机硬件屏幕、声音、震动、发送/清除通知....系统设置:屏幕亮度、音量、WALN、蓝牙...应用控制应用1、应用2...s3:涉及用户资产权益类操作(含虚拟资产).金融交易:股票、基金、期货、贷款....支付:立即支付、免密支付、转账、发红包....协议类操作:用户授权、电子签章....不可逆的数据删除:清空回收站、彻底删除...s2:涉及用户隐私的操作.下单(不含支付):购物、打车、航旅预定....社交类:IM、邮件、社区、评论...s1:s2、s3之外的操作.其他:搜索、