2026守己利他-智能时代做负责任的技术白皮书

D里巴巴MMMD里巴巴MMMD里巴巴D里巴巴AI45安全可信AI中心AI45安全可信AI中心D里巴巴MMMD里巴巴MMMD里巴巴MMMD里巴巴MMMEQ\*jc3\*hps27\o\al(\s\up50(ER),6)D里巴巴MMMD里巴巴MMMD里巴巴MMMD里巴巴MMM国特朗普政府则废止了AI安全行政令，提量开源模型，使用门槛不断下降，将AI的能力源源不断 判断AI前沿科技创新带来的风险，避免过早、过急、过重的外力治理，另一方面通过凝聚政产学研各方的力量，在AI技术发展和应用拓展的过程中同步建立风险D里巴巴MMMD里巴巴MMM演进。这一判断从长期主义视角提出AI安D里巴巴MMMD里巴巴MMM模型安全是保障AI有序发展的基础。模型负责任的模型开源，建设资源开放的生态，实现普惠、促进安全、繁荣生态，是AI发展的重要路径。开源文化孕育了技术创新和进步D里巴巴MMMD里巴巴MMMD里巴巴MMMD里巴巴MMM来看，统计机器学习的ScalingLaw（扩展定律）主导了这一次的变革，国际厂商D里巴巴MMMD里巴巴MMM●理解生成统一建模。常见的多模态范式下，因为技术阶段、数据组织、训练稳定），●全模态建模的可能性。文、图、音、视等多种模态，互相之间都具备其他模态无D里巴巴MMMD里巴巴MMM●推理能力迁移。在数理任务上的推理往往是形式化符号推理，是严格的；而在具●超长推理能力。要解决更难的问题，还需要模型具备超长的推理能力，如何让推练收益，更多转向数据驱动和任务驱动，而非技术架构本身的增益。这更加剧了AI在以上的难点之外，构建更大的任务闭环也是难点的核心来源之一。OpenAI构建D里巴巴MMMD里巴巴MMM现有的AI发展往往还停留在“知”的阶段，而缺少“行”的实践。让一个具备一定智能基础的AI进入真实业务环境、真实物理环境解决问●更强的记忆机制。大模型通过记忆机制来刻画当前的用户需求或业务需求，在面●多智能体。多智能体可以很好地明确分工，让专业的智能体做专业的事，从而达当前的AI前沿技术带来一些全新的安●模态本身的风险。不同的模态，其管控的重点、技术流程各不相同。例如，在音●跨模态之间的组合风险。例如，在各类隐喻性的表情包中，常常出现文本内容无D里巴巴MMMD里巴巴MMM●多模态带来的对抗性。黑灰产等会持续不断地对抗安全体系，以求牟利。而多模●推理过程的安全。模型往往会根据推理过程来进行最终答案的决策，而在模型训●隐空间推理。推理技术，本质上是希望模型在预测过程中，花费更多的时间进行●全面、真实、有区分度的评测集。如何设计评测集是一个业务理解、风险理解和●红队评测/攻击式评测。通过专业的面向大模型的攻击手段，如越狱攻击等，不D里巴巴MMMD里巴巴MMM●智能的安全是通用的、动态的，而非狭窄的、固定的。寻找足够“难且有意义” AI安全则是定义其边界的海洋，深邃且充满未知。它包围、渗透并塑造着陆地，既D里巴巴MMMD里巴巴MMMD里巴巴MMMD里巴巴MMM●建立可遵循的安全基准○遵循国家标准：遵循TC260（全国网络安全标准化技术委员会）等权威机构制定●推动评测成果的转化应用○拒绝与危害说明：在安全评测中，我们会对模型在涉及不当指令或违规请求时的测结果还会标明相关风险的类型及可能造成的○风险知识点描述：评测报告将清晰地描述已发现的风险知识点，为模型开发和安●模型全链路：覆盖从模型基座（基础模型能力与安全性）、思维过程（推理过程D里巴巴MMMD里巴巴MMM●可度量：通过量化指标（如风险触发率、拦截成功率、误拒率）评估安全水位，●能力融合：安全能力“编译”进模型结构。大模型不再依赖外部规则拦截，而是●行为表现：主动识别风险，自主拒绝越界。内生安全充分利用了大模型自身的强D里巴巴MMMD里巴巴MMM）： ○替代建议：提供合法、有益、建设性的替代方案或求助渠道（如心理咨询热线、 D里巴巴MMMD里巴巴MMM）：O独特性：该语料是否覆盖了其他样本未涉及的风险点、攻击方怯或应用场景？高O风险重要度：该语料所针对的风险类型是否具有高危害性、高发生频率？高风险 D里巴巴MMMD里巴巴MMM ○风险驱动更新：当新攻击模式（如新型越狱提示）出现时，系统自动触发相关○技术驱动更新：随着模型架构或训练算法的迭代，语料生产策略也需相应调整，○反馈驱动更新：收集线上用户反馈与红队测试失败案例，反向生成针对性语料，交叉学科。它通过对安全回应的“可定义”、质量的“可度量”和生产的D里巴巴MMMD里巴巴MMM点实现路径：采用标准的序列到序列（Seq2Seq）框架，让模型学习从用户请求到安D里巴巴MMMD里巴巴MMMD里巴巴MMMD里巴巴MMMD里巴巴MMMD里巴巴MMM●知识和推理的紧密关联：LLM的知识存储于其参数中，并通过●注意力资源分散与自我误导：在“思考”模式下，模型的推理过程会生成较长的D里巴巴MMMD里巴巴MMM●引入不确定性建模与“未知”表达：在模型内部加入不确定性估计机制，当推理●实施“反思-验证”架构：在生成最终答案之前，强制模型执行一个“●增强知识检索与可追溯性：使模型能够显式调用内部知识并结合外部知识库实现●应用基于逻辑的形式化约束：对于部分推理任务，可以将其转化为形式化逻辑问），D里巴巴MMMD里巴巴MMM ●无需精细标注的训练策略响原有生成能力；一旦检测到风险超标，可立即中断输出。这种“生成”和“安检”●更智能的风险感知方式D里巴巴MMMD里巴巴MMMAI的盗用和滥用带来安全挑战。随着生成式人工智能技术的快速发展，社交平台、视频网站上出现了大量AI生成合成的高质量图像容标识方法》等强制性国家标准，对内容标识规定的细化落地和统一适用提供了重数字水印和AI生成内容检测是有效的防AI盗用和滥用技术手段。阿里巴巴积极响D里巴巴MMMD里巴巴MMM同时也带来新的安全挑战。对此，需兼顾传2.1从“模型竞赛”走向“系统生态构建”2.1从“模型竞赛”走向“系统生态构建”D里巴巴MMMD里巴巴MMM服务可划分为Al基础设施层与模型服务层两部分○AI基础设施面临着更复杂的安全挑战。尤其是数据全生命周期的管理与保护，必服务可划分为Al基础设施层与模型服务层两部分★全流程产品安全保障：Al基础设施的复杂○AI基础设施包含一套复杂且高度集成的资源体系与平台技术。为适应大模型训练★数据存储加密：在密钥管理方面，阿里巴巴提供专门的安全合规的密钥管理○AI基础设施包含一套复杂且高度集成的资源体系与平台技术。为适应大模型训练D里巴巴MMMD里巴巴MMM★全栈安全防护：在主机层，云安全中心支持部署安全●模型服务层：AI原生安全架构（AINativeSe○模型服务层覆盖模型运行与交互过程中的各类关键环节。随着大模型在实际业务★模型推理安全：模型推理面临包括内容合规风险、数据泄露风险、提示词注多步流程中进行规划、执行、评估与迭代，以实现特定目标。比起传●智能体发展趋势D里巴巴MMMD里巴巴MMM○记忆机制的问题：记忆机制投毒、上下文攻击等，可以误导智能体的决策依据，★保证记忆组件的机密性和完整性：智能体的记忆组件存储着海量关键信息，★确认检索机制安全性：记忆需要通过多样化的检索机制注入模型之中，因此○工具误用与滥用：智能体调用工具执行任务时，误用将导致结果错误或执行流程★检查和维护工具集合的有效性、安全性：通过日常运维，持续确认工具集的D里巴巴MMMD里巴巴MMM★在全链路维度，保障工具调用行为的安全：工具调用本质上是信息传输与回○智能体本身的权限混乱：智能体的交互要求其具备与大量接口交互的能力，不合★建设智能体特有的权限体系。对智能体底座的大语言模型进行向善的行为控★Agent插件沙箱机制：安全沙箱隔离方案是一种基于深度防御理念的系统安全设计，其核心在于创建与宿主环境完全隔离的虚拟执行空间，对★增强决策过程的可解释性：智能体的决策过程不应成为“黑箱”，提升其可★不断提升大模型的智能水平和可控性：智能体的行为决策来源于内嵌的大模★分层防护、全链路控制：其安全保障是构建可信智能体网络D里巴巴MMMD里巴巴MMM用生态的繁荣。例如，Web应用能够在不同设备和操作系统间无缝运行，成为数字●开源项目为人工智能的发展提供了必要条件。开源技术提供了核心工具链，支持●开源增强了大模型技术的安全性和可信度。开源生态为构建开放、透明且协同治D里巴巴MMMD里巴巴MMM●大模型开源是技术向善的自觉选择。大模型开源这一行动，不仅体现了对开放协●通过分布式协同共创模式形成知识民主化和责任共担。开源依托的去中心化、多D里巴巴MMMD里巴巴MMMD里巴巴MMMD里巴巴MMM●开源方（模型贡献者贡献底层技术工具，是开源生态的源头活水。开源方研●开源社区（技术枢纽为开源模型搭建基础设施、帮助模型托管与分发，是开●开发者（模型使用者既是模型的测试验证者，也是技术落地的价值转化器。开源模型是开放的底层算法工具，本身不构成完●技术支持者：开源生态中的开发者通常是技术支持者，开发部署模型、为应用提D里巴巴MMMD里巴巴MMMD里巴巴MMMD里巴巴MMM●开源方○作为创造和贡献者，开源方发布开源模型、开源数据集等技术工具资源，是推动○模型开源后，贡献者对模型使用者/下游开发者的控制力有限，模型使用者可以●开源社区●开源社区○作为工具资源的托管社区，开源社区连接贡献者与开发者，为技术研究和生态构○开源社区本身不直接参与模型研发与下游开发，受限于角色定位与技术条件，难●开发者○开发者在开源社区上选择、下载和使用开源模型，是开源技术的验证者、成果享D里巴巴MMMD里巴巴MMM○开发者了解或身处具体应用情境中，对不同场景下潜在风险和影响更能精准把握○开发者如面向公众提供应用服务时，依照法律要求承担技术支持者和/或服务提○提前构建覆盖训练数据准备、训练优化、评估验证及持续迭代的安全体系，以系○主动参与开源模型安全评估，并输出相应的报告或评估文件，确保符合行业安全○发布指引告知模型可能的适用场景与局限性。清晰的风险提示是预防滥用的重要○开源后跟踪社区反馈及时迭代更新，发布更新或安全补丁，确保技术有序演进。D里巴巴MMMD里巴巴MMM○制定清晰、规范的开源项目上线和下载的规则、流程，并监督规则流程的执行。○鼓励和引导开源贡献者积极提供开源项目的版权归属、依赖库，提升许可协议的○建立社区反馈响应机制，跟进用户反馈，在收到投诉或提醒后即时调整和处置。○开展技术博客、开发者论坛及培训课程等活动，向开发者传递模型使用规范、安○通过开源社区讨论及技术峰会等形式，促进安全工具链、评估方法及治理经验的○遵守开源方的协议约束和开源社区规范。应用产品公司可发布“使用声明”，注○负责任地选用开源模型，针对具体使用的场景和潜在应用风险充分测试和评估。○将开发应用过程中发现的开源模型风险反馈给开源贡献者和开源社区，协助降低D里巴巴MMMD里巴巴MMM○在面向公众提供应用服务时，依照法律要求承担技术支持者和/或服务提供者的法备案，落实Al生成内容标识，建立违法不良信息过滤机制新加速与市场绑定，中国的开源模型已凭借高性能和高衍生数量成为全球AlD里巴巴MMMD里巴巴MMM★不同语言贡献高质量知识：全球范围内的知识积累以不同语言为载体，高质量的多语言语料对模型能力提升具有关键作用。借助跨语言迁移学习（Cross-Language）中学习到的语义、逻辑及推理能力，并迁移到目标语言（Target★文化包容性与公平性保障：模型通过多语言数据的多样性构建对全球知识体★开源算法：深度学习、注意力机制、分布式训练等核心算法均为全人类共享○技术普惠与标准化：通过开源核心算法、共享训练框架与数据资源，降低模型使○技术发展的加速器：从“封闭式研发”到“全球开放式协同创新”。大模型的开D里巴巴MMMD里巴巴MMM○竞争优势的构建：从产品竞争到生态协同。开源模型的开放性为中国企业提供了○基础设施的全球化布局：依托云服务、边缘计算及异构算力的协同，建设服务全○全球参与的治理机制：建立多方参与的开源社区治理架构，涵盖开发者、企业、○提升中国在全球科技界的话语权和影响力：作为多项高科技的结晶，大模型的规○中国开源力量正在成为人工智能开源国际舞台上的重要参与者、贡献者。根据○中国开源模型也在全球获得更多选择。在全球开源社区，中国开源模型已获得了广大开发者的认可，形成全球生态影响力。以Qwen开源为例，截至2025年7D里巴巴MMMD里巴巴MMM○部分全球化大模型的既有做法★通过语言适配特定国家的文化。针对利益关系紧密国家的特定主题，部分模★不考虑不同发展阶段国家的法规和文化。部分模型并不考虑处在不同发展阶○中国模型出海可行的做法★坚持中国立场，发出中国声音，讲好中国故事。中国模型应坚持中国★用技术手段适配不同的文化。在与中国核心价值观不矛盾的前提下，兼顾目☆模型训练阶段增加特定文化的安全任务。在模型训练中引入基于不同文化的☆扩大全球规模效应，做好开源信息共享，使得各项文化能在既有使用者中找D里巴巴MMMD里巴巴MMM），），从底层生产要素到生产力，再到生产关系，AI正以前所未有的深度和广度影响人类AI技术的快速发展和应用渗透正深刻重塑我国电力等能源格局，对全社会能源配置D里巴巴MMMD里巴巴MMM 于地域的差异化配置策略，不仅能高效支撑AI产 AI正通过一系列强大的工具和企业级应用，为千行百业的效率提升与业务创新注入通过多模态识别能力帮助进行质量检测等。这些深度融合业务场景的AI应用显AI的飞速发展正在深刻改变个体的工作和职业前景，带来新的机遇和劳动力结构的AI技术优化供需匹配与生产效率，重塑商业格局。以网络交易领域为例，D里巴巴MMMD里巴巴MMM解和推理能力，生成式Al技术可以更准确地理解用户意图， D里巴巴MMMD里巴巴MMM步被边缘化。得益于大模型技术发展，我们可以教会Al内容质量。