2025全球可信AI治理与数据安全报告

数据安全、科技伦理、知识产权，以及地缘政治下的供应链风险等成为人工智能全球治理的关键议题。当前对企业等多维视角，综合分析人工智能治理问题的现状、趋势和未来展望。报告第一章为全球人工智能发展与治理现状的宏观分析，由赛博研究院凭借多年的政策研究积累归纳总结而成。第二章为可信人工智能治理与应用现状调研的结果呈现，调研数据源自安永联合赛博研究院向近百家企业的高管、人工智能治理相关负责人发放的调查问卷反馈。第三章为可信人工智能治理探索的典型案例，案例由安永和赛博研究院的合作企业提供。第主要发现），超过一半（59%）的受访企业已设立或正在规划可信人工智能治理委员会，且已启动可信人工智能管理的企业普遍反馈，合规的复杂程度与成本持续处于高位，技术架构的复杂性、业务与科技的迭代速度提高了2025全球可信AI治理与数据安全报告目录目录第一章全球人工智能发展与治理现状021.1主要国家及地区的人工智能发展格局1.2人工智能治理关键议题05（2）基于产业链视角的治理问题（3）地缘政治引发的供应链问题1.3人工智能的监管框架08（3）中国：国家—行业—地方三级治理，统筹发展和2.2人工智能应用的风险与顾虑172.3企业可信人工智能治理建设情况18（2）多元标准融合构建治理体系2.4现阶段挑战与未来规划23（2）企业针对可信人工智能治理的未来投资趋势目录目录第三章案例27典型案例1：可信AI治理体系建构助力企业成为AI应用行业标杆典型案例2：智能安全产品赋能，构建AI实时防护体系29典型案例3：AI全周期治理，助力企业安全平稳提效第四章未来展望34附录362025全球可信AI治理与数据安全报告2025全球可信AI治理与数据安全报告第一章全球人工只能发展与治理现状02从机器学习、深度学习、自然语言处理到人机交互，人工智能（ArtificialIntelligence，AI）的本质是对人类智能的一种模拟、延伸和扩展。根据心理学家霍华德·加德纳（HowardGardner）的多元智能理论，个体具备不同程度人际关系、自省、自然智能等，而人工智能正在依托庞大的算力资源和大数据资源，创造新的智能、成为数字经济新的呈现出在波动中持续发展的特征。从图灵测试奠定人工智能发展基石，人工智能成为一门独立学科，却因技术瓶颈与时代局限造成人工智能发展困境，到深度学习与算法革新带动面对技术快速发展带来的风险挑战，全球主要国家和地理道德、法律及可靠性等多个维度，规范技术开发、部署和应用，确保负责任的人工智能实践。同时，通过国际合作、流程、标准和防范举措；可信人工智能治理是指通过框架、制度、流程和技术手段以确保人工智能系究能力和完善的产业生态系统，持续占据领先地位，中国通过庞大的应用场景实现并行发展，欧盟、日韩等经2025全球可信AI治理与数据安全报告第一章全球人工只能发展与治理现状03欧盟一直在促进人工智能产业进展，不仅将人工智能提升到战略地位，还通过政策引导、成员国协同合作以及对人工智能伦理、监管、人才培养、基础设施建设等多方面的综合考量，提高地区人工此后，欧盟接连发布几个重要的政策文件，包括年2月发布的《人工智能白皮书一通往卓越和信任旨在通过建设大规模人工智能计算基础设施、改善数据获取质量、加速人工智能在战略领域的应用、强化人才储备、促进监管合规与简化，推动欧盟成以人工智能办公室为主的组织架构。为促进人年5月宣布成立人工智能办公室，构建了单一欧洲AI治理系统的基础。目前该办公室由卓越人工智能AI创新与政策协调等5个部门构成，强化可信AI推动以标准建设为核心的规则输出。欧盟凭借导国际企业主动采用其规则体系，从而扩大自身在全球治理领域的影响力。美国不断加强在人工智能领域的战略部署和标准制定，通过建立动态的政策体系、创新多元的协构建政策框架，促进多方合作。自2021年1月颁布《2020年国家人工智能倡议法案》以来，美国陆续推出多项重要政策，包括2022年公布的《人工智能权利法案蓝图》，明确指导自动化系统设计、使用及部署过程；2023年更新的《国智能研究与发展战略计划》提出九项核心战略，涉及长期投资、技术创新、国际合作等多个维度；同推动人工智能在基础设施、政策制定、治理等领域的全面进步与应用，促进美国人工智能产业发展。2025年7月，特朗普政府发布《赢得AI竞赛：美代了拜登政府的AI监管框架，提出加速创新、建设涵盖90多项联邦政策行动，为特朗普2.0时代的机构在人工智能的研发、示范、教育以及劳动力培训等领域的合作。2021年设立国家人工智能计划办公室，负责监督和实施国家人工智能战略，进一步强化联邦机构、私营部门、学术界及国际伙伴在AI搭建风险导向，灵活适用的标准框架。美国国家标准与技术研究院（NIST）发布的《人工智能风的实施策略，为人工智能全生命周期管理提供灵活的风险评估工具。作为一项非强制性指导文件，适用于AI系统设计、开发、部署及使用等各阶段，不仅为产业实践提供规范性指导，还避免刚性约束对中国持续推动人工智能技术创新和产业升级，通过系统性政策引导、产学研协同创新，以及在技2025全球可信AI治理与数据安全报告第一章全球人工只能发展与治理现状04中国在全球人工智能领域的核心竞争力得到全面提强化顶层设计，引领产业纵深发展。自2017年发布《新一代人工智能发展规划》以来，中国通过系统性的国家层面顶层设计以及多轮政策演进，中国AI产业的政策重心随技术成熟度动态调整，从技术研发转向深度赋能实体经济，从战略规划迈向健全两级体系，协同推进创新发展。为引导人工智能产业实现健康发展，中国构建了分层式AI管理体系。中央层面，网信办、工信部、发改委等部通过设立AI创新试验区（如北京、上海）和国家级推进技术、伦理并重的标准建设。自2020年以来，中国相继发布《国家新一代人工智能标准体系建设指南》《国家人工智能产业综合标准化体系建设指南》以及一系列覆盖伦理、安全、应用等领域的行业性国家规章，彰显技术与规范并重的治理理念，着力构建开放、公正、有效的治理机制，推通过国家战略与政策法规推动技术创新，但在监管框架、组织架构和发展重点上也有明显差异。韩国战略》系列文件，不断强调技术创新与社会应用。2025年5月，日本参议院通过《AI相关技术研发及应用促进法》，采取柔性立法方式，避免过度监的目标，并陆续出台《人工智能半导体产业发展战略》《国家人工智能伦理标准》等配套政策。2024二个通过综合性AI立法的国家，重点推动AI特区建立分级负责、专业协同的组织体系。日本以人工智能战略本部，负责统筹管理人工智能技术研发、应用推进策略规划与综合协调，保障政策一致性和执行力；韩国设立国家人工智能委员会、人工智能政策中心和人工智能安全研究所。国家人工智能委员会直属总统，负责审议、决策核心政策。另两个部门隶属于科技通信部，负责资源整合、标准推进以人为本的标准化体系。日本《以人为中等核心准则，构建了监管法规、监管指南两类治理政策，以此管控风险并推动应用；韩国遵循《首尔2025全球可信AI治理与数据安全报告第一章全球人工只能发展与治理现状05人工智能的迅猛发展与全球治理体系的演进紧密相关。当前，人工智能的全球治理呈现出两条并行的路径。其一为联合国框架，该路径以人权和可持续发展为指引，构建起以透明度、数据安全、伦此路径贯穿从基础设施、数据使用到产品应用的整从数据安全、知识产权到科技伦理，人工智能治理面临的挑战相互交织、彼此加剧。与此同时，人工智能技术具有自主演进的特性，致使其在发展数据安全问题：数据安全问题贯穿人工智能数据应用的全生命周期，数据采集、模型训练、用户在数据采集阶段，存在过度收集、非法爬取等数据对抗样本攻击等安全威胁。针对数据源和模型潜在漏洞，攻击者通过植入恶意程序，会引发隐私数据用户发起的查询（包含内部商业机密或个人隐私信2025全球可信AI治理与数据安全报告第一章全球人工只能发展与治理现状06科技伦理问题：人工智能借助模仿人类的交互在决策过程中，AI算法的歧视行为往往隐匿于技术中立性的表象之下，其隐蔽特性让识别与纠正工作随着人工智能自主性的持续增强，传统的责任归属框架逐渐难以适配。当人工智能作出错误决策时，开发者、运营者和使用者之间的责任界限缺乏清晰2022年6月，一家美国科技巨头就其广告AI算法涉嫌歧视一案，与美国司法部协议。此前，该公司在其在线招聘软件编程过程中，使用了会自动排除年龄较大应知识产权问题：人工智能大模型训练数据的侵权问题，以及生成内容知识产权的界定工作，面临着诸多严峻挑战。在模型训练过程中，若采用的数据集包含未经授权的数据资料，导致AI生成与版权作品高度相似、具有明显模仿特征的内容，严重损害原创者的权益，违背知识产权保护原则。从生成AI创作特性相契合，不能直接套用。同时，技术追溯与判定体系存在局限，难以精准评估AI生成内容的原创性，导致生成内容的权属界定面临较大不确定性，且缺乏统一的判定标准，给知识产权保护带AI企业未经授权，使用受版权保护的素材进行模型训练，所生成的内容构成侵权，法院判定，林某对图片的设计、修改有着独特的选择与安排，生成图具有独创性，2025全球可信AI治理与数据安全报告第一章全球人工只能发展与治理现状07标注标准不统一以及来源的合法合规性等问题，均公平性和可靠性造成威胁。算法的不透明和非公开信协议的欠缺，导致AI模型与外部工具的集成受到成本和系统稳定性的限制，系统间的协作障碍也愈AI生成内容进行传播的个体组织，多主体之间存在责任划分难题。在实际应用中，鉴于各主体承担着不同的责任与义务，致使一方主体的内部治理仅能发挥部分作用，仍需借助上下游协作来解决整体风或因模型精调引入新的风险，且难以与基础模型的产业链下游（应用层）。在企业应用人工智能业务效能提升等情况。结合不同场景来看，企业迫切需要解决传统数据架构兼容性欠佳、AI应用标准规范滞后等问题。在个体应用人工智能的场景中，主要涉及个人基于生成式人工智能开展内容创作与传播，进而会引发虚假信息传播、知识产权侵权等行业应用时，由于不同行业在技术应用规范和安全人工智能作为国家战略性技术和关键科技产业方向，其发展既影响国际地缘政治态势，也深受国际地缘政治的影响。在人工智能创新方面领先的国家将拥有显著的发展优势，而霸权国家则把人工智能关键技术和工具当作博弈的武器。受此影响，人工智能领域面临制裁风险、断供脱钩风险等诸多潜在隐患，关键算力芯片、算法框架、训练数据与云资源的获取受阻，全球AI供应链的完整性与稳定性遭到冲击，企业在高端技术和底层能力的持续投入制裁风险：部分国家借助多层次的制裁手段，试图重塑全球产业格局。一方面，对大模型架构、算法创新等核心技术进行管制，限制技术交流和高端人才流动（例如限制跨国科研合作项目），阻断知识共享和创新能力在全球范围内的扩散。另一方面，通过长臂管辖对外国企业投资进行审查，强行重组人工智能产业链生态，破坏全球技术研发的连断供脱钩：部分国家凭借在关键核心技术上的优势，频繁运用出口管制、分级管控以及贸易禁运等强硬手段，对敌对国家进行打压，严禁芯片等关键零部件流入被限制国家，部分前沿AI技术也被严格禁止向这些国家转移，造成事实上的产业脱钩，扰乱全球人工智能产业的正常发展秩序，阻碍技术交流与合作，进一步加剧地缘政治博弈在科技领域2025全球可信AI治理与数据安全报告第一章全球人工只能发展与治理现状08鉴于人工智能技术发展迅猛，且其发展方向难以精准预测，人工智能潜藏的一系列安全问题对社会发展和国家安全构成了不容小觑的威胁，各国纷（1）欧盟：以风险分级为核心，统一立法的欧盟在人工智能安全与技术创新的平衡中更倾向于安全治理，以《人工智能法案》为指引，推行从民事法律层面为基于人工智能控制的机器人制定工智能助力欧洲》《关于人工智能——卓越与信任的欧洲路径白皮书》等，在推动AI技术及产品发展盟发布的《可信人工智能伦理指南》和《算法责任与透明治理框架》，构建起人工智能的伦理和法律按照风险程度将AI系统划分为四个等级，并针对不同级别的AI系统设定不同义务。法案着重强调安全为协调各成员国的执法工作，人工智能办公室将对专业指导和知识支持。由此可见，欧盟在各成员国近年来，欧盟围绕数据治理相继发布了《数字服务法案》《数字市场法案》《数据治理法案》，旨在规范欧洲的数据利用和流转制度，防范算法自动化《人工智能法案》共同构成了欧盟数据战略与人工智能框架下的重要监管规则。同时，欧盟数据保护监管机构严格限制互联网企业利用个人数据开展算法训练、模型训练，在企业使用个人数据进行训练以及针对超大在线平台的执法活动方面，欧盟也走在世界前列。以2025年7月发布的《通用人工智能行为准则》为例，作为《人工智能法案》的配套补充文件，为通用人工智能模型提供透明度、版权以及安全与保障三方面的自律指引。该准则要求大模型提供商提供技术架构、训练数据来源等关键信息，明确对创作者的版权保护，并针对最先进的系总体而言，欧盟在人工智能监管方面整体持审慎态度，着重强调安全治理优先。尽管这种严格的监管机制保障了安全性和透明度，但也引发关于合规成本过高以及可能阻碍创新的争议，各成员国在企业自律与政府监管之间展开激烈博弈。近期，欧盟委员会的监管政策呈现出促进人工智能创新与发展的趋势。例如，2025年4月发布的《人工智能工智能法案》相关程序，降低企业合规难度，借此美国构建了联邦与州相互协同的双轨规范架构，借助分散式立法、行政指引等方式，共同搭建起动态的人工智能监管治理体系，呈现出联邦与州2025全球可信AI治理与数据安全报告第一章全球人工只能发展与治理现状09联邦层面，2025年4月，美国国会众议院通过的《删除未经同意影像法案》。该法案将未经同定义为刑事犯罪。表面上，此法案是为处理隐私和色情剥削问题，本质上则是联邦层级首次针对生成在美国不同总统执政时期，对于人工智能监管的态度存在一定波动。与拜登政府主张强化监管、着重隐私保护不同，特朗普政府更倾向于放宽对该特朗普签署了《维护美国人工智能领先地位》行政命令，提出要降低人工智能技术应用的障碍，同时隐私与价值得到保护的前提下，积极推动人工智能在特朗普2.0时代，美国政府签署了《消除美国人工智能领导地位的障碍》行政命令，废止了拜降低企业合规成本，优先运用最小化监管手段巩固此外，特朗普政府曾多次主张去“监管化”，尝试从法规层面禁止各州对人工智能进行监管。在Act）中，包含一项禁止各州在未来十年内对人工智在州级层面，州政府通常会先于联邦政府做出反应。过去五年间，近三十个州通过了数十项地方此外，各州立法的关注点存在差异，针对人工智能技术应用程度较深的特定场景开展了广泛的立声音和图像安全法案》要求，未经许可不得使用人工智能模仿艺术家的声音，以防止音频深度伪造和声音克隆，这体现出对人工智能技术在特定领域可能引发侵权问题的关注。2019年伊利诺伊州颁布的《人工智能视频面试法案》规定，企业在使用人工智能面试应聘者时，应审查其是否履行告知同意、总体而言，美国联邦与州双轨并行的弱监管框架更注重行业自律，呈现出在发展中寻求安全的监管特征。鼓励行业自治的特点源自发展导向的政策的监管力度和重点差异明显，虽然在一定程度上填补了监管空白，但灵活的监管在促进创新的同时，部分监管空白也可能加剧算法偏见、深度伪造滥用等伦理风险。此外，技术封锁与国内松绑并行的策（3）中国：国家—行业—地方三级治理，统中国在人工智能治理领域已构建起以“发展+业规范、地方配套所组成的三级监管治理架构。其特点为政策引导清晰明确、分层实施井然有序、动2017年，国务院发布的《新一代人工智能发能的法律法规与伦理规范作为保障人工智能发展的2025全球可信AI治理与数据安全报告第一章全球人工只能发展与治理现状10我国在人工智能领域的法律规制工作正稳步推进。作为整体规制的基础性法律，《人工智能法》草案已被列入国务院2023年立法工作计划。尽管目前统一的人工智能立法尚未出台，但我国已将人工智能安全发展的相关原则融入《中华人民共和国个人信息保护法》等现行法律中，还针对生成式人工智能、深度合成、AI生成内容等应用场景出台专门的部门规章。这些举措为人工智能的安全发展提供及时的法律依据和回应，彰显了动态优化、灵活在缺乏统一法律规范的阶段，我国针对重点领针对算法推荐服务，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局推荐管理规定》。该规定明确了算法推荐服务提供者的信息服务规范以及用户权益保护要求，同时要求具备舆论属性或者社会动员能力的算法推荐服务提供者履行备案义务。针对信息服务与舆论传播场景，2022年11月发布的《互联网信息服务深度合成管理规定》明确要求，具备舆论属性或者社会动员能力的深度合成服务提供者需履行备案以及变注销备案的相关手续。针对生成式人工智能应用场景，2023年7月，《生成式人工智能服务管理暂行办法》发布，该办法着重强调了生成式人工智能服务提供者的法律责任与义务。2025年9月正式生效的《人工智能生成合成内容标识办法》对人工除上述重点文件外，在自动驾驶领域，有《智能网联汽车道路测试管理规范（试行）》《智能网联汽车道路测试与示范应用管理规范》等规定；在智慧医疗领域，有《人工智能医疗器械注册审查指导原则》《人工智能辅助诊断技术管理规范》《人工智能辅助治疗技术管理规范》等。此外，以《上海市促进人工智能产业发展条例》《深圳经济特区人工智能产业促进条例》为代表的地方立法也取得了积极成效。除提出促进人工智能产业发展的各项政策措施，我国还对人工智能安全治理展开探索。例如，在地方政府层面设立人工智能伦理委员会；实施分级监管，明确禁止类人工智能清单，针对高风险场景要求开展事前评估与风险预警，对于中低风险场景则要求进行事前披露和事后跟踪；对于从事人工智能研究和应用的企业与个人，要求其遵守伦理安全规范，并开展伦理安全规范审查和风险评同时，我国将算法备案与大模型备案作为监管的切入点。针对具有舆论属性和社会动员能力的生成式人工智能服务，我国已构建算法备案与大模型备案的双备案机制。截至2025年3月，我国已公布10批深度合成类算法备案清单，共有346款生成式人工智能服务在国家网信办完成备案。对于通过API接口或其他方式直接调用已备案模型能力的生成式人工智能应用或功能，共有159款在地方网地方配套组成的三级监管治理架构。同时，现有的监管政策文件表明，我国在人工智能治理方面始终秉持安全与发展并行的理念，以安全为底线，为人日本和韩国在人工智能监管领域各有特色，通过软硬法律工具相结合的方式以及跨部门协同治理2025全球可信AI治理与数据安全报告第一章全球人工只能发展与治理现状11模式，为人工智能产业的发展提供了清晰且明确的日本主要通过非约束性的指导原则和行业标准工智能研发指南》（草案2019年3月，发布《以人为本的人工智能社会原则》，着重强调人工2024年4月，整合相关指南后，发布《商业人工例如，2024年3月发布的《关于AI与著作权相关制定方式灵活，内容针对性强。不过，这种宽松的韩国主要依靠自愿性指导方针、基于伦理道德的准则，以及对特定行业立法的修订完善来对人工智能实施监管。2020年11月，韩国推出《以人为积极推进立法实践，构建起综合性的人工智能法律总体而言，日本和韩国在人工智能监管框架方遵循非约束性的指导原则与指针，具有鲜明的软法特性，凭借灵活的制定方式和周期，对人工智能技战略指南划定道德界限，后期积极推进立法实践，构建起综合性的人工智能法律体系。两国在推动人工智能创新发展的同时，都注重对人工智能技术的2025全球可信AI治理与数据安全报告2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研13人工智能技术正以惊人的速度发展，企业应用人工智能提速增效已是大势所趋。如何建设可信人工智能以应对潜在风险，是企业放心使用人工智能AI及数字化负责人、信息安全负责人、法务合规等部门的负责人发放调查问卷，以了解和分析企业可信人工智能治理的现状和趋势。调研企业的具体情的特征，大多数企业对于人工智能的应用和治理尚处于初级阶段，技术应用集中于简单工作的效率提升场景，对核心业务的赋能不足，且对外部模型依通过调研发现，大部分企业已启动了人工智能目标与战略的规划工作，虽然仅有12%认定义了明确的人工智能目标与战略，但有8业处于规划中或已初步定义，这说明了人工智能对已定义了明确的人工智能目已初步定义了人工2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研14在人工智能治理模式的选择上，近50%的企业倾向于选择混合式治理模式，由企业进行统一的AI治理与基础架构配置，在此基础上各业务部门进行AI探索与开发部署。分散式与集中式的AI治理模式并不是模式模式能制造、人员招聘、风险合规管理和财务管理等复杂场景中技术渗透相对缓慢，反映出企业在不同业务环节中2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研15从人工智能应用类型的实现进程来看，已有77%的受访企业表示部署实现了智能问答助手，其次是数据在大模型工具和产品类型的选择上，通用大语言模型（如ChatGPT、Claude、DeepSeek）成为企业的首选，占据受访企业的83%；商业AISaaS/PaaS产品（如开发助手等）也是企业选择大从模型获取渠道来看，开源模型成为67%受访企业的首选来源，其次是外部厂商提供的SaaS服务或独立部署模型，仅有23%的企业会使2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研16（88%），数据使用的合规性与隐私保护（79%）和总拥尽管企业对于人工智能愈加重视，但过去12个月企业对于人工智能建设的资2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研172.2人工智能应用的顾虑与风险时60%的受访企业认为模型幻觉（即模型生成与现实不符的结果）或输出不稳定，可能导致业务决策失误，2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研18风险。调研数据显示，数据泄露风险、法律合规风险和隐私保护风险是当前企业2.3企业可信人工智能治理建设情况2.3企业可信人工智能治理建设情况可信人工智能治理是企业平衡技术发展与风险的有效战略工具，前文已提及当前企业的人工智能调研数据，37%的受访企业已经初步或已定义了可正在建设或规划中，这与章节2.1中提及的人工智能治理建设进度是较为一致的，也反映了企业充分2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研19根据调研数据，42%的受访企业选择由信息科超过半数的受访企业表示上述部门会参与到企业人考虑到治理工作的跨部门协同需求，设立统一的管理委员会成为多数企业的普遍选择。59%的企业已设立或正在规划其可信人工智能治理委员会，其中又有三分之一以上的企业会将可信人工智能治理委员会设置为独立的治理委员会，而非其它治理2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研20调研显示，超过一半（68%）的受访企业已启动了可信人工智能管理的政策制定工作，有58%的企业已由于本次调研主要面向中国大陆及港澳台企业（包括位于中国大陆的外资企业），超过一半的受访企业（66%）在制定可信人工智能治理政策时，参考了中国本土的法律法规，以确保在国内运营的合规性。同时，超过半数企业（53%）借鉴了美国NIST（NationalInstituteofStandardsand半左右（50%）采用ISO/IEC42001人工智能管理工智能法案》。少数（9%）企业则选择ISACA的2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研21在构建可信人工智能治理体系中，技术控制措施为企业满足相关政策和标准要求提供了关键支调研结果显示，当前企业在应对人工智能风险时，普遍优先部署与传统信息安全接轨的控制手段，例密及密钥管理（高达83%的企业在不同程度上采取值得注意的是，这类技术控制多数聚焦于底层这些手段虽然对AI场景中的信息保护构成基础保安全延申”，而对AI应用自身引发的新型风险防范例如，与大模型相关的技术控制措施普遍部署这一趋势显示，企业对AI特有风险的识别与响应能2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研22此外，基于上文所提及的对人工智能数据安全方面的重视，大多数企业都采取了多种类型的数据安全技术措施以平衡人工智能领域的风险控制。在本次所调研的数据安全管控措施中，隐私影响评估（79%数据脱敏与匿名化（63%）、数据源安均为企业重点关注的治理要素，体现出企业在AI落地过程中对数据流通合规与敏感信息保护的高度重流程及措施在企业内部顺利落地的有效途径。超过半数（54%）的受访企业已向全体员工开展了人工智能安全与合规相关培训，旨在培养员工的人工智能风险意识，引导员工安全合规地运用人工智能。然而，专业化与针2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研232.4现阶段挑战与未来规划企业在推进可信人工智能治理过程中面临的最严峻挑战主要集中在合规成本与复杂性、人工智能技术架2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研24的企业认为，AI架构本身技术复杂性高，增加了治此外，近三成（29%）企业反映组织结构及角色职责分工不明，31%则指出专业人员技能经验不在投入规划方面，半数（50%）企业对可信人工智能治理的未来投资趋势缺乏明确的判断，反映明确表示正积极增加预算，显示出部分组织对未来尽管面临着未来的不确定性，但参与调研的企2025全球可信AI治理与数据安全报告第二章可信人工智能治理与应用现状调研25企业对可信人工智能治理的期望聚焦于标准化建设、技术生态协同与能力提升三大方向，体现出行业对首先，可供参考的标准体系与框架成为最迫切诉求。绝大多数（72%）受访企业呼吁发布权威的以降低企业合规成本并弥合实践鸿沟。同时，58%的企业期待人工智能服务提供方推出标准化可信方案，将伦理设计、安全评估等能力嵌入技术底座，其次，完善技术产品标准与认证，提高产品规范也被视为关键诉求，大多数（70%）企业希望能够参考权威的标准及认证机制，通过更多的第三方机构对可信人工智能产品进行评估和认证，确保产品的质量和可信性。此外，过半（58%）企业还希望人工智能服务提供方也能够提供标准化的可信方最后，增强产学研各界合作，提升人员技能，推动实践的落地是长期关注重点。38%企业普遍希望加强产学研合作，以及拓展人员技能与资质培训2025全球可信AI治理与数据安全报告2025全球可信AI治理与数据安全报告第三章可信AI治理与数据安全案例分享27典型案例1：可信AI治理体系建助力企业调研显示，超过50%的企业已经定义了可信建立并实施可信AI治理框架，保障AI安全合规使用已成为企业全面提升竞争力，提高公信力的必然案例企业作为媒体行业传播出海的头部公司，使用AI技术辅助员工进行内容生产，也针对用户提供AI产品，优化使用体验。其构建AI治理体系的内部驱动因素源于自身全球化发展战略和风险管控的双重需求。首先，企业出海战略需符合国际市场的合规门槛。案例企业内容受众广，覆盖国家多，面临全球范围内多地区的监管压力。其次，企业需要避免AI技术失控引发的危机。案例企业主要接入外部AI大模型产品，但缺乏成熟的AI服务接入管外部驱动因素主要源于三方面压力：一是全球闻提出了保障用户知情、防误导、版权合规等具体要求。二是社会舆论的持续性监督。公众对AI生成虚假信息、算法歧视等伦理风险敏感度上升，媒体集团作为信息传播核心枢纽，更易因技术滥用引发信任危机。三是行业竞争与标准化趋势。跨国媒体等国际标准看齐，通过提升可信AI治理能力建立差企业建构AI治理体系应坚持以目标准则为导以持续监测维护为保障的总体思路，逐步建成、完2025全球可信AI治理与数据安全报告第三章可信AI治理与数据安全案例分享28具体可遵循四步路径：首先树立AI治理体系筑牢信任基石。其次基于业务架构实施分域治理，通过差异化管控实现创新与合规的动态平衡。同步配套构建多层级制度体系。最后建立持续监控优化案例企业参照主流AI相关法规和治理标准，系统构建了覆盖AI全生命周期的治理框架体系。该保障AI使用的安全性与可控性”为核心目标。基础上，结合业务复杂性、媒体行业特性与AI应用2025全球可信AI治理与数据安全报告第三章可信AI治理与数据安全案例分享29为实现核心目标和对各细分领域的有效治理，案例企业构建三级垂直组织管理体系：顶层由安全技术管理委员会负责战略决策与审批，下设人工智能管理领导小组统筹合规审查与资源调配，各业务线设立专职AI治理责任人对接具体执行。在制度配套方面，构建四级管理制度文件：一级文件明确公司层面总体要求；二级文件针对各细分治理领域制定管理办法和实施细则；三级文件提供具体的流程指引和操作指南；四级文件则包含检查清单、有效性测量表等标准模板。案例企业坚持动态化风险评估与持续维护机制，定期开展管理体系有效性测评案例企业建成AI治理框架体系后已获得ISO/国际认证的企业。同时，依托治理体系内的风险评估机制，累计识别并化解AI应用过程中涉及监管合规、外部攻击、数据偏见等十余项潜在风险。该体可信的AI治理能力形成差异化竞争优势，助力企业国内某网络安全企业引入人工智能技术，达成了漏洞情报收集与审核流程的智能化升级，大幅提有力推动了漏洞验证工作的规模化发展。然而，随着人工智能技术在业务场景中的深入应用，企业逐渐意识到在人工智能安全和合规方面正面临新的挑其一，数据安全问题。作为处理大量敏感信息的网络安全服务供应商，在借助AI为自动化渗透测试等业务赋能时，需要通过治理体系来防范数据泄露、滥用等风险，从而确保客户信息安全与服务的合规性。其二，交付风险控制问题。随着内部产品研发与服务交付的风险控制标准不断提高，需要借助AI治理机制来协调技术应用效率与风险管控要求，避免因管控限制而影响人工智能技术在满足业务需求时发挥优势，推动技术赋能与风险防控实现动态统一，AI治理已迫在眉睫。其三，监管层面的合规压力。随着《国务院关于印发新一代人工智能发展规划的通知》《网络安全法》及《生成式人工智能服务管理暂行办法》等法规的密集出台，国家对人工智能的监管力度持续加大，从数据采集、模型训练到内容输出及应用等各个环节都提出了明确的合规要求。特别是在与政府、金融、运营商等典型行业客户合作时，合规已成为项目交付的基本前需求和市场准入条件。为应对上述挑战，企业开始2025全球可信AI治理与数据安全报告第三章可信AI治理与数据安全案例分享30施行AI安全防护举措，对AI模型的输入输出以及应用场景开展实时监测和策略限制。比如，有效拦截Prompt注入攻击，对模型生成的内容进行构建AI安全监测机制，在安全测试平台集成行为观测功能，实时监控模型调用链，及时察觉并制止异常行为，防止模型被恶意调用或绕过安全规借助AI与网络安全的融合为AI治理赋能，企防护架构体系，达成对大语言模型（LLM）及智能具体可分为三个步骤：首先，搭建一个多层级的安全防护体系，整合Web攻击防护、API防护以及鉴权机制等，有效抵御非法调用和恶意输入。其次，针对多样化的业务场景和部署模式，提供灵活的接入方案，并输出率降低约60%，基本杜绝了敏感信息的错误输出。同时，合规性检查覆盖率达到100%，为公司多个AI2025全球可信AI治理与数据安全报告第三章可信AI治理与数据安全案例分享31典型案例3：AI全周期治理，助力企业安全在市场需求、降本增效以及技术迭代等多重因素的驱动下，国内某人工智能及大数据科技企业将存在大模型训练数据安全防护不足、算法决策黑箱缺乏可解释性以及合规机制滞后等问题；在监管层面，需要应对国内外人工智能法律法规不断发展所带来的合规框架调整挑战；在伦理层面，需要确保技术具备公平性、包容性与透明性，以履行企业社基于发展现状和长期的技术实践，企业构建了一套完善的AI全生命周期治理流程。该流程主要聚针对大型模型固有安全风险开展制度与流程建设。企业制定了《新业务及产品开发与设计流程合规规范》《内容安全指南》等规章制度，以此确立人工智能产品和服务的安全标准，并进一步细化衍生出《语料标准规则》等具有较强可操作性的细则算法安全评估以及AIGC产品迭代发布评估等自查环节，从而实现对人工智能产品潜在风险的精准预建立人工智能产品全生命周期合规管控流程。企业构建了一套覆盖产品设计开发、验证试验、部署运行、维护升级直至下线删除等全生命周期的人工智能产品管控体系。在设计开发阶段，为确保训练数据来源合法合规，所有授权文件及协议均被严格留存。语料标注内容需经过预检、质检、终检三级审核，以保证标注的准确性。安全与合规团队运用专用测试集对大模型算法进行交叉测试，并对安算法团队通过分析训练数据的loss分布，筛选并清洗异常数据（如loss值过高或过低、重复或不通顺确保语料的通顺性和语义完整性。安全与合规团队动态维护对抗性测试题库，每月更新并定期评估模型表现。若生成内容频繁违规或效果未达标准，则触发模型重新预训练流程。在部署运行阶段，开发团队对模型参数文件进行加密存储，以防止逆向攻击，并采用TLS协议保障数据传输安全。合规团队