AI上车的安全合规分析与实践

Deloitte.Al上车的安全合规分析与实践

Part1Al应用、挑战和应对◎2025.欲瞭解更多資訊,請聯繁德勤中國。

2生成式AI全民化(如ChatGPT

、DALL·E),

垂直领域大模型(如DeepSeek)我是Deepseek,很高兴见到你!我可以绍你写代码、读文件、写作各种创路内容，请把你的任务交给我吧一OpenAI的GPT-3(1750亿参数),多模态模型(CLIP),Pytorch

等开源生态成熟OpenAIGPT-3生成对抗网络(GAN),

卷积神经网络(CNN),TensorFlow

框架，Transformer架

构

，AlphaGo现在自2022年底ChatGPT问世以来，大模型应用呈井喷发展，

Al使用门槛大大降低，学生、上班族等非技术群体都能快速上手，

技术特征为个人端侧AI、Al可实现个性化

微调2020sAI应用开始快速在企业侧发展，企业管理者、程序员开始大模型训练，

技术特征为预训练大模型、

MaaS

服

务化2010s该阶段为AI快速发展初期，主要用户群体为高校科研团队，技术特征为高门槛算法、

GPU

集群AI普适化开启智能普惠时代从2010年以来，Al进入快速发展期，随着算法突破、算力平民化、数据泛在化，Al

用户从科技从业者转向普罗大众，应用场景也从垂直领域逐步拓展到生活全场景覆盖全民普惠期多模态交互/低代码平台/私有化部署行业渗透期Transformer

架构/开源社区/边缘计算专业深耕期高门槛AI算法(如CNN

、RNN

、GAN)woman

with

glasses2025.欲了解更多信息，请联系德勤中国。

3应用场景·

创新和优化产品需求·

多模态分析/设计与仿真·

辅助产品工程开发实施·

实施自动验证确认测试·

评估人机交互界面·支持增强现实/混合现

实应用于工厂维护·

多目标优化排产·

预测性维护设备·

协调厂内机器人·检测质量与识别缺陷·对供应品和成品进行自

动化的视觉检查·

预测未来订单量·

智能补货·优化工厂/仓储调度·

智能销售顾问/助手·

个性化生成广告·

智能座舱个性化推荐·

多模态娱乐系统·

场景式推荐算法服产品服务客户体验·

车辆安全监控·远程诊断与检测故障·

智能辅助驾驶·

智能维修方案推荐·

智能客服聊天机器人·

改

进B2B服务的车队管

理研工程开发产生产制造供供应链销营销、销售与售后汽车行业Al应用汽车企业在“研-产-供-销-服”五大核心业务环节上，正在应用Al技术的加速重构◎2025.欲了解更多信息，请联系德勤中国.

4汽车行业人工智能(分析/预测/仿真/推荐/

…

)Al应用行业通报案例国家针对

Al

行业在数据安全、个人信息保护、内容合规等领域的违规操作，

已通过行政处罚、平台/企业整改等措施，强化

监管与处罚，推动

Al

应用的规范发展。机密数据泄露·

某车企研发人员，在撰写一份研究报告时，为节省

工作时间，使用了内部AI应用软件，将车辆核心数

据及实验成果作为素材进行上传，被黑客获取后，导致该研究领域涉密信息泄露。Al平台应该应具备数据加密及上传提示功能，防止

核心数据泄露。虚假有害信息传播·

某省网民何某陆续利用AI工具在互联网平台发“多个城区被水淹、又涨水了”等不实信息，博

取流量关注，公安机关已依法对该企业实施行政

处

罚

。Al输出的内容能够获得用户的信任，不传播误导

性、虚假或有害信息。训练数据未脱敏·

某科技公司计划开展人工智能模型训练，处理人

脸等生物识别类敏感个人信息时，未依照个人信

息保护法要求开展个人信息保护影响评估，公安

机关已依法对该企业实施行政处罚。管理者应加强数据及其处理过程的安全管理，防

范潜在的安全风险。内容标识未落实·

某MCN机构在互联网平台上传未标注Al生成的“律

师解读”视频，导致用户错误解读，公安机关要求平台限期整改，未合规内容采取限流、下架等措施。服务提供者需对Al生成内容添加隐式、显式内容标

识

，不向用户传输误导性内容。◎2025.欲了解更多信息，请联系德勤中国.

5Part

2欧盟

AlACT合规要求分析◎2025.欲瞭解更多資訊,請聯繁德勤中國。

6全球人工智能监管法规实践Global

Al

Regulations

Landscape瑞士·

将人工智能透明度规则整合到

现有的数据保护法律中；·

并修改地方竞争法、产品责任

法和普通民事法律，以应对人

工智能系统的需求。巴西·

人工智能系统的道德和负责任使用综合框架澳大利亚·

《澳大利亚隐私原则(APP

)

》·《澳大利亚消费者法》·《关键基础设施安全法法案》·

《反歧视法》·

《工作健康与安全法》数字营销的重点领域美国·

《美国数据隐私与保护法案

(ADPPA)》·《人工智能培训法案》·《国家人工智能倡议法案》·《算法问责法案》·《透明自动化治理法案》·《全球科技领导力法法案》·

《加州消费者隐私法案(CCPA)》·《加州人工智能透明度法案》·

《数据安全法》·

《个人信息保护法》·《新一代人工智能伦理规范》·《互联网信息服务算法推荐管理规定》·《互联网信息服务深度合成管理规定》·《生成式人工智能暂行管理办法》·

《英国通用数据保护条例

(UK-GDPR)》·《支持创新的AI监管方法》·

《针对Al的行业特定法律

指

导

》

英国欧盟《人工智能法案》《关于禁止的人工智能

(AI)

实践的指南》

《通用数据保护条例(GDPR)》·

《人工智能与数据法案》·《关于自动化决策的指令》

加拿大·

《实施Al原则的指南》·

《日本AI治理指南Ver1.1》印度·《数字印度法案》日本中国·罚款情况·禁止的人工智能系统：最高3500万欧元或其上一财政年度全球年营业总

额的

7

%,较高者为准：·

其他风险人工智能系统：最高1500万欧元或其上一财政年度全球年营业

总

额

3

%,较高者为准：·

应对监管：在回应要求时提供不正确、不完整或误导性信息的，最高

750万欧元或其上一财政年度全球年营业总额1%,较高者为准。通用人工智能模型：上一财政年度全球总营业额3%或1500万欧元，较

高者为准。AI

System-人工智能系统一个基于机器的系统，旨在以不同的自主性水平运作，并且在部署后可能

表现出适应性，该系统根据明确或隐含的目标，从接收到的输入中推断如何生成输出，如预测、内容、推荐或决策，这些输出可以影响物理或虚拟

环

境

。General-Purpose

AI

Model(GPAI)一通用人工智能模型人工智能模型，包括使用大规模自我监督用的大量数据进行训练的人工智

能模型。无论该模型在市场上的投放方式如何，该模型都具有显著的通用

性，能够胜任执行各种不同的任务，并且可以集成到各种下游系统或应用

程序中，但在市场上发布之前用于研究、开发或原型设计活动的人工智能

模式除外。

(

*大部分企业开发的

GenAl

都包含此类)

版关键日期‘

提

供

商

’开发Al系统或GPAI的个体/实体；或开发后将其投放欧盟市场；或以其名义/商标将Al投入服务，无论付费/免费‘产品制造商’产品制造者以自己的名称或商标将人工智能系统与其产品一起投放市场或提供服务；‘

进

口

商

’位于欧盟或在欧盟设立的自然人/法人，将带有设立于第三国的自然人/法人名称的名称/商标的Al系统投入欧盟市场欧盟《人工智能法案》有以下几个关键生效日期：·

2025.02.02(6个月):ChapterII:禁用的Al实践·

2

025.08.02(12个月):Chapter

V:通用人工智能模型·

2026.08.02(24个月):全面实施(除Annex

I)·

2

027.08.02

(36个月):Annexl

提及的高风险人工智能监管情况2025年8月前，各成员国应确认“通知机关”和“市场监督管理机关”以实

施监督监管工作。‘

授

权

代

表

’位于欧盟或在欧盟设立的自然人/法人，其已收到并接收Al提供商的书面授权，代表其履行义务，执行规定程序‘

部

署

商

’在其授权下，使用Al系统的自然人/法人/政府当局/代理机构/其他团体，个人非专业活动除外‘

分

销

商

’供应链中除“提供商”、

“进口商”之外，在欧盟市场提供Al系统的自然人或法人欧盟——《人工智能法案》Al

Act-综述2025.欲了解更多信息，请联系德勤中国。角色定义8不可接受风险等级人工智能系统示例：·

有害的操纵与欺骗行为·

恶意利用弱点进行有害行为·

社会信用评分系统*·

个体犯罪风险评估与预测·

非定向抓取数据以建立面部识别数据库·

情感识别·

生物特征分类·

实时远程生物识别(RBI)高风险等级人工智能系统示例：·

用于评估信贷、健康或人寿保险资格，或享受公共福利的资格的系统·

用于分析求职申请或评估候选人的系统·

产品安全组件：附件一：欧盟整车型式批准框架法规EU2018/858,EU有限风险等级人工智能系统示例：生成式人工智能(如ChatGPT)

不会被归类为高风险，但必须遵守透明度要求和欧盟版权法：·

与消费者互动的人工智能系统·

生成或操作内容的人工智能系统最小风险等级人工智能系统示例：·

垃圾邮件过滤器·

具备人工智能功能的游戏*如果法律实体的评估是基于对一组自然人的社会行为或个人或个性特征的评估或分类的总分，并且该分数直接影响到这些人(例如，公司的所有员工，

行为受到评估的特定学校的学生),那么如果满足所有其他条件，这种做法可能属于《反歧视法》第5(1)(c)条的范围。不可接受风险

等级高风险等级有限风险等级最小风险等级被禁止违反如基本权利的联盟价值观符合性评估对健康、安全、环境和基本权利存在高风险威胁

透明度义务存在仿冒或欺骗的风险无义务不存在高风险欧盟——《人工智能法案》人工智能系统的风险类型1.

披露内容由人工智能生成2.设计模型以防止其生成非法内容3.

发布用于训练的受版权保护数据的摘要·

识别禁止场景·

降低风险等级·

质量和风险管理体系·

数据和数据治理·

技术文档·

人类监督·

日志记录·

准确性、稳健性和网络安全·

透明度义务·

上市后监控、事件报告及纠

正·

欧盟数据库登记·

合格性评估·

披露人工智能互动·

标记合成内容·

部署者披露深度伪造·

情感或生物特征识别系统对

接触人的告知·

公开利益相关的人工智能生

成文本的披露·

无义务中国出海车企面对欧盟《人工智能法案》的核心挑战1.合规认知与体系差距：企业尚未建立对法案“基于风险”合规逻辑的系统性认知，亦缺乏贯穿Al产品全生命周期的风险

管理、文档记录及事后监管的实践能力。2.制度化流程建设挑战：法案要求构建一套强制性的、可被审计的Al治理与工程化流程，这暴露并挑战了企业现有研发体

系中制度化管理的薄弱环节。3.关键技术实现壁垒：在确保复杂模型的透明度与可解释性、为数据驱动系统提供最高等级的人身安全保证，以及有效集

成人力监督机制等方面，企业面临显著的技术瓶颈与成本压力。4.认证与审计准备缺乏：监管或认证界尚未发布明确审核要求，企业普遍对欧盟Al系统评估程序存在认知空白，不明确如

何系统性地准备与呈现安全案例、测试报告等关键证据以通过第三方审计。项目实施思路建议优先确保已实施或即

将实施的节点合规达

成“可迭代的”能力建

设与合规证据准备持续的体系和泛体系

建设外部合作生态伙伴建设，收集，多方信息，

组合多方优势内部资源、职责与分工梳理协同风险类型义务及挑战人工智能法案合规建设阶段结合人工智能法案执行时间及企业实施合规工作的实际情况，德勤建议将人工智能法案合规工作以可扩展的方式拆分为三阶段实施。ISO/IEC42001人工智能管理体系ISO/IEC38507组织使用人工智能的治理影响ISO/IEC23053使用机器学习的人工智能系统框架ISO/PAS8800安全和人工智能ISO/IEC5338人工智能系统生命周期高风险Al系统迎审材料准备强制法规参考标准人工智能法案

AI

ACTEU2018/858EU2019/2144NISTAl

1.0风险框架ISO/IEC23894人工智能风险管理指南ISO/IEC25059人工智能系统的质量模型OWASP

LLMand

Gen-AlData

Security

Best

PracticeISO/IEC5259数据质量分析和机器学习ISO/IEC5259数据质量分析和机器学习第三阶段(视认证机构信息)2027.08.02:AI

ACTAnnexl提及的高风险Al系统人工智能

法案解读资产盘点及合

规差距分析Al质量管理体系框架建设有限风险Al系统

证据准备各领域体系

建设SMS

全面拓展与认证产品应用Al的功能(系统梳理

)新增有限风险Al

系统证据准备第二阶段(8个月：2026/

Q5-2027/Q2)2026.08.02:Al

ACT全面实施(除Annex

I)CSMS

拓展与高风

Al数据质量管理

FUSA&SOTIF险产品试点

制度建设

体系拓展FUSA&SOTIF工作的Al拓

展FUSA&SOTIF测试网络安全工

作

的Al拓

展网络安全测

试2025.02.02:ChapterII:禁用的AI实践2025.08.02:Chapter

V:通用人工智能模型欧盟人工智能法案合规进度法

规

、

标

准高风险Al系

统审核支持高风险Al系

统审核工作项OWASPTop

10

LLM数据阶段数据质量与完整性控制数据分类分级&加密存储数据脱敏、匿名化、最小化原则防数据投毒、恶意样本检测运行与监控阶段实时安全监测日志与审计漏洞与补丁管理安全告警与响应机制确保AI系统全生命周期安全

符合合规、可控、可信、可持续

支撑组织的治理、风险和合规目标治理与组织

风险管理

合规与法律

政策与制度模型阶段模型训练环境安全模型可解释性与透明性防范模型窃取、逆向攻击模型水印、完整性验证退役阶段模型与数据销毁/归档资产清单更新风险复盘与改进措施规划与设计阶段需求安全性评估AI影响评估安全架构设计部署阶段安全测试与验证部署环境安全访问控制与接口安全外部对接利益相关方沟通透明性与责任报告外部监管合规接口ISO/PAS8800:2024标准要求框架全生命周期安全要求支撑能

力供应链安全持续改进技术工具人员能力适用范围/技术针对广泛适用于道路车辆功能安全(未突出AI技术特性)针对预期功能安全，涉及部分Al针对Al技术的道路安全车辆安全相关系统(机器学习的Al方

案

)安全管理/生命周期侧重于功能安全管理流程专注功能不足但未有ISO/PAS

8800全面定义专用AI系统的安全生命周

期(需求推导至运营持续保障，强调迭代开发，关注功能不足和数据驱动方法)安全推导与措施基于功能安全推导侧重于预期功能安全推导，对

Al考虑较少针对AI特性多方面推导安全需

求，并提出架构与开发措施数据管理较少针对数据集进行全面管理，对AI系统安全关键作用关注不足详细定义了数据集的生命周期验证确认与分析难以完全适用AI系统适用AI系统的验证确认，安全分析方法，考虑Al系统的独特性ISO/PAS8800与FuSa/SOTIF

标准差异对比2025。欲了解更多信息，请联系德勤中国。

13Part3国内AI监管要求应对◎2025.欲瞭解更多資訊,請聯繁德勤中國。

142022年3月1日《生成式人工智能服务管理暂行办法》■发布机构：国家互联网信息办公室、国

家发展和改革委员会、教育部、科学技

术部、工业和信息化部、公安部、国家广播电视总局■适用对象：提供具有舆论属性或者社会

动员能力的生成式人工智能服务提供者■法规简介：旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社

会公共利益，保护公民、法人和其他组

织的合法权益《互联网信息服务深度合成管理规定》■发布机构：国家互联网信息办公室、工业和信息化部、公

安部■适用对象：具有舆论属性或者社会动员能力的深度合成服

务提供者、技术支持者■

法规简介：旨在加强互联网信息服务深度合成管理。对于

在中华人民共和国境内应用深度合成技术提供互联网信息服务进行规范■发布机构：国家互联网信息办公室、工业和信息化部、公安部、

国家市场监督管理总局■

适用对象：具有舆论属性或者社会动员能力的算法推荐服务提

供者■法规简介：明确了算法推荐服务提供者的信息服务规范，提出具有针对性的算法推荐规章制度《人工智能生成合成内容标识办法》■发布机构：全国网络安全标准化技术委员会■

适用对象：服务提供者(指以交互界面、可编程接口等形式提供生成式人工智能服务的组织或个

人

)■法规简介：针对“人工智能生成合成内容”的技术标识方法O2023年1月10日92023年8月15日《Al

科技伦理管理服务办法》

《人工智能法》酝酿中

…2025.欲了解更多信息，请联系德勤中国。

15国内人工智能监管要求发展实施路线总览《互联网信息服务算法推荐管理规定》2025年9月1日

2026年Q1名称发文部门备注《生成式人工智能服务管

理暂行办法》牵头部门：国家网信办参与部门：国家发展和改革委员会、教育部、科技部、工

业和信息化部、公安部、国家广播电视总局2023/

5/232023/

8/15向境内公众提供生成式人工智能服务适用企业内部使用or非生成式不适用《互联网信息服务算法推

荐管理规定》牵头部门：国家网信办参与部门：工业和信息化部、公安部、国家市场监督管理

总局(四部门联合)2021/

11/162022/

3/1舆论属性/社会动员的算法推荐行为适

用固定顺序/手动排序不适用《互联网信息服务深度合

成管理规定》牵头部门：国家网信办参与部门：工业和信息化部、公安部2022/

11/32023/

1/10深度合成(照片、音频、视频等)适用传统/规则化合成不适用《人工智能生成合成内容

标识办法》牵头部门：国家网信办参与部门：工业和信息化部、公安部、国家广播电视总局2025/

3/72025/

9/1人工智能生成&合成服务提供者适用企业内部使用or人工生成不适用网络安全技术生成式人工智能服务安全基本要求

(GB/T

45654-2025)国家市场监督管理总局、国家标准化管理委员会2025人

4/252025/

11/1落地参考——生成式人工智能服务提供者训练数据安全、

模型安全和流程上的安全措施，以及如何开展安全评估网络安全技术生成式人工智能预训练和优化训练

数据安全规范(GB/T

45652

2025)国家市场监督管理总局、国家标准化管理委员会2025/

4/252025/

11/1落地参考——生成式人工智能服务提供者开展预训练和优化训练数据处理活动以及安全自评估，或第三方机构对预训练和优化训练数据进行安全性评估网络安全技术生成式人工智能数据标注安全规范

(GB/T

45674-2025)国家市场监督管理总局、国家标准化管理委员会2025/

4/252025/

11/1落地参考——生成式人工智能数据标注组织方开展训练数据标注活动，并为生成式人工智能数据需求方对于数

据标注进行检查、验收或第三方机构对数据标注进行安

全性评估提供参考◎

2025.欲了解更多信息，请联系德勤中国。

16强制

要求推荐

要求现行人工智能监管要求总览国内AI监管要求概览随着我国生成式人工智能的快速发展，国家出台的《办法》为我国生成式人工智能产业的发展确立了一个框架性的规则体系。可靠性与可用性在提供服务的过程中，提供安全、稳定、持续的服务，保障用户的正常使用备案与评估对于具有舆论属性和社会动员能力的生成式人工智能服务开展安全评估并依法进行备案等标准规范与准则要求数据标注的质量评估，抽样标注内容的准确性、标准人员培训。未成年人保护区分适用对象，尤其是对于未成年人采取防止过度依赖或者沉迷的生成式人工智能。监管上报发现违法内容与违规使用，应当

依法依约采取警示、限制功能，并向主管部门上报投诉举报机制建立健全投诉、举报机制，及时受理、处理公众投诉举报并反馈

处理结果。训练数据要求训练数据合法性来源，不得侵犯知

识产权、个人主体权益，确保训练数据的真实性，准确性，多样性。标识规范提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识服务协议与注册其服务的生成式人工智能

服务使用者签订服务协议，明确双方权利义务◎2025.欲了解更多信息，请联系德勤中国。

173重点AI合规场景设计识别、合规控制、改

造Al应用场景·

识别AI资产·

分析和评估AI场景风险

√

敏感数据DPIA评估

√标识缺失识别，等·

设计AI合规控制措施√上线前审查√

自动化合规工具，等·

场景流程改造4Al可持续运营落地实施Al合规运营

机制·

培训Al合规管理组织·

实施日常审查机制√

巡

检AI

输出内容√

检验深度合成水印

√

….·

上报AI合规事件·

检测AI算法风险·

检测相关方风险国内Al合规项目实施思路结合法规、标准要求及行业实践并结合企业实际，德勤已系统化构建人工智能体系建设各流程的交付物体系，应用于Al

合规建

设工作2AI

合规体系建设建立AI合规制度和组

织架构·

组建AI合规管理组织·

编制AI合规制度体系文件

√Al

全生命周期管理√

数据合规√

风险管理√

标识管理√

应急响应√

安全评估&算法备案√.…《AI系统全生命周期治理制度》

《AI

数据使用与调用管理制度》

《AI内容风控制度》《模型风险管理制度》《生成式AI

场景合规评审制度》

《深度合成内容标识制度》法规解读与要求

映射对标核心法规标准形

成要求·

梳理关键合规要求包括数据合规、训练合规、风险

管理、输出标识、内容安全、可

解释、可控、用户权益等·

映射至车企AI相关业务场景

如智能客服、智能销售、营销内

容生成、官网问答等。·

输出“必做清单”针对Al场景和合规要求，结合现状差距分析输出Al合规待办事项。AI法规要求矩阵Al场景合规映射表合规差距分析清单阶段

活动主要任务工作内容交付产

出◎

2025

.欲了解更多信息，请联系德勤中国。

18审查清单风险评估表▶内容巡检模板供应商评审问卷数据使用合规模板场景风险矩阵

场景控制措施▶场景治理流程图

场景合规指引安全评估对目标大模型现状进行安

全评估语料安全访谈与现场调研模型安全访谈与现场调研安全措施访谈与现场调研其他安全评估内容访谈与现场

调研基于现场访谈及检查，整理并输出整体安全现状评估结果阶段性产出物：安全现状评估结果备案支持协助其他备案材料的准备协助客户完成关键词库、测试题库等其他备案所

需材料的准备高效稳定的大模型API编写与测试使用阶段性产出物：关键词库、测试题库、

API等

备案材料及测试准备给出优化建议根据安全现状评估结果，

结合已有的《基本要求》

及其他相关参考标准给出

优化建议根据安全现状评估结果

进行分析参考有关标准和业界实践给

出优化建议阶段性产出物：差距分析结果及相关改进

建议编写安全评估报告基于属地网信办的相关要

求，编写安全评估报告调研属地网信办的相关

要求并整合网信办督导员的相关建议在安全现状评估的基础上，结合调研基础，编写安全评估报告阶段性产出物：安全评估报告评估内容生成我们在此阶段收集、整理所

有相关安全要求并形成安全

评估工具开展项目启动会相关安全要求及参考标准整理基于安全要求形成安全评估工具生成式人工智能服务备案——安全评估实施思路2025。欲了解更多信息，请联系德勤中国。

19阶段性产出物：安全评估工具A

)Part

4

车企Al治理应对实践◎2025.欲瞭解更多資訊,請聯繁德勤中國。

20业务板块核心业务参与角色Al应用典型场景核心风险类型造成的影响研需求分析产品设计测试验证技术转化项目经理系统工程师测试工程师BOM工程师自动驾驶系统开发虚拟仿真测试验证智能座舱人机交互AI辅助工业设计和代码生成大模型使用的业务风险、数据泄露

AI模型预期功能安全问题造成交通事故违反法规，面临高额罚款供供应商管理

库存管理

物流协调零部件DRESQE工程师采购工程师动态库存优化动态物流优化来料瑕疵检测供应链风险预警大模型使用的业务风险

AI模型预期功能安全问题零部件质量缺陷，车辆质量问题违反法规，面临高额罚款产生产计划

制造执行质量控制

设备维护生管工程师工艺工程师质检工程师车间工人机器视觉缺陷检测预测性产线维护工艺优化柔性生产数据泄露零部件缺陷未识别、生产停线违反法规，机密泄泄露销客户开发订单处理交付管理市场推广销售顾问市场分析工程师交付专员个性化精准营销大数据推送动态定价模型库存优化数字化营销展厅客户隐私数据泄露库存、定价、推销策略失效违反法规，面临高额罚款服客户回访售后维保增值服务OTA售后工程师客服技术支持远程故障诊断安全事件检测、告警、防御AI客服OTA与软件生态相关服务与客户数据泄露

输入输出安全维保不足或OTA软件问题，导致车辆问题未识别或产生新的问题职能财务人力资源内控法务等成本预算管理财务审计人员招聘、培训、考核内部流程审计供应链管理财务审计辅助、预算管理AI简历筛选、Al面试AI风险检测法规动态情报与预警Al模型泄露核心数据泄露输入输出安全系统性舞弊现金流问题招聘人员能力问题合规风险车企AI

应用的安全风险与挑战汇总体系化Al

治理企业范围内的系统性方法，用于监督组织内的

Al开发、部

署和监控。利用正式的框架、政策和程序，使Al的使用与

组织目标、责任模型、道德标准和监管要求保持一致。Al

生命周期管理在整个Al生命周期中涉及的操作风险缓解工具和流程，通过

设计、开发、数据处理、测试、部署、监控和反馈纳入，标

准化业务和数据科学实践。AI测

试评估和验证Al模型的准确性、可靠性、性能和公平性。测试

机制包括模型验证、压力测试、Al红队测试和解释性文档。信任运营护栏解决方案和技术的配置与部署，用于持续监控Al交互、

模型性能和对抗活动。数据质量、隐私与安全制定正确的、无偏见/平衡的、适当的数据准备协议，用于开

发/训练和测试，以实现数据最小化、保护和性能。平台安全通过集成到企业网络和基础设施解决方案及安全运营中心，

确保托管Al系统的底层基础设施和软件平台的安全。输入输出安全通过数据防泄漏工具对于Al系统的输入端进行检测和拦截，

集成智能化的内容审核管理平台或分类模型，形成风险标签

对于相关的输入异常指令进行定位，以防止模型被污染，产

生的输入、输出问题。德勤R171法规咨询服务技术交流

22数据质量、隐私与安全数据保护

|数据隐私

|数据质量

|数据治理*NLQ:

自然语言查询◎

2024。欲了解更多信息，请联系德勤中国。平台安全日志记录与监控|访问控制

|云、基础设施与网络安全|完

整性与滥用监控建立完备的AI安全架构以应对风险以下为针对企业可能面临的不同AI安全风险问题对应可采取的安全措施。模型层模型注册表传统模型|基础模型数据整合层批处理

|

数据API|NLQ

*数据层元数据|

结构

|

多模态

|

内

存存储③

AI测试模型验证

|压力测试红队测试

|

可

解释性模型开发、

测试、部署数据设计、

提取转换/加载Al

生命周期管理安全的

MLops/DevSecOps

|安全的供应链应用层通用数据服务|通用Al

服

务|用户界面

|微服务编排

|配置管理程序化AI

治理Al

战略

|

运营模式

|培训与意识

|政策与程序

|

合规性信任操作输入/输出审核模型

|应用监

控大预言模型网关消费者开发者输出/响应输入/提示安全设计和架构

安全编码

安全构建和测试安全交付和部署运行时监控触发器应用程序/产

品特定更广泛的治

理应用程序或功能设计持续辔拉取、克隆或提交开发人员代码蜜

包构建和集成阶段和测试持续部署发布到工件仓库实例化基础设施持续+数据分析-质量、偏差/不平衡、安全性+安全供应链+风险指标定义(例如，质量、安全)+基于风险的应用程序安全分类+架构审查+安全用户故事+风险审查/评估+威胁建模+设计安全平台+代码审查+数据集验证和分割+模型加固+安全控制评估器(SCA)+代码检查+安全单元测试+安全钩子+基础设施即代码安全+静态应用程序安全测试(SAST)+容器加固+版本控制与CMDB+软件物料清单(SBOM)+人工验证+

A

l

红

队+压力测试/防护栏测试+模糊测试+渗透测试+完整性检查+API测试+动态应用程序安全测试(DAST)+交互式应用程序安全测试(IAST)

+容器安全测试+审计跟踪