AI项目风险评估模板-含技术合规伦理分维度

AI项目风险评估模板——含技术/合规/伦理分维度

标签：AI项目风险|技术风险评估|合规风险|伦理风险|风险评估模板|风险矩阵|2026最新

日期：2026年9月22日

一句话简介：按技术、合规、伦理三大维度，逐一拆解AI项目风险评估的评估框架、评分方法、风险矩阵和可复制模

板，覆盖风险识别、分析、评价、缓解和治理全流程，每一步都有法规依据和操作指引。

关键词/标签：AI项目风险评估、技术风险、合规风险、伦理风险、风险矩阵、风险阈值、E-T-C分析、风险评估模板

适用人群：AI项目负责人、企业管理者、法务合规人员、算法工程师、产品经理、风险管理专业人员、技术团队负责

人

文档类型：模板工具类

目录

第一章：法规框架与评估义务

第二章：风险评估总体框架与流程

第三章：技术风险评估

第四章：合规风险评估

第五章：伦理风险评估

第六章：风险矩阵与综合评级

第七章：风险评估报告模板

第八章：风险缓解与治理

第九章：常见问题解答

附录：速查表与隐私安全规范

第一章：法规框架与评估义务

1.1核心法规体系

AI项目风险评估的法规体系由四个层次构成：

第一层：基础法律

法律核心要求对风险评估的影响

《网络安全法》网络运营者安全保护义务评估系统安全等级保护、日志留存

《数据安全法》数据分类分级保护评估数据来源合法性、分级管理

《个人信息保护法》个人信息处理规则评估个人信息处理合法性基础

《科学技术进步法》科技伦理治理评估伦理审查义务

第二层：专项监管规则

《人工智能科技伦理审查与服务办法（试行）》（工信部联科〔2026〕75号）明确要求，人工智能科技活动申请伦理

审查时，须提交人工智能科技活动科技伦理风险评估情况、防控及应急处理预案，包括人工智能技术预期应用带来的

潜在科技伦理风险评估，对科技伦理风险的监测预警措施，对可能产生科技伦理风险的防控计划等。

《生成式人工智能服务管理暂行办法》第七条规定，提供者应当依法开展预训练、优化训练等训练数据处理活动，使

用具有合法来源的数据和基础模型；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形。

《互联网信息服务深度合成管理规定》第十六条规定了深度合成服务提供者的安全评估义务。《具有舆论属性或者社

会动员能力的互联网信息服务安全评估规定》要求开展安全评估。

第三层：国家标准

标准核心内容

GB/T45654-2025《生成式人工智能服务安全基本要求》语料安全、模型安全、安全措施

GB/T45652-2025《预训练和优化训练数据安全规范》训练数据及其处理活动的安全要求

GB/T24353:2022《风险管理指南》风险管理原则、框架和过程

GB/T47863-2026《生成式人工智能技术应用社会影响服务提供者合规合规管理体系的组织、建立、实

管理指南》施、评价

第四层：国际参考框架

框架核心内容

NISTAIRMF1.0治理、绘图、衡量、管理四大功能

ISO31000:2018风险管理原则和指南

ISO/IEC23894:2023AI风险管理指南

前沿AI风险管理框架2.0风险识别、阈值、分析、评价、缓解、治理六阶段

前沿人工智能风险管理框架2.0参考了安全关键行业的风险管理标准和实践，并与ISO31000:2018、ISO/IEC

23894:2023和GB/T24353:2022等国内外标准保持一致，整体流程包括风险识别、风险阈值、风险分析、风险评价、风

险缓解和风险治理六个阶段，覆盖模型全生命周期，形成完整的风险管理闭环。

1.2风险评估的义务来源

义务类型法规依据具体要求

《人工智能科技伦理审查与服务办法（试

伦理风险评估提交伦理风险评估报告、防控及应急预案

行）》

具有舆论属性或社会动员能力的须开展安

安全评估《生成式人工智能服务管理暂行办法》

全评估

算法备案《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续

个人信息保护影响

《个人信息保护法》处理敏感个人信息、自动化决策等须开展

评估

义务类型法规依据具体要求

重要数据出境、达到规模的个人信息出境

数据出境安全评估《数据出境安全评估办法》

须申报

第二章：风险评估总体框架与流程

2.1六阶段风险评估流程

参照前沿AI风险管理框架2.0和ISO31000标准，AI项目风险评估采用六阶段流程：

阶段核心任务输出物

风险识别识别项目可能面临的各类风险风险清单

风险阈值设定红线和黄线阈值风险阈值定义

风险分析评估风险发生概率和影响程度风险分析表

风险评价综合评定风险等级风险等级评定

风险缓解制定并实施缓解措施缓解措施计划

风险治理持续监控和定期复审治理报告

前沿AI风险管理框架2.0提出用“红线”表示不可容忍的危害，用“黄线”表示需要提前干预的预警信号。风险缓解后的剩

余风险按这两条线划入三个风险区：低于黄线为绿区（可以常规部署），介于黄线与红线之间为黄区（只能在受控条

件下部署），达到或超过红线为红区（应暂停部署或研发）。

2.2E-T-C三维分析方法

前沿AI风险管理框架2.0提出“部署环境—威胁源—使能能力”（Environment–ThreatSource–Capability，简称E-T-C）

三维分析方法。开发者不仅要评估模型“能做什么”，还要分析模型“在哪里运行”以及“可能因为什么出错”，再根据不同

风险采取部署控制、访问限制、移除危险能力等措施。

维度评估内容示例问题

部署环境模型在什么环境中运行是否面向公众？是否涉及关键基础设施？

威胁源可能因为什么出错恶意攻击、数据投毒、模型滥用、系统故障

使能能力模型具备哪些能力内容生成、代码执行、工具调用、自主决策

2.3风险评估工作表

以下评估工作表可直接复制使用：

AI项目风险评估工作表：

字段内容

项目编号【编号】

字段内容

项目名称【名称】

项目负责人【姓名脱敏】

评估日期【日期】

评估版本v【X.Y】

项目阶段立项/开发/测试/上线/运营

自主性级别L0-L3（L0=人工执行/L1=人工审批/L2=自动+事后审计/L3=完全自主）

第三章：技术风险评估

3.1技术风险分类

AI项目的技术风险主要分为六大类：

风险类别风险描述典型表现

模型安全风险模型被攻击或产生不安全输出提示词注入、越狱攻击、有害内容生成

数据安全风险训练数据或用户数据泄露数据投毒、隐私泄露、未授权访问

系统鲁棒性风险系统在异常条件下失效分布偏移、对抗样本、性能退化

应用安全风险应用层面临的安全威胁未授权工具调用、自主决策越界

技术实现风险技术方案本身存在缺陷模型幻觉、知识截止、推理不一致

供应链风险第三方组件或服务不可靠依赖库漏洞、API服务中断、供应商风险

国家计算机病毒应急处理中心联合多家机构发布的《大模型与智能体安全综合测评报告（2026）》构建了覆盖内容安

全、合规安全、伦理安全、数据安全、鲁棒安全和应用安全的综合评测框架，对国内外主流大模型及智能体产品开展

系统测试与分析，重点考察违法违规内容生成、偏见歧视、隐私泄露、提示注入、越狱攻击、未授权工具调用、自主

决策越界等场景下的安全表现。

3.2技术风险评估表

以下评估表可直接复制使用：

##技术风险评估表

###项目信息

-项目名称：【名称】

-评估日期：【日期】

###一、模型安全风险

|评估项|风险描述|发生概率|影响程度|风险等级|缓解措施|

|--------|----------|----------|----------|----------|----------|

|提示词注入|模型被诱导执行恶意指令|高/中/低|高/中/低|红/黄/绿|【措施】|

|越狱攻击|模型被绕过安全限制|高/中/低|高/中/低|红/黄/绿|【措施】|

|有害内容生成|模型输出违法或有害内容|高/中/低|高/中/低|红/黄/绿|【措施】|

|模型幻觉|模型输出编造的事实|高/中/低|高/中/低|红/黄/绿|【措施】|

###二、数据安全风险

|评估项|风险描述|发生概率|影响程度|风险等级|缓解措施|

|--------|----------|----------|----------|----------|----------|

|数据投毒|训练数据被恶意篡改|高/中/低|高/中/低|红/黄/绿|【措施】|

|隐私泄露|用户数据被泄露|高/中/低|高/中/低|红/黄/绿|【措施】|

|未授权访问|未授权者访问训练数据|高/中/低|高/中/低|红/黄/绿|【措施】|

###三、系统鲁棒性风险

|评估项|风险描述|发生概率|影响程度|风险等级|缓解措施|

|--------|----------|----------|----------|----------|----------|

|分布偏移|模型在新场景下性能下降|高/中/低|高/中/低|红/黄/绿|【措施】|

|对抗样本|精心构造的输入导致模型出错|高/中/低|高/中/低|红/黄/绿|【措施】|

|性能退化|模型长期运行后性能下降|高/中/低|高/中/低|红/黄/绿|【措施】|

###四、应用安全风险

|评估项|风险描述|发生概率|影响程度|风险等级|缓解措施|

|--------|----------|----------|----------|----------|----------|

|未授权工具调用|Agent调用未被授权的工具|高/中/低|高/中/低|红/黄/绿|【措施】|

|自主决策越界|Agent执行超出预期的操作|高/中/低|高/中/低|红/黄/绿|【措施】|

###五、供应链风险

|评估项|风险描述|发生概率|影响程度|风险等级|缓解措施|

|--------|----------|----------|----------|----------|----------|

|依赖库漏洞|第三方库存在安全漏洞|高/中/低|高/中/低|红/黄/绿|【措施】|

|API服务中断|第三方API不可用|高/中/低|高/中/低|红/黄/绿|【措施】|

|供应商风险|供应商合规或安全资质不足|高/中/低|高/中/低|红/黄/绿|【措施】|

3.3技术风险缓解措施参考

风险类型缓解措施操作要点

输入审核层+信任标记+系统提部署输入过滤、对外部内容添加分隔符、在系统提示词中

提示词注入

示加固加入安全约束

越狱攻击输出过滤+安全护栏+持续监控部署输出审核、建立安全护栏、监控异常攻击模式

强制代码执行+事实核查+人工要求所有计算通过代码执行、对关键结论交叉验证、高风

模型幻觉

审核险输出人工确认

数据来源审查+数据质量管控建立数据来源台账、开展数据质量评估、建立溯源审计机

数据投毒

+数据溯源制

风险类型缓解措施操作要点

数据脱敏+权限最小化+输出过

隐私泄露入库前脱敏、实施最小权限配置、部署输出敏感信息扫描

滤

未授权工具工具白名单+权限分级+人工确

建立工具白名单、实施权限分级、高风险操作人工审批

调用认

第四章：合规风险评估

4.1合规风险分类

AI项目的合规风险主要分为六大类：

风险类别风险描述法规依据

数据来源合规训练数据来源不合法《暂行办法》第七条

版权合规训练数据或生成内容侵犯著作权《著作权法》《暂行办法》第七条

个人信息保护未经同意处理个人信息《个人信息保护法》

内容安全生成违法违规内容《暂行办法》第四条

标识合规未按要求添加AI生成标识《标识办法》

算法备案未按规定履行备案义务《算法推荐管理规定》

4.2合规风险评估表

以下评估表可直接复制使用：

##合规风险评估表

###一、数据来源合规

|评估项|评估内容|是否合规|风险等级|整改措施|

|--------|----------|----------|----------|----------|

|数据来源合法性|数据获取方式是否合法|是/否/部分|红/黄/绿|【措施】|

|授权链条完整性|第三方数据是否有完整授权|是/否/部分|红/黄/绿|【措施】|

|平台规则遵守|是否违反目标平台使用协议|是/否/部分|红/黄/绿|【措施】|

###二、版权合规

|评估项|评估内容|是否合规|风险等级|整改措施|

|--------|----------|----------|----------|----------|

|训练数据版权|训练数据是否获得授权或使用开放授权|是/否/部分|红/黄/绿|【措施】|

|生成内容版权|生成内容是否与现有作品实质性相似|是/否/部分|红/黄/绿|【措施】|

|数据台账|是否建立数据集权属台账|是/否/部分|红/黄/绿|【措施】|

###三、个人信息保护

|评估项|评估内容|是否合规|风险等级|整改措施|

|--------|----------|----------|----------|----------|

|个人信息识别|是否识别训练数据中的个人信息|是/否/部分|红/黄/绿|【措施】|

|合法性基础|是否取得同意或符合法定情形|是/否/部分|红/黄/绿|【措施】|

|影响评估|是否开展个人信息保护影响评估|是/否/部分|红/黄/绿|【措施】|

|删除机制|是否建立删除请求响应机制|是/否/部分|红/黄/绿|【措施】|

###四、内容安全

|评估项|评估内容|是否合规|风险等级|整改措施|

|--------|----------|----------|----------|----------|

|内容审核|是否建立生成内容审核机制|是/否/部分|红/黄/绿|【措施】|

|违规内容拦截|是否建立违规内容拦截机制|是/否/部分|红/黄/绿|【措施】|

|投诉举报|是否建立投诉举报受理机制|是/否/部分|红/黄/绿|【措施】|

###五、标识合规

|评估项|评估内容|是否合规|风险等级|整改措施|

|--------|----------|----------|----------|----------|

|显式标识|是否按要求添加显式标识|是/否/部分|红/黄/绿|【措施】|

|隐式标识|是否在文件元数据中添加隐式标识|是/否/部分|红/黄/绿|【措施】|

###六、备案与评估

|评估项|评估内容|是否合规|风险等级|整改措施|

|--------|----------|----------|----------|----------|

|算法备案|是否履行算法备案义务|是/否/部分|红/黄/绿|【措施】|

|安全评估|是否按规定开展安全评估|是/否/部分|红/黄/绿|【措施】|

|伦理审查|是否按规定开展伦理审查|是/否/部分|红/黄/绿|【措施】|

4.3合规风险缓解措施参考

风险类型缓解措施操作要点

数据来源不合建立数据来源合法性审查台

对每批训练数据进行来源合法性审查，留存授权文件

规账

获取授权+建立台账+相似性获取著作权人许可、建立数据集权属台账、对输出进行相似

版权侵权

检测性检测

告知同意+影响评估+删除机显著告知处理目的、开展影响评估、15个工作日内响应删除

个人信息侵权

制请求

内容审核+拦截机制+投诉受建立生成内容审核流程、部署违规内容拦截、建立投诉举报

内容违规

理机制

标识缺失显式标识+隐式标识按《标识办法》要求添加显式标识和隐式标识

备案缺失算法备案+安全评估按要求完成算法备案和安全评估

第五章：伦理风险评估

5.1伦理风险分类

《人工智能科技伦理审查与服务办法（试行）》明确，开展人工智能科技伦理审查，重点关注人类福祉、公平公正、

可控可信、透明可解释、责任可追溯、隐私保护6个方面，包括训练数据的选择标准，算法、模型、系统的设计是否合

理；是否采取措施防止偏见歧视、算法压榨，保障资源分配、机会获取、决策过程的客观性与包容性；是否合理披露

算法、模型、系统的用途、运行逻辑、交互方式说明、潜在风险等信息。

AI项目的伦理风险主要分为六大类：

风险类别风险描述关注重点

公平性与偏见模型对不同群体产生歧视性输出训练数据偏见、算法设计偏见、输出偏见

透明度与可解释性决策过程不可理解或不可解释是否合理披露算法用途、运行逻辑、交互方式

隐私保护个人信息被过度采集或滥用最小必要原则、去标识化、删除机制

可控可信系统行为不可控或不可信自主性约束、监督机制、应急响应

责任可追溯责任主体不明确或无法追溯治理结构、审计追踪、补救流程

社会影响对就业、环境、公众信任产生负面影响就业替代、环境影响、公众信任

5.2伦理风险评估表

以下评估表可直接复制使用：

##伦理风险评估表

###一、公平性与偏见

|评估项|评估内容|风险等级|缓解措施|

|--------|----------|----------|----------|

|训练数据偏见|训练数据是否存在群体不均衡|红/黄/绿|【措施】|

|算法设计偏见|算法是否使用与敏感属性相关的代理特征|红/黄/绿|【措施】|

|输出偏见|模型输出是否对不同群体有差异化影响|红/黄/绿|【措施】|

|公平性指标|各群体公平性指标差异是否在阈值内|红/黄/绿|【措施】|

###二、透明度与可解释性

|评估项|评估内容|风险等级|缓解措施|

|--------|----------|----------|----------|

|信息披露|是否合理披露算法用途、运行逻辑、交互方式|红/黄/绿|【措施】|

|决策可解释|关键决策是否可被理解和解释|红/黄/绿|【措施】|

|用户知情|是否向用户披露AI系统的使用和潜在风险|红/黄/绿|【措施】|

###三、隐私保护

|评估项|评估内容|风险等级|缓解措施|

|--------|----------|----------|----------|

|最小必要|是否仅采集与目的直接相关的数据|红/黄/绿|【措施】|

|去标识化|是否对数据进行去标识化处理|红/黄/绿|【措施】|

|重标识风险|是否评估了多字段联合后的可识别性|红/黄/绿|【措施】|

|数据留存|是否设定合理的留存期限和删除机制|红/黄/绿|【措施】|

###四、可控可信

|评估项|评估内容|风险等级|缓解措施|

|--------|----------|----------|----------|

|自主性约束|是否对Agent的自主决策设置约束|红/黄/绿|【措施】|

|人工监督|是否设置人工监督和干预机制|红/黄/绿|【措施】|

|应急响应|是否建立AI系统熔断和应急响应机制|红/黄/绿|【措施】|

###五、责任可追溯

|评估项|评估内容|风险等级|缓解措施|

|--------|----------|----------|----------|

|治理结构|是否建立明确的治理结构和责任分工|红/黄/绿|【措施】|

|审计追踪|是否建立操作日志和审计追踪机制|红/黄/绿|【措施】|

|补救流程|是否建立投诉受理和补救流程|红/黄/绿|【措施】|

###六、社会影响

|评估项|评估内容|风险等级|缓解措施|

|--------|----------|----------|----------|

|就业影响|是否对特定岗位产生替代影响|红/黄/绿|【措施】|

|环境影响|模型训练和推理的能耗情况|红/黄/绿|【措施】|

|公众信任|是否可能损害公众对AI的信任|红/黄/绿|【措施】|

5.3伦理风险缓解措施参考

风险类型缓解措施操作要点

数据均衡+公平性指标+去确保训练数据群体均衡、选择公平性指标监控、使用

偏见歧视

偏算法Fairlearn/AIF360等工具

透明度不

信息披露+可解释性报告合理披露算法用途和运行逻辑、生成SHAP/LIME解释报告

足

最小必要+去标识化+重标

隐私泄露仅采集必要数据、对敏感字段脱敏、评估多字段联合可识别性

识评估

自主性约束+人工监督+熔对Agent设置权限分级、高风险操作人工确认、建立AI系统熔断机

失控风险

断机制制

治理结构+审计追踪+补救建立AI伦理委员会、留存操作日志不少于6个月、建立投诉受理机

责任不清

流程制

第六章：风险矩阵与综合评级

6.1风险矩阵

风险矩阵通过“发生概率”和“影响程度”两个维度确定风险等级：

发生概率\影响程度低影响中影响高影响

高概率黄区红区红区

中概率绿区黄区红区

低概率绿区绿区黄区

6.2三色风险分区

参照前沿AI风险管理框架2.0的风险分区方法：

分区风险等级处置要求部署条件

绿区低风险常规监控可以常规部署

黄区中风险加强监控+缓解措施只能在受控条件下部署

红区高风险立即停止+整改应暂停部署或研发

6.3综合评级汇总表

以下汇总表可直接复制使用：

##AI项目风险综合评级表

###项目信息

-项目名称：【名称】

-评估日期：【日期】

-评估版本：v【X.Y】

###风险汇总

|维度|风险项|发生概率|影响程度|风险等级|缓解措施|剩余风险|

|------|--------|----------|----------|----------|----------|----------|

|技术|提示词注入|高/中/低|高/中/低|红/黄/绿|【措施】|红/黄/绿|

|技术|数据投毒|高/中/低|高/中/低|红/黄/绿|【措施】|红/黄/绿|

|技术|模型幻觉|高/中/低|高/中/低|红/黄/绿|【措施】|红/黄/绿|

|合规|数据来源不合规|高/中/低|高/中/低|红/黄/绿|【措施】|红/黄/绿|

|合规|版权侵权|高/中/低|高/中/低|红/黄/绿|【措施】|红/黄/绿|

|合规|标识缺失|高/中/低|高/中/低|红/黄/绿|【措施】|红/黄/绿|

|伦理|偏见歧视|高/中/低|高/中/低|红/黄/绿|【措施】|红/黄/绿|

|伦理|透明度不足|高/中/低|高/中/低|红/黄/绿|【措施】|红/黄/绿|

|伦理|隐私泄露|高/中/低|高/中/低|红/黄/绿|【措施】|红/黄/绿|

###综合评定

|评定项|结果|

|--------|------|

|红区风险项数|【数量】|

|黄区风险项数|【数量】|

|绿区风险项数|【数量】|

|综合风险等级|红/黄/绿|

|总体评估结论|通过/有条件通过/不通过|

|最关键的三个问题|1.【问题1】2.【问题2】3.【问题3】|

|优先行动事项|1.【行动1】2.【行动2】|

第七章：风险评估报告模板

7.1完整风险评估报告模板

以下报告模板可直接复制使用：

#AI项目风险评估报告

##一、项目基本信息

-项目编号：【编号】

-项目名称：【名称】

-项目负责人：【姓名脱敏】

-所属部门：【部门】

-评估日期：【日期】

-评估版本：v【X.Y】

-项目阶段：立项/开发/测试/上线/运营

-自主性级别：L0/L1/L2/L3

##二、项目概述

###2.1项目背景

【200-500字描述项目背景和目标】

###2.2技术方案

【简要说明技术架构、使用的模型、数据来源】

###2.3目标用户与受影响方

【描述目标用户和可能受影响的群体】

###2.4部署环境

【描述模型的部署环境（E-T-C分析中的E维度）】

##三、技术风险评估

###3.1模型安全风险

【评估提示词注入、越狱攻击、有害内容生成、模型幻觉等风险】

###3.2数据安全风险

【评估数据投毒、隐私泄露、未授权访问等风险】

###3.3系统鲁棒性风险

【评估分布偏移、对抗样本、性能退化等风险】

###3.4应用安全风险

【评估未授权工具调用、自主决策越界等风险】

###3.5供应链风险

【评估依赖库漏洞、API服务中断、供应商风险】

##四、合规风险评估

###4.1数据来源合规

###4.2版权合规

###4.3个人信息保护

###4.4内容安全

###4.5标识合规

###4.6备案与评估

##五、伦理风险评估

###5.1公平性与偏见

###5.2透明度与可解释性

###5.3隐私保护

###5.4可控可信

###5.5责任可追溯

###5.6社会影响

##六、风险综合评级

###6.1风险汇总表

【填入风险汇总表】

###6.2综合评定

-红区风险项数：【数量】

-黄区风险项数：【数量】

-绿区风险项数：【数量】

-综合风险等级：红/黄/绿

##七、风险缓解计划

|风险项|缓解措施|责任人|完成时间|验证方式|

|--------|----------|--------|----------|----------|

|【风险1】|【措施】|【姓名】|【日期】|【验证】|

##八、监测与预警机制

|监测项|频率|预警阈值|责任人|

|--------|------|----------|--------|

|【监测项1】|【频率】|【阈值】|【姓名】|

##九、应急预案

|事件类型|应急响应|处理措施|

|----------|----------|----------|

|【事件1】|【响应】|【措施】|

##十、评估结论

-[]通过，可正常部署

-[]有条件通过，需完成以下整改：【列出】

-[]不通过，需重新评估

评估人签字：

评估日期：

第八章：风险缓解与治理

8.1风险缓解措施优先级

优先级措施类型适用风险

第一优先消除风险暂停高风险功能、移除敏感数据

第二优先降低风险部署安全护栏、实施脱敏处理、添加人工审核

第三优先转移风险购买保险、签订责任分担合同

第四优先接受风险对低风险项建立监控机制

8.2持续监控机制

监控项频率预警阈值责任人

安全事件每日发生即告警安全负责人

公平性指标漂移每月差异超过阈值算法伦理官

合规状态每季度法规更新或违规合规专员

模型性能每月下降超过10%技术负责人

偏见投诉每周异常升高伦理联络员

8.3风险治理闭环

风险治理遵循PDCA循环：计划（Plan）→执行（Do）→检查（Check）→行动（Act）。年度审查时确认风险阈值是

否仍适用，根据监管更新和运营发现更新评估框架。对通过审查的项目，在实施过程中进行跟踪审查，确保风险缓解

措施持续落实。

第九章：常见问题解答

Q1：哪些AI项目需要进行风险评估？

根据《人工智能科技伦理审查与服务办法（试行）》，在中华人民共和国境内开展的、可能在人的尊严、公共秩序、

生命健康、生态环境、可持续发展等方面带来科技伦理风险挑战的人工智能科学研究、技术开发等活动，以及依据法

律、行政法规和国家有关规定需进行人工智能科技伦理审查的其他科技活动，都需要进行风险评估。

Q2：风险评估应该多久做一次？

建议在项目立项前完成首次评估。开发过程中如发生重大变更（技术方案调整、数据源变更、部署环境变化），需要

重新评估。上线后建议每季度复审一次，或根据监管更新和运营发现触发复审。

Q3：技术风险、合规风险、伦理风险如何区分？

技术风险关注系统本身的安全性、稳定性和可靠性；合规风险关注是否满足法律法规的要求；伦理风险关注是否对人

类社会和个体产生负面影响。三类风险存在交叉，例如隐私泄露既是技术风险也是合规风险和伦理风险，评估时需要

综合考虑。

Q4：红区风险如何处理？

红区风险表示不可容忍的危害，应立即暂停部署或研发，制定整改方案。整改完成后需重新评估，确认风险降至黄区

或绿区后方可继续。前沿AI风险管理框架2.0建议将红线风险作为开发者主动采取的审慎承诺，在行业共识和监管制度

尚未完全建立之前，先通过自我约束防范最严重的风险。

Q5：风险评估报告需要提交给谁？

伦理风险评估报告需提交本单位AI伦理委员会审查。涉及算法备案和安全评估的，需向主管部门提交。企业应建立全

流程文档与记录管理制度，所有风险评估活动必须形成可追溯的文档。

Q6：中小企业如何低成本完成风险评估？

推荐路径：第一步，使用本手册的评估表模板逐项评估；第二步，重点关注红区风险的识别和整改；第三步，建立简

单的风险台账和监控机制；第四步，根据项目复杂度决定是否需要引入外部专业评估。核心是“有识别、有评估、有措

施、有记录”。

Q7：风险评估中的自主性级别是什么意思？

自主性级别是LLM风险框架中的重要维度。L0表示完全人工执行，L1表示人工审批后执行，L2表示自动执行但有事后

审计，L3表示完全自主。自主性级别越高，风险越大，需要的管控措施越严格。

Q8：如何评估AI项目的社会影响？

社会影响评估至少覆盖三个维度：就业影响（是否对特定岗位产生替代）、环境影响（模型训练和推理的能耗）、公

众信任（是否可能损害公众对AI的信任）。评估时应识别受影响群体，分析影响程度，制定缓解措施。

附录：速查表与隐私安全规范

附录A：三维度风险分类速查表

维度风险类别核心风险项首要缓解措施

技术模型安全提示词注入、越狱攻击输入审核+输出过滤

技术数据安全数据投毒、隐私泄露来源审查+数据脱敏

技术系统鲁棒性分布偏移、对抗样本持续监控+定期重训练

技术应用安全未授权工具调用工具白名单+权限分级

合规数据来源来源不合法合法性审查台账

合规版权训练数据侵权授权获取+相似性检测

合规个人信息未经同意处理告知同意+影响评估

合规内容安全违规内容生成内容审核+拦截机制

合规标识未添加AI标识显式+隐式标识

伦理公平性偏见歧视数据均衡+公平性监控

维度风险类别核心风险项首要缓解措施

伦理透明度不可解释