人工智能系统的服务连续性 治理要求-地方标准编制说明

稿）》地方标准编制说明一、工作简况（一）任务来源2020年12月21日，山东省市场监督管理局印发《2020年第二批地方标准制修订计划项目》的通知（鲁市监标字〔2020〕329号本标准列为推荐性地方标准，计划编号为“2020年第二批地方标准制修订计划项目—14”，立项标准名称为《人工智能产品的服务连续性治理要求》。本标准由山东省工业和信息化厅提出并组织实施，由山东省人工智能标准化技术委员会归口。（二）起草单位、起草人及任务分工本标准起草单位包括山东省计算中心（国家超级计算济南中烟台黄渤海新区工委办公室、山东新一代标准化研究院有限公司、济南大学、浪潮云洲工业互联网有限公司、山东财经大学、山东博远视讯信息技术有限公司、新华三大数据技术有限公司、紫光业达科技（山东）有限公司、山东联合电力产业发展有限公司、山东和同信息科技股份有限公司、山东省人工智能协会、山东新矿绿色智能科技发展有限公司。本标准的主要起草人为高永超、毕秋玲、翟虎、张荣文、吴晟、王妍、纪科、陈贞翔、刘培德、李文博、刘洋、卢晓建、刘汤伟、钟雨林、曲瀚凯、施浩然、刘帅、钟磊、张楠、戴子健、徐国奋、苏冠群。所做工作如下：高永超、毕秋玲、翟虎、张荣文负责框架设计和技术把关，吴晟、王妍、纪科、陈贞翔、刘培德、李文博、刘洋、卢晓建负曲瀚凯、施浩然、刘帅、钟磊、张楠、戴子健、徐国奋、苏冠群参与标准起草。（三）起草过程1.成立起草组山东省市场监督管理局标准制修订计划下达后，山东省计算中心（国家超级计算济南中心）高度重视标准的制定工作，为确保标准制定的科学性、普适性和严谨性，于2021年1月成立标准起草工作组，负责本标准的制定工作。2.形成标准工作组讨论稿标准起草工作组充分收集研究国际国内有关人工智能系统服务连续性的文献资料，重点了解服务连续性的影响因素及应对措施。在此基础上，经过多次讨论和修改形成标准组讨论稿。3.形成标准征求意见稿2022年9月，在山东省人工智能标委会内部征求本标准草案的修改意见，标准起草工作组从内容科学性、表述规范性等方面，对标准文本进行了相应的修改完善，形成本标准的征求意见4.标准公开征求意见2022年10月，山东省人工智能标委会就本标准向社会公开征求意见。同时通过山东省物联网协会、山东省人工智能协会，面向人工智能领域研究机构、企业和相关行业协会等32个单位和专家发送“地方标准草案征求意见稿”及相关材料，广泛征求意见。收到“地方标准草案征求意见稿”后，回函的单位或专家数为22个，回函并有建议或意见的单位或专家数为9个，没有回函的单位或专家数为10个，共收到22条意见，反馈意见包括格式的规范性、技术内容的准确性以及建议名称修改为《人工智能系统的服务连续性治理要求》等。5.形成标准送审稿根据标准的反馈意见，查阅最新的相关标准和文献，对标准的范围、技术内容等进行充分研讨，修改完善了标准文本，于2023年3月形成本标准的送审稿，并于2023年4月通过省级地方标准管理系统上报《人工智能系统的服务连续性治理要求》地方标准送审稿及配套材料。收到系统反馈意见后，标准起草组于2024年2月-3月多次召开研讨会，进一步完善草案送审稿内容，于2024年4月形成更新的标准送审稿及配套材料并提交系统。2024年8月，第二次收到系统反馈意见，编制组逐条讨论反馈意见，2024年9月形成更新的标准送审稿及配套材年11月，系统送审审核通过，同意召开标准审查会。6.技术审查2025年1月21日，山东省工业和信息化厅在济南组织召开了专家审查会议，共邀请9名专家组成地方标准专家审查委员会，全面审查了本标准的先进性、合理性、适用性、规范性等，会议一致同意该标准通过审查。标准起草组根据地方标准技术审查意见修改并经审查专家复审后，形成本标准草案报批稿。二、地方标准制定目的和意义人工智能是指机器在同样的任务中表现出和人类似的或一样的甚至是超过人类的智能。现如今，人工智能已经极大的改变了我们的生活，在未来的20年内人工智能将进一步改变包括制造业、健康，教育、娱乐、安全等各个领域。人们在享受人工智能各类产品和系统带来的便利的同时，也产生了一些疑问：如何保证人工智能系统的服务连续性？人工智能系统提供的服务中断后，如何保证快速地恢复？我们迫切地需要对人工智能系统的服务连续性提出治理要求。与传统信息技术产品相比，大多数人工智能系统不仅需要更高效地利用网络进行数据交换，还需要依赖海量数据进行模型训练、调优、评估等，从而提供更贴合产品目标的服务质量。巨大的计算负荷和网络负荷，势必会在资源保证、政策制定、基础设施、运行维护等各方面使人工智能系统的服务连续性面临着更加严苛的治理要求。为解决人工智能系统的服务连续性问题制定本标准，本标准可指导相关组织、企业开展人工智能系统服务连续性的治理工作，推动人工智能系统在各领域的广泛应用。三、地方标准编制原则、主要技术内容和确定依据（一）标准编制原则1.科学性原则本标准在遵循国家关于人工智能相关政策技术文件的基础上开展，在制定过程中参考了国内外有关服务连续性、业务连续性等技术文献，并及时根据相关专家反馈的问题进行调整完善，合理确定了人工智能系统服务连续性的治理要求，具有较高的科2.可操作性原则本标准制定过程中，起草工作组对服务连续性进行了深入的研究，力求标准内容全面具体，给出了对数据、算法模型、服务应用以及运维的要求，便于各企业、组织开展人工智能系统的服务连续性的治理工作，具有较高的可操作性。3.规范性原则本标准依据GB/T1.1—2020《标准化工作导则第1部分：（二）标准主要内容本章给出了本标准的章节内容及适用范围。本标准规定了人工智能系统在训练数据、算法模型、算力中心、推理平台、系统运维，以及保障机制等方面为实现服务连续性遵循的基本要求，描述了对应的治理方法。本标准适用于规范人工智能系统的规划、设计、开发、运行和维护。（2）规范性引用文件本章给出了本标准规范性引用的文件，包括在训练数据的治20988等标准。（3）术语和定义本章给出了适用于本标准的术语和定义。（4）缩略语本章给出了本标准中应用到的缩略语。（5）训练数据本章给出了人工智能系统训练数据的治理要求，包括数据安全、数据质量等方面。（6）算法模型本章给出了人工智能系统算法模型的治理要求，包括算法模型设计、算法模型应用等方面。（7）算力中心本章给出了人工智能系统算力中心的治理要求，包括硬件基础设施要求、服务连续性要求等方面。（8）推理平台本章给出了人工智能系统推理平台的治理要求，包括平台性能要求、故障快速恢复、用户机制等方面。（9）系统运维本章给出了人工智能系统运维的治理要求，包括风险评估、系统使用、资源保障、更新维护、事前规划、事后审查等方面。（10）保障机制本章给出了人工智能系统服务连续性的保障机制要求，包括组织管理、人员管理等方面。（三）确定依据1.术语和定义的确定现行国家标准GB/T41867—2022《信息技术人工智能术语》中有对“人工智能”的定义，该定义易于理解，同时基于优先采用现行国家标准的原则，本标准中使用的“人工智能”的定义，直接引用了GB/T41867—2022的3.1.2。现行国家标准GB/T41867—2022《信息技术人工智能术语》中有对“人工智能系统”的定义，该定义易于理解，同时基于优先采用现行国家标准的原则，本标准中使用的“人工智能系统”的定义，直接引用了GB/T41867—2022的3.1.8。ISO/IEC/IEEE24765:2017《系统和软件工程—词汇》中有对“服务连续性”的定义（ISO/IEC/IEEE24765:2017,3.3711本标准中使用的“服务连续性”的定义，直接引用了ISO/IEC/IEEE24765:2017的3.3711。国际标准化组织（ISO）、国际电工委员会（IEC）等国际机构，以及人工智能领域的专业组织，都发布了一系列关于人工智能系统方面的标准和规范，这些文档提供了大量的术语和定义，这些文件，同样也是我们界定本标准中术语和定义的重要参2.治理要求的确定通过查阅国内外有关人工智能系统服务连续性的相关文档发现，人工智能的三大核心要素为数据、算力和算法。数据是人工智能的基础，算力是人工智能的驱动力，算法模型是人工智能技术在生产实践中真正落地、促进产业发展的重要保障。运维能够保证产品服务的持续运行，组织管理影响整个产品的发展。因此本标准从训练数据、算法模型、算力中心、推理平台、系统运维、保障机制六个方面对人工智能系统进行治理，以保证服务的连续性。在人工智能系统训练过程中，数据的安全保护和质量至关重要，是确保人工智能系统的服务连续性的前提，参考GB/T36957《信息安全技术灾难恢复服务要求》和GB/T20988《信息安全技术信息系统灾难恢复规范》等标准中对于数据的加密、冗余存储、备份以及传输安全等方面的规定，本标准针对敏感数据泄露风险，以及在确保数据可用性、服务连续性和快速恢复的需求等方面，提出数据安全性的要求，其中对于设置数据备份系统的要求方面，直接引用相关国家标准中的要求。（2）算法模型本部分内容参考了目前人工智能技术实践应用中关于模型加密、代码混淆等防止模型被逆向的技术手段，以及基于开源框架或第三方库开发的模型更新调整需求，旨在提高模型的防逆向性，确保模型的安全性和迭代速率。算法模型应用部分，则是基于软件工程和软件测试的理论，强调了在应用前的风险评估和测试，以及实际应用中的监管和动态监测，确保算法在应用前经过充分的测试和风险评估，降低由于算法缺陷导致的服务中断风险，主要是考虑到当前对算法潜在漏洞和不可验证性的认识，以对算法运行结果准确性的重视。（3）算力中心本部分内容参考了信息技术服务管理的先进理念与实践，结合人工智能领域的特殊性，从硬件基础设施要求和服务连续性要求两大维度出发，详细规定了算力中心应具备的稳定电力供应、网络连接、关键设备冗余配置、物理基础设施安全可靠等硬件条件，以及灾难恢复计划、高可用性和容灾设备配置、监控与管理系统部署等服务连续性管理措施。通过实施该标准，能够提升算力中心在应对自然灾害、硬件故障、软件漏洞等风险时的应对能力，减少业务中断时间和数据丢失风险，保障业务稳定运行。（4）推理平台本部分内容融合了人工智能领域的推理算法优化、动态资源分配策略、故障快速恢复机制、用户体验设计等专业知识，旨在确保推理平台在提供高效、低延迟的推理服务的同时，能够动态调整资源以满足不同推理任务的需求，并通过预推理和缓存机制提升系统适应性和响应速度。此外，本部分还强调了故障的快速恢复能力，通过建立自动与手动相结合的故障检测与恢复机制，以及冗余设计策略，保障服务的连续性和稳定性。同时，注重用数据加密等措施，以及定期的数据备份与恢复工作，确保用户能够享受到安全、便捷、高质量的推理服务。31722《信息技术安全技术信息安全风险管理》等标准是目前国内关于信息安全风险评估的重要依据，规定了风险评估的流程、方法和要求。人工智能系统作为信息系统的一种，在风险评估中也应当遵循以上标准中的相关要求。获取评估结果后，应基于风险评估结果制定服务连续性计划，以预防、处置和恢复服务中断事件，并通过定期更新和维护来确保计划的有效性。同时标准中强调了收集预警信息的重要性，以便及时采取措施预防可能发生的服务中断事件。系统使用部分主要是基于用户体验原则以及遵循网络安全标准，系统使用说明的编写应充分考虑用户的实际需求和使用习惯，确保内容通俗易懂、易于理解。实时监测异常流量、发现并阻止设备或网络攻击是网络安全的基本要求，这些要求通常来源于相关的网络安全标准和规范，ISO/IEC27001《信息安全管理体系要求》、NIST网络安全框架等，这些标准提供了网络安全管理的框架和指导原则，包括对网络流量监控、异常检测、入侵防御等方面的要求，为本部分内容的确定提供了参考。资源保障部分，确保人工智能系统相关供应商的服务连续性以及识别并备份恢复系统服务所需的最低资源保障是保障系统稳定运行的基础，而设置备用网络系统可以在主网络出现故障时提供备用通信渠道，提高系统的可用性。GB/T30146《安全与韧性业务连续性管理体系要求》为业务连续性管理提供了框架和指导，其中包含了资源保障的相关要求；GB/T36957《信息安全技术灾难恢复服务要求》等相关标准，对备用网络系统的要求提供了参考，以上标准是确定资源保障部分内容的主要依据。从系统运维策略的角度，选择服务使用率较低的时间段进行更新和维护，可以最大限度地减少对用户的影响，平衡系统稳定性和用户体验。在目前很多系统实践中，服务级别协议（SLA）中一般会规定服务可用性、故障响应时间以及故障恢复时间等关键指标。当系统因计划外事件而影响服务交付时，系统开发方或企业有义务按照SLA的约定及时通知用户，并说明可能影响的系统功能及预计恢复时间，因此，本标准中对更新维护的相关方面做了约定。事后审查部分，目前在人工智能系统开发实践中，灾难恢复计划（DRP）或业务连续性计划（BCP）中一般会详细规定在中断事件发生后如何进行评估，包括确定中断造成的影响、恢复时间目标（RTO）和恢复点目标（RPO）等，其中，RTO（恢复时间目标）指的是从灾难发生到系统或业务功能完全恢复所需的时间，其设定依据一般包括行业标准（如ITIL、ISO22301等）、开发者自身的业务需求和SLA（服务级别协议）等；RPO（恢复点目标）指的是灾难发生前，系统和数据必须恢复到的时间点，其设定同样基于行业标准、业务需求以及数据重要性和可接受的数据丢失量等因素。本标准中未对具体的RTO和RPO值做规定，而是提出需要确定中断造成的影响、人工智能系统恢复的RTO、RPO等的要求。基于用户反馈、系统监控数据以及事件处理过程中的记录等考虑，本标准提出应在影响人工智能系统服务连续性的计划外事件解决后进行审查并编制审查报告，并考虑对事件进行深入剖析，找出导致中断的根本原因，基于根本原因分析的结果，制定并实施改进措施，以防止类似事件再次发生。（6）保障机制ISO/IEC42001《Informationtechnology—Artificialintelligence—Managementsystem》人工智能管理体系标准中详管理体系运行及绩效评估等要求，同时也对人员管理提出了相关要求，如培训、备份人员、交叉复核等，是本标准中提出组织管理规范的参考依据。国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门于2023年7月发布了《生成式人工智能服务管理暂行办法》，其中对于人工智能系统，特别是生成式人工智能服务的服务方面提出了相关管理要求，明确了服务提供者责任，提出依法开展服务以及服务协议方面的要求，该份文件也是本标准中提出组织管理要求的基本遵循。并通过内部讨论、征询外部意见等方式提出了人工智能系统服务连续性在训练数据、算法模型、系统运维、组织管理方面的治理四、与现行相关法律、行政法规和其他标准的关系该标准在编制过程中严格遵循了国家关于人工智能相关政策技术文件的要求，确保与现行法律、法规保持一致。标准在制定过程中参考了国家网信办联合多部门发布的《生成式人工智能服务管理暂行办法》等文件，明确了服务提供者责任，提出了依法开展服务以及服务协议方面的要求，这些法律、法规为标准的制定提供了基本遵循。本标准在编制过程中引用、参考了多个国家标准，如GB/T20984《信息安全技术信息安全风险评估方法》、GB/T20988《信息安全技术信息系统灾难恢复规范》、GB/T31722《信息技术安全技术信息安全风险管理》等，这些标准在信息安全、风险评估、灾难恢复等方面为本标准提供了重要的技术依据。本标准通过引用相关国家标准中的相关条款以及参考标准内容，确保了与国家标准的一致性，避免了与现有标准的冲突。除了引用并参考国家标准之外，针对人工智能系统服务连续性的特定需求，本标准在引用相关国家标准的基础上，进行了必要的补充和细化，例如，在训练数据的治理要求中，除了遵循信息安全和灾难恢复的相关国家标准外，还针对人工智能系统的特点，提出了数据安全保护、数据质量核查等具体要求，以确保标准的全面性和实用性。该标准与现行国家标准、地方标准等相互支持，协调配套使用，共同补充完善了人工智能系统服务连续性治理的标准体系。ISO/IEC/IEEE24765:2017《系统和软件工程—词汇》中对“服务连续性”的定义，以及ISO/IEC42001《信息技术—人工智能—管理体系》等国际标准，这些标准在人工智能管理、服务连续性等方面提供