2024智能制造和智能城市中的人工智能应用安全

目录 11 31. 42. 83. 81. 122. 123. 134. 135. 136. 131. 142. 143. 154. 16.4 171. 182. 192 191. 202. 223. 231. 252. 253. 261. 272. 273. 284. 281. 302. 313 3111.1智能制造的概念诞生于20世纪80年代，在anuaungngn一书中被提出，智能制人独自完成小批量生产的过程1。20世纪90年代，欧、美、日等工业化发达地区国家普21造被赋予了新的内涵，即新一代信息技术条件下的智能制造。2010后推出智能制造和工业4.0战略及相关概念2。我国也明确提出，以推进智能制造为主攻方向。”（或集团）的市场竞争能力[4]新智能资源能力产品层：该层包括接入系统的各种新智能制造资源（新软制造资引擎等；新硬制造资源系统，如新智能机床机器人加工中心计算设备仿真试验设备、云端智能制造单元、新材料及能源等）、新智能制造能力（制造过程中相关的论证、设力知识、组织、资金、业绩、信誉、资源、流程和产品制造等）和新智能制造产品（数字化、网络化、云化、智能化的新型智能制造产品等）4。图5-1信息技术引擎服务、边缘应用支撑服务），来越大。截至2018年3月，RISI（theRepositoryofIndustrialSecurityIncidents）数据库就已目前国外的研究与成果较少，仍处于探索和发展阶段。在工业4.0的背景下，随着人工智对人工智能技术的应用处在认识和应用阶段。CybersecurityFrameworkManufacturingProfile（CSF），以及美国工业互联网联盟（IIC）IndustrialInternetofThingsVolumeG4：SecurityFramework（IISF）。其中，NIST计划开等。美国咨询公司提到，要成功地在智能制造领域中应用人工智能技术，安全方面应的伦理和规章制度11。国外网络安全厂商ndo在发布的报告中提出了工业4.0时代智能制造系统安全的几大风险载体：工业终端、定制o设备、制造执行系统（）数据库，可能引发使用恶意工业外接程序的攻击、自定义o设备的特洛伊木马化、移动人机接口（）漏洞利用、全风险12。国外安全厂商yn在其发布的《工业4.0时代制造业更智能的安全》中提数据加密等13。在云计算安全领域，比较著名的是微软u发布的最佳安全实践解决方云应用程序七个方面的云安全实践14。（）、工控系统异常检测，信息防护中的身份认证服务（）、公钥基础设施I服务管理、加密（）、数据防泄密（）、身份访问管理（）、网络安全服务（）等制造领域安全产品13。ndn公司专门针对工控领域提供健康检查，利用捕捉到的威胁行为、安全漏洞和领域知识，为用户提供安全评估规划和体系结构设计，如架构划分、防护和监控等15。值得一提的是，oog公司有意收购ndn公司，从而更好地与微软Azure在云安全领域进行竞争[16]险的目的，与签署网络安全框架（）17。目前人工智能在智能制造领域中应用较为广泛的场景包括装配质量测试、产品开发与工程、采购、订单管理、维修、后勤、发展，可能会对核心智能制造应用的场景产生影响18。面。生物特征识别安全标准包括TC260发布的GB/T36651—2018信环境的生物特征识别身份鉴别协议框架》、GB/T20979—2019别系统技术要求》、GB/T37076—2018GB/T38671—2020牵头ISO34501标准的制定，在国内标准方面，发布了GB/T40429—2021《汽车驾驶自动面，中国发布了一项安全标准，即GB/T41387—2022《信息安全技术智能家居通用安全伦理七个方面加强应对23。目前国内外针对工控系统信息安全的防护措施缺乏系统级的统一安全设计方案，为解决这一问题，华中科技大学周纯杰教授团队发布了最新研究成果：AndhualppoahorbaantndualonolS，从出网络系统过程工控系统信息安全防护体系架构24。李伯虎院士团队提出云制造系统3.0的安全技术体系：物理安全防护技术、技术安全防护技术、管理安全防护技术、商业安全防护技术4。产品分为管理类产品和防护类产品，服务包含咨询服务、实施服务和运营类服务25。在估和安全培训的需求日趋旺盛26。在趋势方面，随着一系列标准和政策法规的实施，特别是随着网络安全等级保护2.0的实施，工业互联网安全产业的内生需求不断增多，除此之外，安全产品的国产化替代需求也促进工业互联网安全产业快速发展26。目前工业互心竞争力不充分等26。造的重要支撑26。随着大数据、云计算、人工智能、边缘计算等新一代信息技术在工业和管理型产品向评估和培训等服务型产品转变9。目前，工业互联网安全解决方案已在能1.2同时，确保出厂产品的合格率[28]。在制造执行过程中，生产车间经常用到RFID技术包括深度学习、3视觉及智能路径规划，这些机器人系统及技术在保证安装精度的同时提高了生产效率29。法的小车（群），使用蚁群算法等基于人工智能的算法进行路线规划，并且考虑小车运行时间、能耗、防碰撞等情况，保证物料配送的最优路径和送达的时间最短28。.3此过程中引入人工智能技术（如智能装备、智能感知与控制等），用人工智能算法模型的上述缺陷，在预测推理阶段，针对运行时输入的数据精心制作对（故障检测、运行维护、业务决策等）目的。常见的对抗样本防御方法包括数据清洗等30。使用受到破坏的训练数据进行模型训练，会导致有缺陷的模型的产生。针对噪声数据集，有3种常见的应对措施：分箱法、聚类法、回归法31；针对数据投毒攻击，可使用应急响应、异常检测、迁移学习进行防御32。当智能制造越来越多地受到智能决策支配时，对决策算法进行监督与审查至关重要。然而，算法黑箱造成模型的不可解释性，对系统的安全防护造成不利影响。.4图5-2.5面向智能制造多场景的人工智能应用安全产品、软件及应用研发与产业化。针对边缘数据采集安全、边缘平台应用数据逆向攻击防御安全、平台数据存储安全、应用数据分析及处理安全、平台算法接入及访问控制安全等，大力发展算法模型及数据入侵防御/产业化。面向智能制造中人工智能应用的系统化安全解决方案与运营服务的研发与产业化。架构（涵盖云端平台层、企业层、车间产线层、设备层等），改造解决方案，拓展平台安全服务、数据安全应用等商业模式，提升安全运营服务能力。22.1术，促进城市规划、建设、管理和服务智慧化的新理念和新模式33。目前，全球范围内范围探索阶段，各国家、地区和组织正在计划如何打造更加智慧的城市（群）。MarketsandMarkets的智能城市市场报告显示，智能城市市场规模预计将从2020年的4108新业态：泛在互联、数据驱动、共享服务、跨界融合、自主智慧、万众创新[37]图5-3年6月，IEC成立了智慧城市系统评估组（IEC/SEG1）；2013年11月，ISO/IECJTC1成立了智慧城市研究组（ISO/IECJTC1/SG1）；ISO/TC268/SC1自2012年成立以来，一直在关ISO37101、ISO37120、（美国NIST的）SmartCitiesandCommunitiesFrameworkSeries等[39]在研究方向方面，国外更多地聚焦智能城市架构总体安全。国外研究机构nd于2017年发布的报告SeungSate介绍了智能城市中应用到的技术（如智能能源、智能交通、智能环境治理、智能联网、智能治理）及智能城市面临的安全威胁（如公共安全、金融安全、运营安全、隐私安全）40。其他的一些研究及咨询机构（包括、德勤、）均发布了与智能城市网络及信息安全相关的研究报告4143。方案供应商，如IBM、Cisco、Amazon、Siemens、Alphabet、Oracle、SchneiderElectric城市安全领域的初创公司包括美国人脸识别技术公司BlinkIdentity、韩国生物识别公司智能城市呈现与人工智能、5、大数据、区块链等前沿科技融合的趋势，逐步打通城市的系统和服务，优化城市管理和服务。国外M、o等融合5、人工智能、云计算等构建智慧城市，欧洲的注于创建智慧城市解决方案的区块链生态系统，目前已开发中，城市公链充当着城市大脑的角色，统筹协调城市运行44。在标准制定方面，我国已经发布两项智能城市安全相关标准，一项标准是《信息安全技46。智原则和合规遵从、安全架构、措施等方面，对智慧城市中的安全问题给出了设计思路以nny”病毒入侵智能城市中的设备为例，提出要对数据系统及设备处理系统实现安全可控30。《人工智能时代，如何筑牢信息安全屏障》一文提到了自动驾驶技基于人工智能的人脸识别技术，需要记录公民面部特征以识别身份，这些数据一旦被窃取，会给公民的隐私带来极大的危害31。为大量企业提供新机遇和新市场48。中国信息通信研究院和华为于2020年发布的《5智能城市安全》（Seuyondaonsor5GSaty）报告中，分析了5智能城市面临的安全威胁与挑战，提出了5智能城市安全架构，建立了终端层、网络层、平台层和应用层四个层面的安全防护应对措施49。2.2人工智能技术在智能政务中的应用主要包括政务办公、政务监管、政务服务及政务决策等。通过“互联网政务服务”构建智能型政府，将云计算、移动物联网、人工智能、数据便民的新型政府，实现由“电子政务向智能政务”的转变50。智能政务系统加快推进政道，助力政务决策和流程优化，提升利企便民服务体验。安防从被动防御转向主动防御，是安防行业不断拓展边界的有效手段51。智能算法、计金融、楼宇、工业等方面，其中公共安全是最为核心的应用。碳达峰碳中和是一场全球范围的系统性社会大变革，我国已提出二氧化碳排放力争在年前达到峰值，争取在2060年前实现碳中和54。通过智慧低碳交通、智慧新能源设施、可以有效赋能碳达峰与碳中和53。确保城市可以对抗由全球变暖引起的水环境危机[52]2.3人员信息进行人脸识别等，一旦数据被