模型基础及其安全 2

大模型平台的安全第六章

大模型的软件平台安全6.1大模型的硬件平台安全6.2

大模型的软件平台安全6.1平台自身漏洞依赖库安全安全防护措施软件平台6.1大模型的软件平台安全深度学习框架模型安全编程语言运行时环境中Python解释器及其底层实现是大语言模型开发部署的核心基础设施，Python凭借丰富库生态和低使用门槛成为大模型开发首选语言，但因其架构复杂性等存在安全隐患在大模型开发中，CI/CD系统作为管理开发生命周期的核心工具，通过自动化和规范化方式提升开发效率与协作性，但它自身存在诸多安全风险。编程语言运行环境安全CI/CD开发管道的安全问题6.1.1平台自身漏洞编程语言运行时环境中Python解释器及其底层实现是大语言模型开发部署的核心基础设施，Python凭借丰富库生态和低使用门槛成为大模型开发首选语言，但因其架构复杂性等存在安全隐患编程语言运行环境安全6.1.1平台自身漏洞服务拒绝攻击加密模块漏洞加密模块漏洞严重威胁模型可用性、完整性与机密性服务中断、数据窃取知识产权争议在大模型开发中，CI/CD系统作为管理开发生命周期的核心工具，通过自动化和规范化方式提升开发效率与协作性，但它自身存在诸多安全风险。CI/CD开发管道的安全问题6.1.1平台自身漏洞供应链安全（人为因素导致核心资产遭窃取篡改）插件生态系统（第三方插件存漏洞致关键资产泄露）系统架构（复杂架构增加攻击面、多权限访问成攻击目标）环境隔离与配置管理（配置错误或隔离不足导致安全漏洞）日志记录与审计（处理不当致信息泄露、日志系统成攻击目标）凭证管理（不当管理引发未经授权访问）架构设计（流程不合理导致安全检查绕过或漏洞难以及时发现）代码依赖管理（依赖组件漏洞或被篡改威胁项目安全）现代深度学习框架构建了从底层到高层的完整安全防护体系来保障模型开发与运行安全源于框架实现缺陷、配置或使用不当，可从数据层、模型层和部署层影响深度学习流程。框架安全特性常见深度学习框架安全问题6.1.2深度学习框架模型安全现代深度学习框架构建了从底层到高层的完整安全防护体系来保障模型开发与运行安全框架安全特性6.1.2深度学习框架模型安全分布式训练安全CUDA统一内存管理接口防内存泄露、降碎片化风险自动微分系统防梯度计算错误严格访问控制、数据同步机制内存安全管理端到端加密传输、细粒度权限管理源于框架实现缺陷、配置或使用不当，可从数据层、模型层和部署层影响深度学习流程。常见深度学习框架安全问题6.1.2深度学习框架模型安全CUDA相关内存安全问题TensorFlow的图计算引擎边界检查缺陷和整数溢出风险PyTorch存在序列化漏洞MindSpore跨设备分布式计算通信信道被攻击问题分布式训练系统网络接口易被攻击、安全机制失效问题飞桨模块边界检查不足和插件机制安全风险模型保存和加载时PyTorch的默认函数安全问题数据预处理管道DataLoader内存耗尽开源依赖库是构建现代AI系统的基础组件，可提高开发效率，但随着开源生态发展和依赖关系复杂化，其供应链安全风险愈发突出，威胁模型开发及最终部署的系统安全。深度学习框架作为核心依赖库，其安全性直接影响整个系统的可靠性，近年来主流框架暴露出的安全漏洞备受关注，漏洞涉及内存管理、模型序列化、数据处理、分布式计算等关键组件开源依赖库的供应链风险依赖库的漏洞6.1.3依赖库安全数据预处理工具负责数据清洗、转换和规范化等关键任务，其安全性直接影响模型训练质量和可靠性,其安全性直接影响模型训练质量和可靠性数据预处理工具的安全问题开源依赖库是构建现代AI系统的基础组件，可提高开发效率，但随着开源生态发展和依赖关系复杂化，其供应链安全风险愈发突出，威胁模型开发及最终部署的系统安全。开源依赖库的供应链风险6.1.3依赖库安全供应链攻击依赖库维护质量问题依赖库的版本管理和兼容性代码注入、依赖劫持、版本伪造等手段在开源依赖库植入恶意代码社区志愿者维护，更新频率难保证，安全补丁滞后；部分维护者安全意识不足，代码审查和漏洞修复有疏漏不同依赖库版本冲突会引发安全问题，如更新引入不兼容安全特性或移除安全检查机制深度学习框架作为核心依赖库，其安全性直接影响整个系统的可靠性，近年来主流框架暴露出的安全漏洞备受关注，漏洞涉及内存管理、模型序列化、数据处理、分布式计算等关键组件依赖库的漏洞6.1.3依赖库安全依赖库版本问题内存相关漏洞依赖库的版本兼容性与更新存在隐患，许多开发团队为确保稳定性倾向于固定依赖库版本因数值范围处理不当，大规模矩阵运算或梯度计算时易触发，会导致计算结果静默错误，影响模型收敛性和性能6.1.3依赖库安全图像处理库的安全问题：以OpenCV为例，图像处理库存在安全威胁，典型的图像缩放攻击，可操纵缩放过程注入恶意内容或触发漏洞。数据预处理工具负责数据清洗、转换和规范化等关键任务，其安全性直接影响模型训练质量和可靠性,其安全性直接影响模型训练质量和可靠性数据预处理工具的安全问题文本预处理工具的安全挑战：文本标记化、编码转换等操作可能引入安全问题，如处理特殊字符或多字节编码时存在缓冲区溢出风险预处理工具的性能与安全权衡：预处理工具处理大规模数据集时存在性能和安全性的权衡，为提高效率采用的并行处理或内存映射等技术可能引入新隐患运行环境安全加固框架安全防护措施依赖库安全管理推理过程6.1.4安全防护措施CI/CD管道安全保护

大模型的硬件平台安全6.2硬件平台安全GPU计算平台安全内存与存储安全网络设备安全6.2大模型的硬件平台安全6.2大模型的硬件平台安全GPU计算平台安全(1)功耗与过热协同攻击:让GPU短时间执行大量高负荷运算致功耗攀升，关闭或干扰散热程序、利用漏洞让其执行密集任务使热量超散热能力（3）恶意软件攻击:利用GPU驱动程序或相关软件漏洞植入恶意代码获取控制权，实现窃取数据、非法操作或破坏系统等目的（4）侧信道攻击:借助监测GPU运行时功耗、电磁辐射、执行时间等物理特征变化获取敏感信息GPU计算平台攻击6.2.1GPU计算平台安全（2）虚拟化攻击:利用虚拟化技术漏洞突破虚拟机隔离边界，访问或篡改其他虚拟机的GPU资源（5）拒绝服务攻击:向GPU发送海量无效或异常指令和数据，使其无法正常响应合法任务，导致系统卡顿、死机（7）指令注入攻击:利用GPU指令集或驱动程序漏洞，发送恶意指令序列使GPU执行非预期操作，如篡改配置参数、渲染结果或致系统崩溃（8）供应链攻击:在GPU供应链环节，攻击者通过篡改硬件或植入恶意芯片等手段攻击GPU计算平台攻击6.2.1GPU计算平台安全（6）缓存攻击:通过设计算法和数据访问模式利用缓存机制让GPU缓存特定数据或指令，观察缓存状态或利用未命中获取敏感信息、干扰运行（1）及时更新驱动程序（2）安装杀毒软件（3）加强系统访问控制（4）硬件层面防护（5）数据加密与隔离（6）供应链安全管理（7）虚拟化安全加固6.2.1GPU计算平台安全6.2大模型的硬件平台安全内存与存储安全（1）缓冲区溢出攻击：构造超长数据使写入数据超出缓冲区预定大小，覆盖相邻内存区域关键信息，改变程序执行流程，获取系统管理员权限（3）非控制数据攻击：核心配置文件数据被篡改可绕过访问控制获取高敏感度机密文件权限；利用合法输入污染数据绕过程序验证并利用逻辑漏洞（4）数据窃取攻击：利用网络漏洞远程连接存储设备网络，通过恶意软件植入、网络嗅探等获取数据内存与存储攻击6.2.2内存与存储安全（2）内存泄露：利用内存区域释放后指针未重新赋值为NULL的悬空指针，访问已释放内存，导致程序崩溃、数据泄露或执行恶意代码内存随机化技术通过在编译阶段用随机算法让程序的内存布局每次运行都随机分布，增加缓冲区溢出和悬空指针等攻击的难度，保障内存安全。全盘加密定期数据备份与异地存储使用加密算法对存储介质上所有数据加密，写入自动加密、读取需正确密钥解密，采用安全方式（如硬件加密模块HSM）管理密钥防止泄露对大模型相关数据进行全量或增量备份，通过安全网络传输到异地数据中心并加密保存，定期检查数据完整性和可用性6.2.2内存与存储安全内存与存储防御6.2大模型的硬件平台安全网络设备安全（1）ARP欺骗攻击：利用ARP协议信任机制发送伪造响应包，将目标主机IP映射到自己MAC地址实现中间人攻击（3）针对主机的攻击：利用主机操作系统或应用程序漏洞，中断大模型训练进程、延长训练时间、增加成本，还可能获取相关数据（4）针对路由器的攻击：通过弱密码猜测或漏洞获取管理权限，一旦控制路由器会监控操纵网络流量网络设备安全6.2.3网络设备安全（2）中间人攻击：在通信双方插入设备拦截、篡改和转发数据，窃取大模型关键数据、篡改通信数据、泄露用户隐私、植入恶意代码（5）DDoS攻击：通过控制大量傀儡机向目标设备发海量请求耗尽资源，使网络设备和大模型平台中断服务，可能损坏硬件造成经济损失（7）SQL注入攻击：在网络设备应用程序输入字段插入恶意SQL语句，在未严格过滤验证输入时发生，会导致设备管理系统敏感数据泄露（8）Smurf攻击：向网络广播地址发大量伪装源IP的ICMPEchoRequest包，使目标主机被响应包淹没致拒绝服务网络设备安全6.2.3网络设备安全（6）DNS劫持攻击：篡改DNS服务器记录或入侵本地缓存，将用户请求域名指向恶意服务器，会导致用户无法访问大模型平台、泄露数据（1）可在网络设备上开启ARP防护功能，在主机上安装防护软件，实时监控ARP缓存表变化并处理异常。（2）采用加密通信