AI数据安全与隐私保护实践

20XX/XX/XXAI数据安全与隐私保护实践汇报人:XXXCONTENTS目录01

AI数据安全行业风险梳理02

AI数据安全典型实践案例03

主流合规框架介绍04

未来发展趋势展望AI数据安全行业风险梳理01数据采集阶段风险未明确告知采集用途很多APP违规超范围采集用户信息，例如部分健身APP私自收集用户通讯录信息，侵犯用户知情权。过度采集非必要数据部分人工智能企业为训练模型，过量采集用户生物信息，超出提供服务所需的合理范围。无合规授权采集数据部分AI企业通过第三方爬虫批量爬取公开平台用户信息，未获得用户明确的有效授权。训练数据爬取不合规很多企业训练AI模型时非法爬取用户公开社交数据，2024年某AI大模型就因此被监管处罚。训练数据含敏感隐私信息部分AI训练数据未脱敏，混入用户身份证、医疗信息，易引发大规模用户隐私泄露事件。训练数据被投毒污染攻击者会向公开训练数据注入错误样本，导致AI模型输出偏差，甚至生成有害违规内容。第三方数据集来源不明不少中小AI企业采购第三方开源训练数据，部分数据集暗藏木马，易引发企业数据泄露。数据训练阶段风险数据应用阶段风险

01模型训练数据过度采集部分企业训练AI模型时，超范围采集用户社交、位置等隐私信息，违反个人信息保护法规。

02数据共享中的泄露隐患AI企业与第三方合作共享训练数据时，未做脱敏处理，导致大量用户敏感信息流出。

03算法决策的隐私推论风险AI可通过用户公开行为数据推论出隐私信息，比如通过消费记录推断健康状况。

04训练数据被窃取风险AI企业的训练数据集防护不足，近年发生多起黑客攻击窃取数据牟利的事件。AI数据安全典型实践案例02数据脱敏应用实践

医疗AI领域静态脱敏实践国内某AI医疗企业对病人病历数据脱敏后用于模型训练，避免病人隐私泄露。

金融AI动态脱敏应用实践某银行在AI智能客服系统中，动态隐藏用户银行卡身份证关键信息，保障用户数据安全。

互联网企业脱敏脱敏结合实践字节跳动在推荐算法训练中，结合静态与动态脱敏，合规利用用户数据优化模型效果。金融风控跨机构联合建模微众银行联邦学习平台，助力银行联合建模不共享原始数据，有效降低信贷风控的违约识别误差。医疗影像联合模型训练长三角多家医院用联邦学习联合训练肺癌识别模型，不出院原始数据，模型精度提升超10%。互联网广告精准投放字节跳动用联邦学习联合广告投放方训练模型，不泄露用户隐私，同时提升了广告匹配精准度。联邦学习落地实践隐私计算应用实践

联邦学习在金融风控的应用招商银行联合其他机构用横向联邦学习建模，在不共享原始数据的前提下提升了风控模型精度。

安全多方计算在政务数据开放的应用我国长三角地区用安全多方计算实现跨部门政务数据联合分析，保障数据可用不可见。

可信执行环境在互联网广告的应用字节跳动采用可信执行环境处理用户广告画像数据，既提升推荐效果又保护用户隐私。生成式AI风控实践敏感数据输入拦截实践

百度文心一言设置了多层敏感数据识别规则，能实时拦截用户输入的个人隐私信息，避免信息泄露。训练数据脱敏风控实践

OpenAI在训练GPT模型前，对训练所用的公开用户数据进行去标识化脱敏处理，降低隐私泄露风险。输出内容合规风控实践

字节跳动豆包通过实时内容风控审核，拦截生成涉敏感信息、侵权内容的违规输出，规避安全风险。用户授权管理实践

动态权限分级授权微信根据不同AI功能需求划分数据权限，仅获取对应授权，避免用户数据过度采集。

授权状态可视化展示支付宝在AI个性化推荐功能中，实时展示用户当前授权状态，支持一键修改授权。

撤回授权便捷操作抖音AI推荐场景中，用户可随时在隐私设置页面撤回数据授权，操作流程简单清晰。主流合规框架介绍03《网络安全法》核心要求明确了网络运营者的数据安全保护义务，规定了个人信息保护的基本规则与监管要求。《数据安全法》合规要点确立数据分类分级保护制度，对重要数据进行重点保护，明确了数据处理活动的合规义务。《个人信息保护法》基本规则要求处理个人信息应当取得个人同意，明确了个人信息处理者的义务与个人的权利。《网络数据安全管理条例》规范要求建立健全数据全流程安全管理制度，对大型互联网平台提出了更为严格的合规要求。国内相关合规要求国际通用合规框架01GDPR（欧盟通用数据保护条例）该框架对数据收集使用作出严格规范，谷歌曾因违规数据处理被处以超5000万欧元罚款。02CCPA/CPRA（加州消费者隐私法案）这一框架赋予加州用户多项数据权利，亚马逊曾因不合规的隐私告知被提起集体诉讼。03ISO/IEC27701隐私信息管理体系它是国际通用的隐私管理标准，帮助企业搭建合规隐私体系，被很多跨国企业采用。04APEC隐私框架该框架为亚太地区跨境数据流动提供规范，推动区域内数据合规共享，适配跨国业务需求。未来发展趋势展望04技术融合发展方向AI与隐私计算技术融合联邦学习、差分隐私与AI模型训练结合，可在不共享原始数据的前提下完成模型迭代，目前谷歌已落地相关应用。AI与区块链技术融合区块链不可篡改的特性结合AI，可对数据访问权限进行全程追溯管控，为医疗数据共享提供了安全方案。AI与生成式内容检测技术融合生成式AI快速发展催生深度伪造风险，AI与多模态生成内容检测技术融合，可精准识别伪造信息。合规监管完善方向

跨区域协同监管机制建设欧盟《AI法案》与中国生成式AI服务管理规范互认探索，推动全球数据安全监管协调