构筑智能时代AI安全新防线

1、构筑智能时代AI安全新防线技术创新，变革未来注定不凡的2020It was the Best of Times,It was the Worst of Times Charles DickensA Tale of Two CitiesAI时代的安全新挑战旧有顽疾 集中爆发智能设备无处不在万物互联系统漏洞、设备劫持、云 端风险、数据安全、隐私 泄露全新问题 持续出现AI推动各行各业智能化转型AI算法有时本身也会“犯 错”，这让AI本身的安全 性也变得更为重要，并超 乎我们对于安全边界与框 架的传统认知范畴。百度在AI模型安全领域的前沿研究针对路面车辆识别的攻击 欺骗车辆漏检前车造成追尾对抗样本攻

2、击在数据集中通过故意添加细微的干扰形成输入样本，导致AI模型以高置信度给出错误输出。典型案例：对于自动驾驶视觉识别系统的攻击针对交通标识识别的攻击 欺骗车辆误判指示伪造不存在物体无中生有 导致急刹等危险反馈百度在AI模型安全领域的前沿研究百度安全深度学习模型鲁棒性评估框架Black Hat Asia 2019 Singapore基于对“指纹攻击”新型攻击方式的研究，指出黑盒模型所制造的只是虚假的安全感。DSN 2020 Valencia Spain为应对深度神经网络面对物理世界时真实存在的威胁，推出衡量其鲁棒性的标准化框架。基于现实世界正常扰动定义可致威胁的安全属性：光照、空间交换、模糊、噪声

3、、天气变化。真实世界的环境因素对输入数据正常扰动百度在AI模型安全领域的前沿研究媒体持续关注2019年7月18日新京报评论文章安全隐患便利视频伪造或成为谣言传播帮凶AI换脸技术引发争议从一夜爆红到被约谈整改，又一次 为网络数据安全问题敲响警钟。人民日报海外版法律风险或涉嫌滥用个人肖像权或造成侵犯个人隐私社会问题或被用于非法获取个人信息或造成个人信息泄露或被用于欺诈等犯罪活动百度安全现已全面开源业 内首款AI换脸检测工具/advboxes/AdvBox/blob/mas ter/applications/fake_face_detect/README.md百度在AI模型安全领域的前沿研究立法保障

4、国家网信办等三部门印发网络音视频信息服务管理规定于2020年1月施行：规范AI换脸等网络音视频活动，加强监管，加大违法行为打击力度。假脸识别 技术研究百度在2019年DEF CON CHINA 1.0极客大会公布最新研究成果：基于深度学习卷积神经网络(CNN)有效进行换脸视频“打假”。面部特征检测法：识别准确率达到 94%；面部边缘检测法：达到 99%。百度最佳安全实践：开放的代码与技术Baidu AI Security Stack (BASS)下一代人工智能安全技术栈AdvBox对抗样本工具箱OpenRASP下一代云端安全防护系统MesaTEE下一代可信安全计算服务HugeGraph大规模图

5、数据库MesaLink TLS下一代安全通信库OASES KARMA系统自适应热修复MesaLock Linux内存安全操作系统云端管道终端七大技术汇成AI安全“七种 武器”，全面解决云管端以 及大数据和算法层面的一系 列安全风险问题。百度最佳安全实践：开放的代码与技术百度安全联邦计算技术架构百度安全联邦计算平台致力打造更安 全的数据合作体验，为跨机构数据合 作提供联合分析、联合建模等隐私安 全能力，为联邦学习的大规模工业化 落地提供产品技术解决方案。2020年7月，中国通信标准化协会关 于联邦学习的团体标准基于联邦学 习的数据流通产品技术要求与测试方 法正式出炉，百度作为主要参与拟 定单位参与了标准的制定及发布。构建AI安全开放生态OASES智能终端安全生态联盟专利共享核心开源标准驱动产业共赢联