11.3 网络安全：深度伪造技术、AI网络攻击日益成为全新风险

网络安全：深度伪造技术、AI网络攻击日益成为全新风险***职业技术学院

主讲教师：***网络安全：深度伪造技术、AI网络攻击日益成为全新风险以人工智能为代表的新技术广泛应用并加速迭代，在促进数字经济和国家科技创新发展的同时，其所带来的“双刃剑”效应也引发了许多前所未有的挑战与风险。深度伪造技术泛滥，引发真实性危机。“深度伪造”是指利用人工智能技术将声音、面部表情及身体动作拼接合成虚假内容，包括AI换脸、语音模拟和视频合成等，通过生成高度逼真、难以甄别的虚假内容，以此达到以假乱真、歪曲事实的目的。例如，“AI歌手翻唱”在网络平台的爆火，“AI诈骗”的出现，以及网上大量的“换脸视频”等，本质上都是利用了深度伪造技术。根据平安包头官微信息显示，内蒙古包头市公安局电信网络犯罪侦查局发布了一起使用人工智能技术进行电信诈骗的典型案例，福州一家科技公司老总在短短10分钟内被骗走了430万元。在这起案件中，诈骗分子就是通过AI换脸技术伪装成受害者好友，并成功实施了诈骗行为。网络安全：深度伪造技术、AI网络攻击日益成为全新风险从危害性来看，一方面，“深度伪造”会侵犯公民肖像权和名誉权。一旦个人的面部被“移花接木”到虚假视频上进行恶搞或污蔑，将严重侵犯公民个人的名誉权和肖像权，影响个人的正常生活和交往。同时，不法分子利用人工智能技术，还能根据大数据和对个人信息的定向分析，生成定制化的诈骗信息，精准地发送给筛选出的受害对象，使公民蒙受巨大的财产损失。另一方面，“深度伪造”还容易被境外势力和不法分子利用，成为抹黑国家形象、诽谤公众人物、策划违法犯罪，甚至煽动暴力恐怖活动的“帮凶”，这将对我国的社会和谐稳定与维护国家安全产生严重的负面影响。虽然近年来，国家已相继出台了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法》等法律法规，但人工智能技术迭代迅猛，“深度伪造”也在这股创新浪潮中不断花样翻新，使得“耳听且为虚，眼见也不实”，其所带来的未知风险已在不断冲击现实社会，挑战网络安全治理红线。网络安全：深度伪造技术、AI网络攻击日益成为全新风险AI网络攻击“兵临城下”，网络安全防不胜防。近年来，人工智能技术的迅猛发展给各个领域带来了前所未有的重大变革。除了用于维护网络安全以外，人工智能也可能被境外势力和不法分子利用，用来发动AI网络攻击。从近年的攻击态势来看，AI网络攻击已经衍生出了“AI生成恶意软件”“AI数据隐私攻击”“AI大模型窃取攻击”“人工智能生成的网络钓鱼和BEC诱饵”“武器化模型”等多种新型攻击形式。最典型的案例是恶意生成式人工智能的兴起，如FraudGPT和WormGPT，这类不法产品已经潜伏在网络空间的黑暗角落。未来，随着人工智能技术的进一步应用和推广，AI网络攻击将变得更加泛化，并呈现出全新的未知特征，给个人、企业乃至整个国家社会带来巨大的风险和危害。网络安全：深度伪造技术、AI网络攻击日益成为全新风险为了应对日益严峻的国际网络安全形势，有效防范敌对势力针对我国的网络攻击和渗透，必须掌握网络空间自主权和主导权。因此，需要从政策、法律、技术、制度、体制、机制、标准等各个方面多管齐下，织密网络空间保护网，落实关键信息基础设施保护制度，重点加强数据安全和供应链安全保障能力，建立起国家网络空间的安全屏障。观看谢谢PPT模板下载：/moban/行业PPT模板：/hangye/节日PPT模板：/jieri/PPT素材下载：/sucai/PPT背景图片：/beijing/PPT图表下载：/tubiao/优秀PPT下载：/xiazai/PPT教程：/powerpoint/Word教程：/word/Excel教程：/excel/资料下载：/ziliao/PPT课