2026 年国家网络安全宣传周：认清 AI 换脸骗局守住网络财产安全【课件】

国家网络安全宣传周认清AI换脸骗局，守住网络财产安全2026年国家网络安全宣传周·智能时代

网安护航2026年9月内容导览01风险警钟真实案例揭示AI换脸骗局危害02骗局透视技术原理与作案套路全拆解03识破防线识别技巧与防范工具指南04法律护航最新政策法规与治理成果05全民行动凝聚共识共筑网络安全防线CHAPTER风险警钟眼见不一定为实，耳听不一定为真从真实案例出发，认清AI换脸骗局就在身边01一场视频通话骗走500万AI换脸语音克隆紧急施压2026年3月，广东某企业财务人员收到"老板"视频通话请求，头像、备注、样貌、语气与真人完全一致；以紧急项目合作为由要求立即支付500万元保证金；未回拨核实即完成转账，事后发现被骗AI换脸冒充老板，一次视频通话骗走500万精准伪装非法获取老板照片、视频、语音片段AI一键换脸克隆声音制造焦虑以紧急项目为由持续催促禁止挂断电话、告知他人拒绝核实以"没时间""涉密"为由回避当面确认全程单向沟通一年"恋爱"竟是AI幻影2023年结识小美社交平台相识网络两端，AI已开始编织人设2024年交往借款20万元

长期骗局，远超传统信任建立，防线持续瓦解2025年视频揭穿陌生男子"眼见为实"在AI时代已失效2026年真相大白AI合成影像不能作为身份证明假"表哥"与代办团伙案例一："表哥"视频借钱冒充江西马某某被"非洲务工表哥"添加好友，视频通话中对方面容与表哥一致转账对方称网络不稳定急需垫付合同资金，马某某分三次转账

1.5万元识破事后联系真表哥才发现被骗，对方是AI换脸合成的"冒牌货"警惕：视频可造假，转账需核实案例二：换脸代办工商变更团伙16人团伙利用AI换脸技术绕过线上人脸识别，帮客户"代办"工商变更突破合成动态视频甚至骗过官方系统的活体检测获利两年非法获利

21万元，最终因非法控制计算机信息系统被判刑警惕：人脸识别并非绝对安全AI"分析师"卷款跑路案例还原A先生下载某App，跟随机构"首席分析师"投资，该"分析师"每晚准时直播复盘行情、下达跟盘指令A先生曾在线下见过该分析师本人，于是放心投入资金，不料几天后App无法登录，资金无法取出所谓"首席分析师"只是AI换脸后的替身，每日直播是提前制作好的AI视频1第一步：AI包装权威人设换脸、虚拟形象、语音克隆，捏造专业"专家"2第二步：常态化直播铺垫每晚规律输出行情分析，长期洗脑博取信任3第三步：诱导私下投资后跑路大额充值后关闭平台、失联，资金无法提现全球损失已超百亿美元2025年全球Deepfake相关案件达12.7万起，同比增长317%100亿美元全球经济损失62%金融诈骗占比23%身份冒充占比15%舆论操纵占比检测市场收入增长30.27亿美元2026年61.20亿美元2028年复合增长率42.2%关键判断AI换脸已从“娱乐噱头”升级为“规模化欺诈基础设施”攻击目标不再只是制造假视频，而是穿透身份体系、骗取信任后完成转账CHAPTER骗局透视技术越逼真，骗局越隐蔽揭开AI换脸的技术面纱与骗子套路02三步攻破身份防线1第一步：信息采集社交平台上的高清生活照、短视频、语音留言、点赞评论，都是骗子的训练素材一段5到10秒的语音，就足够提取完整声纹；一张高清正脸照就能训练换脸模型辅以非法渠道购得的地址、亲友关系、工作背景，拼出完整"人物画像"2第二步：技术伪造AI生成假视频已能实现眨眼、转头、微笑等连贯动作语音克隆延迟低至0.1秒级，实时视频通话中几乎无法察觉合成视频曾骗过官方系统的活体检测3第三步：精准行骗盗取或仿冒亲友账号，配合紧急情境催促转账时间越短，受害者的核实成本越高，越容易上当技术演进三个时代第一时代·2017–2022人脸替换基于GAN的编码器—解码器架构，将目标人脸替换到源视频上。缺陷明显：面部边缘模糊、光照不一致、表情僵硬，肉眼较易识破。代表工具：DeepFaceLab·FaceSwap第二时代·2023–2025表情迁移与实时攻击引入3D人脸建模、神经渲染、唇形同步技术。可实时控制表情、姿态与口型，实现视频通话中实时换脸。代表工具：InsightFace·ElevenLabs第三时代·2026至今全场景生成多模态大模型+文生视频，可根据文本描述从零生成完整伪造内容。彻底摆脱换脸拼接痕迹，传统基于拼接的检测技术完全失效。骗子三板斧套路板斧一：零成本"画像"素材汇公开社交内容即"素材库"公开社交媒体内容即是"素材库"，无需入侵系统即可获取目标信息拼合公开信息成"人物小传"拼合公开照片、语音、社交关系，构成完整"人物小传"板斧二：动态以假乱真拟真度动作连贯、语音克隆低延迟最新算法可生成连贯眨眼、转头、说话动作，语音克隆几无延迟合成视频通过官方活体检测工商代办案中合成视频甚至通过官方活体检测，"以假乱真"已不是形容词板斧三：情感与紧迫双重夹击施压术情感铺垫后抛出诱饵先培养感情或利用日常信任关系，再抛出"急事借钱""投资返利"等诱饵持续催促压缩核实时间用"就这几天有效""这事着急别多问"持续催促，压缩核实时间造假成本正在暴跌技术门槛断崖式下降——任何人都可能成为攻击者，也可能成为受害者造假成本对比2019年训练高质量换脸模型：需数周时间、数万美元计算资源2026年利用开源工具和云服务：1小时内、花费不到10美元，即可生成足以骗过普通人的伪造视频过去AI换脸是“专家才能用的武器”今天是“人人可得的工具”常见骗局场景图谱骗局场景冒充对象常见话术受害人群职场财务老板、领导紧急项目需立即转账企业财务人员亲友求助子女、亲戚车祸急需医疗费中老年人婚恋交友虚构伴侣家人生病需借款单身人群投资理财分析师、专家内部消息稳赚不赔投资者业务代办官方人员加急办理绕审核企业主CHAPTER识破防线多一次核实，少一分风险掌握识别技巧，用好防范工具03一招动作验证识破假脸让对方快速左右转头+连续眨眼一套动作让假脸立刻现形，动态细节是AI换脸的死穴左右转头AI换脸在颈部转动处极易露馅，合成画面无法实时匹配快速转动，出现卡顿、模糊或扭曲连续眨眼AI模型对高速动态渲染适应能力有限，眨眼细节易失真手掌遮脸请对方用手掌完全遮住脸再快速移开，检测光影变化是否自然原理说明真人流畅连贯AI模型对高速动态渲染的适应能力有限，复杂面部遮挡和光影变化容易导致画面失真；真人可以流畅完成这些连贯动作，AI换脸则会在细节处"露馅"听声音也能辨真假注意呼吸停顿、情感起伏与背景杂音正常状态下的对话中，呼吸节奏自然、情绪有波动；而克隆语音往往停顿均匀、情绪平淡，这正是辨别的关键。听听觉识别3项呼吸停顿AI语音缺乏自然呼吸停顿，节奏过于均匀催促语句说到"马上转账""千万别告诉别人"时机往往机械感瞬间放大情感起伏注意呼吸节奏与情绪波动的自然程度防警惕原则异常声音听起来"不像平常"，无论多像都要提高警惕克隆语音克隆能仿音色逼真，但难以还原真实的呼吸节奏与情绪波动私密问题锁定真身问一个只有你们两个人知道答案的问题私密细节，是骗子攻不破的最后防线上次一起吃的那家店叫什么？碎片化私密细节不在AI训练数据库无法通过社交平台公开获取你家小狗叫什么名字？碎片化私密细节不在AI训练数据库无法通过社交平台公开获取孩子的小名是什么？碎片化私密细节不在AI训练数据库无法通过社交平台公开获取核心逻辑AI换脸只能仿冒"看得见"的外表，无法复制"看不见"的共同记忆私密问题是骗子信息画像中最薄弱的环节，一问即可破防主动回拨是最强防线挂断后，用你手机通讯录里存的号码主动拨回去主动回拨，是验证身份最可靠的一招一次性推送AI生成的视频通话是一次性推送，骗子无法接住你主动发起的实时通话。用原号码回拨用自己保存的原号码回拨，而不是回拨可疑来电号码。警惕异常说辞对方拒绝使用"常用号码"、声称"号码坏了""临时换号"，大概率有问题。主动回拨真实亲友随时可以接通你的主动来电骗子被动骗子无法冒充"被回拨"的一方家庭暗号筑起最后闸门事先约定，转账前必须对暗号设好暗号口令，守住转账的最后一道闸门说话验证约定唯一暗号与家人提前设定只有双方知道的转账暗号，如特定问题或特定词汇大额转账核验大额转账前，必须回答对私密问题才可执行牢记三招防御牢记"动作验证、主动回拨、家庭暗号"三招设置建议3项规避公开信息暗号不要与生日、住址、姓名等公开信息相关定期更换暗号定期更换，避免泄露或被猜中反复叮嘱老人对家中老人反复强调：听到暗号不对，立即停止操作官方工具防护指南国家反诈中心APP官方工具·智能防护复制陌生短信→粘贴→一键识别风险提示绑定手机号后，涉诈来电先弹窗预警再响铃已上线AI内容鉴定功能，图片、视频、音频均可上传检测为支付、社交应用单独加密，防止木马钓鱼96110反诈专线全国统一反诈专线来电一定要接第一时间求助疑似被骗或资金异常，第一时间拨打96110或110个人防护习惯清单从日常行为习惯层面给出防护建议，将风险防范前置到源头“警惕之心不可无，防骗之弦须绷紧”“把隐私阀门提前拧紧，骗子就少一把钥匙”隐私保护少发照片与定位社交平台少发高清正脸照、身份证照片和定位信息守住生物信息不轻易向他人提供人脸、指纹等个人生物信息拒绝陌生链接不随意点击陌生链接、不下载陌生软件、不扫码不明二维码账户安全关闭快捷通道关闭非必要权限，关闭人脸、指纹支付快捷通道定期排查名下卡定期查询名下电话卡、银行卡，发现陌生账号立即注销卸载前先注销不常用的APP卸载前先注销个人账号CHAPTER法律护航网络空间不是法外之地法律亮剑，为财产安全保驾护航04新法施行·智能时代护航介绍新版《网络安全法》的里程碑意义，说明法律层面的保障与升级修改背景新修改的《中华人民共和国网络安全法》于2026年1月1日起正式实施该法自2017年施行以来的首次重大修改标志着我国网络安全法治体系迈入智能时代新阶段针对AI诈骗、数据泄露、平台甩锅等现实痛点，法律直接亮剑与《中华人民共和国反电信网络诈骗法》联动，形成协同打击网络覆盖信息链、技术链、资金链、人员链全环节，沾边即担责网络安全痛点·法律亮剑响应AI安全条款首度入法聚焦新版《网络安全法》中人工智能专项条款，展示法律对新兴技术的回应以技治技，AI安全与发展并重第二十条新增内容4项支持人工智能基础理论研究和算法等关键技术研发推进训练数据资源、算力等基础设施建设完善人工智能伦理规范，加强风险监测评估和安全监管促进人工智能应用和健康发展关键意义3项首次在法律层面明确AI安全与发展并重的原则为AI技术发展系上"安全带"，也为AI滥用治理提供法律依据运用AI等新技术创新网络安全管理方式，实现"以技治技"违法成本大幅提升违法成本大幅提升，最高罚款1000万元，个人参与诈骗链最低拘留5天并罚款1万元违法情形罚款金额责任人罚款拒不改正或导致危害后果5万-50万元1万-10万元大量数据泄露50万-200万元5万-20万元关键设施丧失主要功能200万-1000万元20万-100万元参与诈骗链（个人）最低拘留5天罚1万元—提供技术支持（个人）最高拘留15天罚100万元—单位提供相关服务10万-100万元负责人同罚违法成本大幅提升，最高罚款

1000万元，个人参与诈骗链最低

拘留5天并罚款1万元全链条打击跨境追责说明新版法律对诈骗全链条的覆盖和跨境追责机制，让受众了解法律保护范围法律联动追责，打破"境外作案即安全"的侥幸全链条覆盖3类信息链·技术链·资金链·人员链打击范围扩展至全链条支持者同样追责提供技术或支付结算支持者同样追责，堵塞"交钱了事"漏洞单位连带处罚提供相关服务，罚10万-100万元，负责人同步受罚跨境追责3项跨国追责境外诈骗目标为中国公民或资金流向境内，可跨国追责限制入境境外提供支持人员将被处罚并限制入境法律联动与《反电信网络诈骗法》联动，境外作案不再安全清朗行动重拳治理中央网信办"清朗·整治AI应用乱象"专项行动取得显著成效561万余条违法违规信息被清理重拳治理4.9万余个违规账号被查处重拳治理2400余个违规网站、应用程序被处置重拳治理治理举措3项多模态识别模型抖音、快手、微博、腾讯等平台强化多模态识别模型，动态扩充人脸库、声纹库人脸实时治理系统上线人脸实时治理系统，提升违规内容智能检测拦截效率治理公告各平台累计发布治理公告46期个人信息保护再升级新版法律对个人信息保护提出新要求，从源头防护AI换脸诈骗新新规要点立即补救信息泄露必须

立即补救+主动告知用户，隐瞒不报直接重罚最小必要收集信息严格遵循

最小必要

原则，与提供服务无关的信息不得采集高额罚款违规收集个人信息最高可罚

100万元数据出境关键信息随意出境，直接按数据安全法规

重罚、吊销资质个人应对信息泄露保存截图并要求平台删除12377举报通道

24小时在线举报权限把关外卖App要手机号可以，要身份证号码直接拒绝CHAPTER全民行动网络安全为人民，网络安全靠人民人人参与，共筑网络安全防线05万一被骗·止损三步法1第一步立即止损越快越好停止一切转账操作冻结本人银行账户，关闭快捷支付联系银行申请紧急冻结收款账户2第二步留存证据🔒

切勿删除保存聊天记录、转账回单、视频截图、语音录音是后续资金返还和案件侦办的重要证据不要删除或清理任何与骗局相关的信息3第三步报警求助立即联