Zscaler 2025年人工智能安全报告（中文）

©2025Zscaler，Inc.Allrightsreserved.主要调查结果4AI和ML使用趋势6AI/ML交易概述6阻止的AI/ML交易12数据丢失到AI/ML应用程序13各行业的人工智能使用情况14行业亮点15ChatGPT使用趋势19各国人工智能使用情况20EMEAinsights21APACinsights22企业采用AI的核心风险23DeepSeek和开源AI：前沿的风险5提示欺骗：DeepSeek生成的钓鱼网页27人工智能在网络威胁中的作用越来越大社会工程学29整个攻击链中的AI驱动的恶意软件和勒索软件30人工智能：自主AI的下一个前沿-以及attackvectors攻击向量31案例研究：威胁行为者如何利用AI33的兴趣安全集成GenAI工具的5个步骤40引擎盖下：Zscaler的AI安全和数据优势42全面的人工智能安全方法43在整个攻击链中利用AI安全性46关于ThreatLabz48关于Zscaler48行政Summary_2025ThreatLabzAI2025ThreatLabz又是一个新的“人工智能时代”的一年，以改变游戏规则的进步，跨行业的采用率上升以及备受瞩目的挑战为标志。企业现在将人工智能（AI）和机器学习（ML）视为增长、提高效率、更智能决策和更快创新的必要条件。另一方面，人工智能的采用带来了严重的安全风险，从未经批准的使用（“影子人工智能”）到数据泄露。更令人担忧的是，威胁行为者似乎占据了上风，因为他们将这些相同的工具武器化，以扩大攻击。曾经需要技巧的事情现在只需要最小的努力。曾经需要几个小时的事情现在只需几秒钟。这一转变在2024年得到了充分体现GenAI成了网络罪犯的社会工程机器。如今，网络钓鱼电子邮件以令人毛骨悚然的准确性模仿值得信赖的同事Deepfake技术将语音和视频变成了欺骗武器2025年，人工智能的力量和危险比以往任何时候都更加突出。威胁行为者将继续推动人工智能恶意能力的边界。然而，人工智能不仅仅是使攻击成为可能，它现在也是一条关键的防线，为对抗这些攻击提供动力。ZscalerThreatLabz2025AI安全报告研究了AI在网络安全中的多个方面，从AI/ML采用到AI驱动的威胁和安全能力。通过分析2024年2月至12月期间ZscalerZeroTrustExchange™从AI/ML工具捕获的5365亿笔交易，ThreatLabz发现了全球企业使用趋势的令人惊讶和意料之中的ChatGPT推动了最多的AI/ML交易，占总交易量的近一半。从行业角度来看，金融保险和制造业垂直行业作为人工智能的最佳采用者推动了最多的交易。然而，越来越多的采用并不意味着不受限制的访问：很大一部分AI/ML交易被主动阻止。除了使用趋势，ThreatLabz还发现了从人工智能增强型网络钓鱼到假冒人工智能平台的真实威胁场景。本报告还探讨了无疑将在2025年及以后影响人工智能的领域的最新发展随着AI/ML能力的发展以及它们所带来的威胁的增长，当务之急是明确的，更复杂的，强大的安全控制，零信任架构和AI驱动的防御不再是可选的-它们是必不可少的。继续阅读以获得更多见解和可操作的策略，以帮助您的组织安全地采用AI，同时保持领先地位。AI驱动的威胁©2025Zscaler，Inc.Allrightsreserved.3ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.4ThreatLabzThreatLabz分析了析。2024年2月至2024年12月Zscaler云中的以下主要结论是根据不同时期的数据*得出的，以便进行比较分企业阻止了59.9%的AI/ML交易，反映了对AI数据安全的担忧，以及企业在制定AI治理方法时所采取的步骤。企业阻止了59.9%的AI/ML交易，反映了对AI数据安全的担忧，以及企业在制定AI治理方法时所采取的步骤。（+3，464.6%），突显了企业对这些技术的兴趣和依赖的爆炸性增长。是Grammarly，MicrosoftCopilot，QuillBot和Wordtune是Grammarly，MicrosoftCopilot，QuillBot和Wordtune，这加强了人们对企业环境中AI驱动的写作和生产力助手的兴趣和谨慎。*时间段变化：•“同比”百分比变化比较了2024年4月至12月和2023年同期的数据。•具体国家和地区的调查结果基于2024年7月至12月期间收集的数据。ZscalerZeroTrustExchange跟踪ChatGPT交易，独立于其他OpenAI交易。企业正在向AI工具发送大量数据，AI/ML应用程序总共传输了3624TB金融保险和制造业产生的AI/ML流量最多，分别占Zscaler企业正在向AI工具发送大量数据，AI/ML应用程序总共传输了3624TB服务（18.5%），技术（10.1%），医疗保健（9.6%）和政府（4.2%），显示AI采用在不同行业之间存在显著差异。产生最多AI/ML交易的前产生最多AI/ML交易的前5个国家是美国、印度、英国、德国和日本。兴的开源人工智能模型和自动攻击自动化-无疑使威胁更具适应性，针对性和难以检测。AI安全报告52025ThreatLabz©2025Zscaler，Inc.AllrightsAI安全报告52025ThreatLabzAI和ML_使用趋势按交易量划分的AI使用趋势2024年，AI/ML工具的使用在全球范围内激增，企业将AI集成到运营中，员工将其嵌入日常工作流程中。Zscaler在Zscaler云中跟踪了800多个AI/ML应用程序，与2023年的上一个分析期相比，这一数字要高得多，反映了企业对AI驱动工具的采用和依赖不断扩大。交易（BiLLions）AI/交易（BiLLions）日益增长的安全风险并没有减缓AI和ML交易的指数增长。从2024年2月到12月，交易量从37亿飙升至490亿，增长了12倍AI/ML活动在7月份达到顶峰，达到827亿笔交易。2月3月4月5月6月7月8月9月10月11月12月月图1：2024年2月至2024年12月的AI交易ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.6AI/ML活动的规模急剧增加，达到5365亿笔AI/ML交易，与我们的数据相比，同比增长3，464.6%。最后一次分析。AI/ML流量的很大一部分来自广泛使用的应用程序，如ChatGPT，Grammarly，MicrosoftCopilot和其他AI/ML工具。然而，很大一部分交易（53.1%）仍然被归类为Zscaler云中的“通用人工智能应用程序”，这凸显了人工智能在企业中的快速普及。这种分类反映了尚未属于定义的AI应用程序的AI/ML事务，但仍然通过Zscaler的AI/ML驱动的URL分类被检测为AI/ML流量，该分类可以分析文本，图像和其他内容以识别AI相关活动。为了更准确和详细地了解企业中的AI/ML采用通过采用这种方法，我们通过已建立的企业AI/ML应用程序突出了AI采用趋势。ThreatLabz2025AI安全报告占总交易额的份额AI应用程序（PT和语法）一般AI应用百分之五十三点一ChatG©2025Zscaler，Inc.Allrightsreserved.7占总交易额的份额AI应用程序（PT和语法）一般AI应用百分之五十三点一ChatG©2025Zscaler，Inc.Allrightsreserved.7ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.8在已知的AI/ML应用程序中，少数市场领先的工具生成了大多数交易。以下五大工具都关注提高生产力、通信和自动化。•ChatGPT占AI和ML交易的近一半（45.2%），这提醒我们它在各个行业的广泛采用。在ChatGPT使用趋势部分了解更多信息。按交易量划分的前按交易量划分的前20大AI/ML应用•Grammarly排名第二（24.8%），反映了它在企业用户中越来越受欢迎，以改进写作和语法。应用应用交易总额ChatGPT113，869，583，355DeepL16,012,344,908QuiLLBot5,130,879,211自定义应用程序4,297,439,333OpenAI2,995,303,521•MicrosoftCopilot占据第三位（12.5%），因为企业依赖它来自动化Word，Excel和Outlook等Microsoft365应用程序中的任务•DeepL是领先的人工智能翻译工具，紧随其后（MicrosoftCopiLotMicrosoftCopiLot31，551，774，637•QuillBot排在前五名（2.0%），是另一个提供释义和总结的写作助手。顶级AI应用百分之ChatGPTGrammarLyMicrosof tCopiLot DeepLQuiLLBot用户OpenAIWordtune顶级AI应用百分之ChatGPTGrammarLyMicrosof tCopiLot DeepLQuiLLBot用户OpenAIWordtuneCodeium 百分之一百分之一Codeium2,439,268,6981,806,093,093织机662,917,153ZineOne571,034,336Synthesia570,918,959作家512,811,065433,139,217谷歌双子座317谷歌双子座317，583，902379,841,841Otter.ai跑道256，927，467YeLLowMessenger245，412，258图2：按事务量划分的顶级AI应用程序人工智能在企业生产力和写作中的主导作用带来了重大风险，包括数据泄露、即时注入攻击、违规行为、人工智能幻觉、IP暴露、隐私问题和潜在的过度依赖。了解如何减轻这些风险并安全地接受AI，请参阅安全企业人工智能在企业生产力和写作中的主导作用带来了重大风险，包括数据泄露、即时注入攻击、违规行为、人工智能幻觉、IP暴露、隐私问题和潜在的过度依赖。了解如何减轻这些风险并安全地接受AI，请参阅安全企业AI采用的最佳实践部分。例如：Codeium、Claude人工智能驱动的编码助手在软件开发中变得越来越普遍，推动了30多亿笔交易。它们帮助开发人员更快地工作，但企业必须意识到从质量问题到知识产权问题的风险例如：织机、合成织机人工智能作为创意合作伙伴的作用正在扩大，视觉和创意人工智能工具产生了27亿笔交易。视频创建工具在这一类别中处于领先地位，使组织能够扩展视频内容制作工作和内容输出。ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.9示例：ChatGPT、MicrosoftCopilot、PerplexityZscaler云中近三分之二的AI/ML交易属于AI驱动的助手类别。这些应用程序涵盖了广泛的用例，从人工智能驱动的聊天界面和研究工具到工作流自动化和企业集成，所有这些应用程序都有一个共同的目标，即提高企业生产力。示例：Grammarly、Quillbot、WordtuneAI/ML应用活动的第二大份额来自写作和内容生成类别。人工智能驱动的写作工具已迅速成为企业内容和通信的组成部分，简化了编辑、提高清晰度和其他语法改进等任务。示例：DeepL、DeepageTool人工智能驱动的语言和翻译工具占146亿笔交易。这些解决方案正在简化全球业务通信，实现更快、可扩展的多语言内容创建，但对准确性和数据隐私的担忧随着组织寻求人工智能驱动的竞争优势，定制人工智能应用程序占超过40亿笔交易。企业正在利用量身定制的人工智能解决方案，用于预测分析、欺诈检测、自动化等用例。编码助理百分之一点三按应用类别分列的转型类别交易类别交易自定义应用程序百分之一点七语言翻译语言翻译生产力助理生产力助理生产力助理生产力助理151,184,021,338写作内容生成70,916,692,869语言翻译14,638,307,672写作写作一代视觉/创意工具一代视觉/创意工具2,723,874,910百分之二十八点三数据分析自动化1,367,864,485百分之二十八点三客户支持聊天机器人1,172,151,320转录354,967,757搜索引擎297,174,973语音和音频工具191,295,786图3按申请类别划分的交易ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.10单凭交易量并不能说明企业AI使用的全部情况ThreatLabz还分析了企业和AI工具之间传输的数据量按照这个标准，ChatGPT仍然是最大的应用程序，传输了1481TB的数据大量的数据表明，企业不仅经常使用ChatGPT，而且还在大规模使用。在ChatGPT的数据传输量之后，Grammarly，OpenAI和MicrosoftCopilot排名很高，强调了它们在AI驱动的内容优化和模型训练中的作用。其他贡献大量数据传输量的著名工具包括DeepL、Synthesia和Wordtune，它们都支持各种企业需求，从生产力提升到人工智能驱动的视频消息传递。密切关注交易量和数据传输趋势将是有效整合人工智能的关键，同时保持对潜在风险的领先ThreatLabThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.11AI/ML应用程序响应的数据共享QuiLLBotWordtune百分之一AI/ML应用程序响应的数据共享QuiLLBotWordtune百分之一DeepLMicrosoftCopiLot百分之十二聊天GPT40.9%OpenAI百分之Grammarly21.0%图4：按传输的总数据百分比列出的顶级AI/ML应用ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.12被阻止的AI/ML交易企业人工智能的增长也遇到了阻力，因为企业加强了控制，以减轻数据安全、隐私和合规风险。目前，企业在Zscaler云中阻止了59.9%的AI/ML交易，在2024年2月至12月期间，总计超过3219亿次被阻止的交易交易（交易（BiLLions）Feb三月四月可以君JulAugSepOctNovDec图5：2024年2月至12月期间被锁定的AI/ML交易数量有趣的是，使用最广泛的AI有趣的是，使用最广泛的AI工具也是最经常被屏蔽的，关于ChatGPTGenAI聊天机器人仍然是防止数据丢失的安全措施的主要重点Adobe.io是Adobe基于云的开发者平台，为Adobe产品提供API和AI驱动的自动化工具，占所有被阻止的AI和ML域交易的68%。这一趋势表明，企业正在积极努力防止未经授权的数据传输和保护专有内容。企业正在人工智能创新和安全之间走钢丝。随着人工智能的采用不断增长，组织将不得不收紧对风险的控制同时仍然利用AI/ML的力量来保持竞争力。热门被屏蔽的AI应用顶级被阻止的AI域名1.ChatGPTadobe.io2.GrammarL3.MicrosoftCopiLotgrammarL4.QuiLLB5.Wordtune6.CodeiumdeepL.com7.DeepL8.D10.SecuritiC数据丢失到AI/ML应用程序随着AI/ML活动在企业中激增，数据暴露的风险也随之增加。人工智能驱动的生产力助手和聊天机器人、代码助手和文档分析器可能会无意中暴露敏感的企业数据。用户在不知不觉中与缺乏企业级安全控制的人工智能模型共享机密信息，使这一挑战变得更加复杂。许多AI/ML工具已被标记为Zscaler云中的数据丢失防护（DLP）违规行为这些违规行为代表了敏感的企业数据（如财务数据，PII，源代码和医疗数据）被发送到AI应用程序，并且该交易被Zscaler策略阻止的这些AI应用程序中可能会发生数据丢失没有Zscaler的DLP执行。因此，违规行为是真实世界AI数据丢失趋势的关键指标违反MOSTDLP政策的AI/ML应用程序应用DLP违规ChatGPT2，915，502879，131MicrosoftCopiLot257，869Codeium41，041CLAude40，993合成22，975语法7，157DataRobot5，440QuiLLBot4，649谷歌双子座4，227Y2,3412,129DeepAIThreatLabThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.13这些工具共享一个共同的风险状况，因为它们基于云的处理和在生产力工作流中的使用，它们通常处理敏感的企业数据。这些违规行为凸显了对AI感知DLP控制的日益增长的需求，以确保组织能够安全地接受AI，同时防止数据泄露。仔细研究最常见的与AI相关的DLP违规行为，可以发现个人身份信息（PII）这些工具共享一个共同的风险状况，因为它们基于云的处理和在生产力工作流中的使用，它们通常处理敏感的企业数据。这些违规行为凸显了对AI感知DLP控制的日益增长的需求，以确保组织能够安全地接受AI，同时防止数据泄露。仔细研究最常见的与AI相关的DLP违规行为，可以发现个人身份信息（PII），专有源代码和医疗保健相关数据都有暴露的风险十大AIDLP违规行为67疾病漏医8名称泄漏（加拿大）123SociaL安全号码名称泄漏（美国）AduLt内容药物泄漏9BraziLianIndividuaL纳税人登记处ID源代码4自我伤害的网络购物内容5检查与ChatGPT和MicrosoftCopilot相关的DLP违规行为-两种最广泛使用的企业AI工具和DLP违规行为的头号罪犯-揭示了PII，健康相关数据和源代码的频繁暴露ChatGPTDLP违规MicrosoftCopiLotDLPVioLationsSSN，药物泄漏，疾病泄漏，SSN，nameLeakage（US），diseasesLeakage，nameLeakage（Canada），BraziLianIndividualL纳税人登记处ID治疗泄漏，financialL，源代码如需深入了解ChatGPT使用模式，请查看ChatGPT使用趋势部分。要了解如何减少GenAI应用程序的数据丢失，请阅读安全集成GenAI的5个下面的工具按行业划分的AI使用情况企业对AI和ML工具的采用因行业而异，金融&保险业领先，推动了28.4%的AI/ML交易。随着金融服务业继续采用人工智能驱动的效率来实现欺诈检测、客户服务自动化和风险评估等关键功能，其人工智能交易量已超过制造业，目前占人工智能/机器学习交易总量的21.6%其次是服务（18.5%）、技术（10.1%）和保健（9.6%）行业，每个行业都根据其独特的运营优先级以不同的速度采用人工智能。而服务业可能会在客户支持和运营方面增加人工智能的ThreatLabz2025ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.14图6：推动AI交易比例最大的行业按垂直方向划分的人工智能转型趋势金融保险制造业服务TechnoLogy通信保健政府其他零售商WhoLesaLe教育图6：推动AI交易比例最大的行业按垂直方向划分的人工智能转型趋势金融保险制造业服务TechnoLogy通信保健政府其他零售商WhoLesaLe教育月图7：最高流量行业的AI/ML交易趋势别人百分之三点四政府别人百分之三点四政府医疗保健百分之九点六技术百分之十点一服务百分之十八点五零售批发教育教育百分之零点三金融保险百分之二十八点四制造百分之二十一点六各行业也在加大力度保护AI/ML交易，但被阻止的AI/ML活动数量各不相同。金融保险阻止了39.5%的人工智能交易。这一趋势符合行业的严格的合规环境以及保护财务和个人数据的必要性制造业阻止了19.2%的人工智能交易，这表明人工智能被广泛使用但密切监控安全风险的战略方法，而服务业采取了更平衡的方法，阻止了15%的人工智能交易。另一方面，医疗保健只阻止了10.8%的AI交易。尽管处理了大量的健康数据和PII，但医疗保健组织仍然落后于在保护人工智能工具方面，安全团队能够跟上快速创新的步伐。这一趋势凸显了延迟的保护措施，使医疗保健行业的整体人工智能交易与其他行业相比相对较低按垂直方向划分的阻塞人工智能传输的份额垂直被阻止的AI事务的百分比制造业制造业金融保险.服务医疗保健百分之十点八技术&通信政府别人二点二零售商WhoLesaLe教育百分之零点三行业聚光灯金融保险领域AI应用TOP512345Microsoft语法用户定义的应用程序ChatGPTDeepLCopiLot作为Zscaler云（152.4B）中AI/ML交易的主要驱动力，金融保险行业对AI的潜力进行了深入投资。这些行业依靠人工智能来实时分析金融交易，检测欺诈活动，加速索赔处理，仅举几个帮助他们节省时间和金钱的关键任务。除了自动化，生成式人工智能正在重塑金融业务。ChatGPT和MicrosoftCopilot等工具是Zscaler云中金融保险公司最常用的应用程序之一，可帮助金融机构汇总报告，自动化工作流程，并协助执行合规任务。自定义人工智能应用程序也在金融服务组织的前五与此同时，DeepL的高交易量表明，全球金融领域对人工智能翻译的需求日益增长。随着金融保险组织越来越多地集成人工智能，他们面临着与安全性、监管合规性和道德问题相关的日益严峻的挑战，包括数据隐私、偏见和准确性。&人工智能机器人现在占被阻止交易的很大一部分，利用API和身份验证工作流绕过安全控制。为了应对这些威胁，组织越来越多地采用人工智能驱动的安全模型来进行行为异常检测和基于风险的自适应身份验证。然而，对抗性人工智能技术仍在不断发展，需要持续监控和先进的零信任策略来缓解新出现的风险。通过优先考虑监管和道德人工智能的使用，金融机构可以保护数据完整性，确保公平性，并保持银行，保险和其他金融部门的公众信任ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrights15制造业中排名前5的人工智能应用12345微软ChatGPT语法DeepLQuiLLBot副驾驶在我们的研究中，AI/ML流量的第二大份额（21.6%）来自制造业客户。人工智能在该行业的采用是第四次工业革命-工业4.0-的关键驱动力，工业4.0正在通过智能工厂，物联网连接设备和预测性维护重新定义制造业制造商越来越多地利用人工智能来增强运营，从通过分析广泛的机械和传感器数据来预测设备故障，到简化供应链管理、库存控制和物流。此外，AI驱动的机器人自动化系统大大提高了制造效率，以比人类工人更快的速度和更高的精度执行任务，从而降低了成本并最大限度地减少了错误。然而，数据安全仍然是一个令人担忧的问题，因为制造业占被阻止的AI/ML流量的19.2%，这表明对AI的采用持谨慎态度。这种谨慎源于对数据安全的担忧，以及仔细评估和批准人工智能应用程序的必要性，同时限制那些带来更高风险的应用程序例如，电子制造商可能会实施严格的协议，以确保只有符合严格安全标准的AI应用程序才能集成到其运营中，从而有效地减少潜在的漏洞。©2025Zscaler©2025Zscaler，Inc.Allrightsreserved.ThreatLabz2025AI安全报告医疗保健领域的5大AI应用12345微软ChatGPT语法副驾驶DeepLQuiLLBot医疗保健在Zscaler云中的AI/ML使用中排名第五，占流量的9.6%然而，今年，医疗保健行业仅阻止了所有人工智能交易的10.8%，比2024年的17.23%大幅下降有几个因素导致了这种变化。AI/ML工具的快速集成导致了AI相关活动的激增像ChatGPT这样的应用程序-Zscaler云中医疗保健组织最常用的AI/ML应用程序-可以帮助医疗保健专业人员提供诊断支持，医学研究摘要和患者文档。然而，AI/ML活动的增加可能使区分合法和恶意AI交易变得具有挑战性，可能导致更少的区块。随着医疗保健组织越来越依赖人工智能来完成患者护理和管理任务，越来越重视实现人工智能功能。医疗保健中的AI/ML提供了显着的进步，但也带来了显着的风险。一个主要的问题是数据隐私;人工智能系统通常需要大量的患者数据，从而引发了敏感信息的安全性和机密性问题此外，AI生成的内容可以有时包含不准确或导致潜在的误诊或治疗错误。此外，人工智能驱动的网络攻击（例如人工智能生成的网络钓鱼活动）日益复杂，带来了更大的安全挑战。因此，虽然AI/ML技术可以增强医疗保健行业并最终改善患者护理，但必须实施强大的安全措施并保持人为监督以减轻这些风险。ThreatLabz2025AI安全报告©2025©2025Zscaler，Inc.Allrights17政府领域AI应用TOP5MicrosoftQuiLLBotChatGPT语法QuiLLBotChatGPTCopiLot今年，政府对AI/ML的使用率增加到4.2%，这是由于政府追求更好的服务提供和更有效的决策。这一增长可能归因于人工智能在简化运营、提高公民参与度和为数据驱动的决策提供信息方面的潜力。在Zscaler云中跟踪的人工智能应用程序中，Grammarly是政府实体使用最多的工具，这表明重点是改善政府与公民的沟通。微软Copilot是政府的第二大人工智能工具，它的使用进一步表明了人们对人工智能自动化的兴趣，例如行政效率。然而，这种快速集成需要强大的安全措施来减轻相关风险。数据隐私是一个主要问题，因为人工智能系统通常需要广泛访问敏感信息，从而增加了违规的可能性。安全漏洞是另一个关键问题;人工智能系统可能成为旨在提取敏感数据的复杂网络攻击的目标此外，算法偏见可能导致不公平或歧视性的结果，破坏公众的信任。为了降低这些风险，必须实施强大的安全措施，建立明确的治理框架，并在整个生命周期中保持人为监督。ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.18DeepSeekDeepSeek是中国对ChatGPT的回应。然而，与具有内置安全限制的ChatGPT不同，DeepSeek允许不受限制的访问，使其成为一个强大但有风险的工具。其开源性质引发了人们对数据安全的担忧，主权和缺乏安全控制意味着企业和最终用户在使用DeepSeek之前需要仔细评估风险。同样，由xAI开发的Grok采用了更灵活的方法来进行AI交互，与传统模型相比，它提供了更少的在本报告的DeepSeek和开源AI部分中阅读更多关于DeepSeek的出现及其风险的信息。ChatGPTChatGPT使用趋势ChatGPT在2024年达到了两年大关，其企业采用率和全球受欢迎程度没有减弱的迹象。随着内存功能和实时网络搜索的推出，ChatGPT比以往任何时候都更智能、更快、更有用，从而推动更高的采用率。仅在今年上半年，Zscaler云中的全球ChatGPT交易总额就达到907亿，巩固了其作为最常用的生成式人工智能工具的地位50B50B从聊天到深度探索：人工智能聊天机器人的发展像从聊天到深度探索：人工智能聊天机器人的发展像ChatGPT（OpenAI）和Claude（Anthropic）这样的领先AI模型主导了聊天机器人领域，在Zscaler云中占这些应用程序广泛用于企业环境中的内容创建、编码辅助、数据分析和工作流自动化。虽然主流模型在某种程度上采取了安全措施，但开源替代方案引入了新的风险-这就是DeepSeek的用武之地。40B30B20B10B22月3月4月5月6月7月8月9月10月11月12月月月图8：2024年2月至12月的ChatGPT交易ThreatLabThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.19聊天工具的垂直使用图9：驱动ChatGPT交易比例最大的行业然而，ChatGPT的行业采用并不完全反映整体AI/ML使用趋势-它有一个显著的异常值。虽然金融保险推动了整体AI/ML交易仅占ChatGPT使用量的11.4%。这种较低的采用率可能反映了更严格的安全性，合规性和数据隐私问题，这些问题限制了人工智能在受监管环境中的使用。制造业在人工智能交易总量中排名第二，是ChatGPT交易量最高的行业这表明，制造商从技术文档到自动化工作流程，都在利用生成式人工智能。紧随其后，服务，医疗保健和技术部门也大量使用ChatGPT。各国AI使用情况人工智能的使用在全球范围内正在加速，各国都在加大投资，以推动创新并保持竞争力。美国和印度在Zscaler云中的AI/ML交易数量中占主导地位，反映了对研究，基础设施甚至AI驱动的初创企业的强烈承诺美国（46.2%）推动了最多的交易，而印度（8.7%）成为第二大贡献者。美国相对灵活的监管环境（见《人工智能法规的演变范围》）促进了人工智能的实验和部署，这可能会给美国企业带来关键优势。与人工智能法律更严格的地区不同，美国在开发和整合人工智能技术方面提供了更大的灵活性。据报道，2024年企业对企业人工智能应用的投资为138亿美元，比上一年增加了六倍。印度继续成为人工智能竞赛中的重要参与者，在金融保险、医疗保健、制造业和政府服务等关键领域进行投资随着国家人工智能战略1等强大的政府投资和不断增长的私营部门投资，印度正在利用人工智能来增强自动化，分析和网络安全。然而，挑战仍然存在-数据隐私问题，监管不确定性和人工智能人才短缺-阻碍了广泛采用。尽管发展迅速，但各国在采用人工智能方面仍面临障碍严格的数据隐私法（如GDPR）带来了合规性挑战，而人工智能实施的高成本和熟练人才的短缺则造成了采用障碍，尤其是在新兴市场。安全问题-人工智能驱动的网络威胁，算法偏见等-进一步使采用和使用复杂化。随着各国和政府应对这些挑战，一种将监管清晰度、人工智能教育投资和强大的网络安全框架相结合的战略方法，对于全球人工智能的大规模采用至关重要1NitiAayog，《国家人工智能战略》，2025年2月28日访问。ThreatLabz2025AI安全报告按国家分列的人工智能转移所占份额西班牙百分之一点四菲律宾法国百分之二点六澳大利亚百分之三点三加拿大按国家分列的人工智能转移所占份额西班牙百分之一点四菲律宾法国百分之二点六澳大利亚百分之三点三加拿大百分之三点六百分之三点六德国百分之四点二联合王国美国46.2%图10：推动人工智能交易比例最大的国家©2025Zscaler，Inc.Allrights20ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.21EMEA见解仔细观察欧洲、中东和非洲（EMEA）地区，发现最大的人工智能交易量来自英国（22.3%）、德国（18.4%）和法国（11.3%）。虽然英国仅占全球人工智能交易的5.1%，但它再次占EMEA地区人工智能流量的20%以上，成为该地区的领导者。德国的人工智能交易数量同比增长（+5.74%），更多的公司投资于人工智能技术。这种激增在制造业和服务业中很明显，这是由自动化和效率需求驱动的法国也一直将自己定位为全球人工智能竞争者，总统埃马纽埃尔·马克龙在2025年2月的私人投资为1090亿欧元沙特阿拉伯百分之二点五联合王国22.3%联合王国22.3%百分之二点五阿拉伯联合酋长国意大利百分之三点二荷兰德国百分之十八点四百分之三点六德国百分之十八点四波兰瑞士法国百分之十一点三百分之四点一法国百分之十一点三西班牙12.5B交易（交易（BiLLions）7月8月9月10月11月12月月图11：EMEA地区按国家分列的人工智能交易份额图12：EMEA地区2024年7月至12月的人工智能交易法国CNBC公布了1090亿欧元的人工智能投资，因为欧洲希望跟上美国，2025年2月10日ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.22亚太地区见解ThreatLabz深入研究亚太地区，发现AI交易的最大份额尽管日本的人工智能交易量同比增长（+5.7%但该国对人工智能技术采取了更为谨慎的态度由于文化因素和严格的监管环境，人工智能的日常使用仍然相对较低澳大利亚正在更积极地制定框架，确保负责任的人工智能使用，人工智能交易同比增长3.6%。菲律宾也正在加速采用人工智能，人工智能行业将在2025年至2030年间以每年41.5%的速度增长。亚太地区国家分类韩国马来西亚香港百分之三十六点四百分之三十六点四百分之三点四新西兰百分之四点六新加坡菲律宾百分之十五点二百分之十五点二13.6%12.5B交易（交易（BiLLions）7月8月9月10月11月12月月图13：亚太地区各国人工智能交易份额图14：亚太地区2024年7月至12月的人工智能交易3世界经济论坛，继承传统与创新：日本走向全球人工智能领导地位的道路，2024年12月17日。4马尼拉时报，AI突破PH企业需要知道，2025年25I（IMF）预计，2024年12月27日，36%的PH工作岗位被人工智能所缓解或取代。企业AI风险_和现实世界的威胁场景企业采用AI的核心风险将人工智能引入您的组织会带来各种机遇和风险，其中许多仍在不断发展。人工智能驱动的系统创造了新的攻击面，GenAI和LLM特别容易受到可以操纵人工智能输出、引入偏见或泄露敏感信息的威胁这些都是企业必须应对的最大风险。AI输出的完整性取决于输入数据的质量。低质量的输入、过时的信息或有偏见的训练数据可能会导致有缺陷或误导性的输出，最终会对业务决策和安全性产生不利影响。人工智能模型也容易产生幻觉，它们会产生不正确或捏造的信息，如果从表面上看，可能会导致传播更糟糕的是，威胁行为者可以利用幻觉引入恶意有效载荷。更广泛的担忧是数据中毒，其中威胁行为者操纵人工智能模型的训练数据以生成错误输出，嵌入偏见或引入漏洞。人工智能应用程序通常处理业务关键和敏感信息，如专有研究和内部算法。如果这些数据在没有严格保护措施的情况下被输入到第三方AI模型中，则可能会被保留、重新利用甚至暴露，从而导致知识产权盗窃。一个特别值得关注的攻击向量是模型反演，其中威胁参与者可以对AI模型进行逆向工程，从训练数据中提取这可能导致机密业务、个人或专有数据的泄露。人工智能工具处理大量敏感数据，因此了解这些数据的去向至关重要。一些AI模型存储用于训练的输入，将其用于广告，甚至与第三方共享，导致隐私问题和合规问题（例如，GDPR、HIPAA）。此外，并非所有AI提供商都具有相同的安全性标准，这意味着一些工具可能更容易受到数据泄露，未经授权的访问或对抗性攻击。企业需要评估人工智能应用程序的安全性，在将其引入生态系统之前，要考虑数据保护和行业最佳实践等因素ThreatLabzThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrights随着企业将人工智能集成到其工作流程中，他们还必须面对影子人工智能的风险-未经授权使用人工智能工具，可能导致数据泄露和安全盲点。如果没有适当的控制，敏感的业务信息可能会被第三方AI模型暴露、保留，甚至用于训练外部系统。为了预防这些风险，组织必须采取积极主动的方法，解决以下关键问题：企业应该能够在部门、团队和用户级别对指定企业应该能够在部门、团队和用户级别对指定的、经批准的AI工具实施粒度访问和细分相反，他们应该使用URL过滤来阻止访问不安全或未经授权的AI应用程序。企业应该收集详细的日志，以跟踪提示、查询和输入的数据。人工智能工具。这为员工如何使用人工智能工具提供了重要的可见性，并帮助组织识别潜在的安全和合规风险。3具体的AI应用程序提供哪些数据安全措施？随着成千上万的人工智能工具在日常使用中，企业应该知道他们的工具如何处理数据保留，模型训练和第三方数据共享。一些人工智能提供商允许企业托管私有、安全的数据服务器--这是一种最佳实践--而另一些提供商可能会保留所有用户输入，将其用于模型训练，甚至将其出售给第三方，从而带来重大的数据安全风险。企业必须全面了解正在使用的企业应启用DLP解决方案，以防止专有代码或财务、法律、客户和个人数据等敏感信息 ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.24DeepSeek和开源AI：口袋里的前沿模2025年，中国的开源LLMDeepSeek将挑战美国领先的AI公司OpenAI，Anthropic和Meta，同时破坏我们所知道的AI发展战略和基础模型路线图。简而言之：DeepSeek是开源的（或开放权重），与最先进的模型相比表现相对较好然而，正如我们将在接下来的几节中探讨的那样，这种开发可能会带来安全风险。从历史上看，前沿人工智能模型的开发仅限于一小群精英“构建者”--像OpenAI和Meta这样的公司，它们投入了数十亿美元来训练大规模的基础模型。然后，这些基础模型被“增强者”利用，他们在这些基础上构建应用程序和AI代理，然后才能接触到更广泛的“采用者”或最终用户。DeepSeek通过大幅降低训练和部署基础LLM的成本，打破了这种结构，使更多的玩家进入AI领域成为可能。与此同时，随着xAI的Grok3模型的发布，该公司宣布Grok2将成为开源-这意味着，与Mistral的Small3模型一样，用户在开源AI方面有更多的选择。这一转变有效地使人工智能民主化，同时也引发了不可避免的安全、隐私和数据主权问题。DeepSeekDebates：ChineseLeadershipOnCost，TrueTrainingCost，ClosedModelMarginImpacts，January31，2025.（半解析，ThreatLabz2025AI安全报告总的来说，来自私人和开源AI构建者的竞争压力正在使AI智能商品化，从而降低了最终用户的成本，即使AI模型变得更加强大。此外，DeepSeek可能专门提供了一个模型，以降低构建者训练AI模型的成本训练人工智能传统上需要巨大的计算机能力和高昂的成本。例如，据报道，像OpenAI的GPT-4这样的模型需要超过1亿美元来开发。与此形成鲜明对比的是，DeepSeek的V3基础模型据称建造成本不到600万美元，这表明尖端人工智能不一定要有巨大的价格标签（尽管至少有一项分析声称真正的资本支出和培训成本可能是超过10亿美元）。即便如此，通过结合强化和激励学习，DeepSeek将开发成本降低了25倍，使人工智能能够在最少的人为干预的情况下自行改进。它的API成本仅为每百万输入令牌0.55美元-远远低于OpenAI的15美元-使高级AI更实惠。此外，其开源MIT许可证允许组织和用户根据其独特需求定制和优化模型。总而言之，DeepSeek正在为传统人工智能精英“构建者”之外的组织铺平道路，以以前成本的一小部分开发，培训和部署LLM然而，较低的进入门槛也有利于网络犯罪分子和流氓AI开发人员，他们现在可以利用强大的生成AI模型进行恶意目的。©2025Zscaler，Inc.Allrights25随着DeepSeek等开源人工智能在全球范围内获得关注，企业必须为不受限制地访问这些强大模型所带来的风险做好准备1.安全控制薄弱：随着人工智能技术的广泛采用，企业必须彻底检查其潜在影响。例如，DeepSeek目前似乎没有足够的安全护栏，引起了严重的安全问题，例如：•自动化网络犯罪：威胁行为者可以使用该模型自动创建恶意脚本、键盘记录程序代码、漏洞利用和网络钓鱼电子邮件模板，从而大幅增加其攻击的数量和规模。•对抗性操纵：缺乏安全控制使AI模型非常脆弱对抗性操纵测试表明，DeepSeek超过一半的越狱尝试失败，导致仇恨言论和错误信息等有害内容的创建2.数据泄露和网络犯罪授权：与任何重大技术进步一样，开源AI功能为网络犯罪分子提供了新的机会，可以开发更有效的利用和数据泄露技术，包括：•自动化攻击链：研究表明，单个提示可以引导流氓GenAI模型执行整个攻击序列，从外部攻击表面发现到数据泄露。•漏洞利用：网络犯罪分子可以使用类似DeepSeek的模型进行扫描面向公众的系统中的已知漏洞，加速发现可利用的弱点。•有针对性的数据盗窃：威胁行为者可以利用DeepSeek的人工智能数据处理能够抓取社交媒体、网站和暗网来源，以收集受影响的员工凭证。ThreatLabz2025AI安全报告©2025Zscaler，Inc.AllThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.263.意外数据暴露：当人工智能应用程序在没有适当治理的情况下使用时-无论是未经批准的“影子人工智能”还是受到制裁-都会增加敏感数据通过以下方式暴露的可能性•无意的数据共享：如果没有适当的治理，影子人工智能将始终面临暴露敏感数据的风险。员工可能会意外输入敏感的公司数据，这些数据可能会通过人工智能生成的响应、未经授权的访问或数据泄露而暴露。组织必须有明确定义的策略和安全控制，以管理其环境中GenAI模型和应用程序的使用。•数据保留风险：由于DeepSeek可以根据用户提供的数据进行微调，因此存在敏感的企业数据可能嵌入模型响应中的真实风险无论存储在人工智能公司数据库、自托管服务器、公共云还是其他地方，企业都应该知道人工智能工具如何处理保留、模型训练和第三方数据共享。最终，数据集的每个实例-特别是敏感数据-都会带来安全风险。主动应对这些挑战需要在将开源AI集成到企业环境之前实施强大的AI治理、零信任安全策略和数据保护框架了解有关如何降低这些风险的更多信息，请参阅谁才是真正的掌控者？由于DeepSeek是在中国开发的，使用该模型的企业必须考虑其数据在哪里处理，以及谁可能有权访问这些数据。DeepSeek处理的敏感商业信息可能会受到中国政府的监督，这引发了对外国访问、监管合规挑战以及跨境数据隐私风险。5提示欺骗：DeepSeek生成的钓鱼网页下面的场景探讨了威胁行为者如何使用DeepSeek生成类似于Microsoft的L登录页面的钓鱼页面，并使用五个简单的提示反复改进该页面来自ThreatLabz的最后一个提示包含了客户端伪装，ThreatLabzThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.27用户提示：“您可以为登录页面生成HTML代码吗？”攻击者可以从一个通用的登录表单开始，为钓鱼页面奠定基础用户提示：“您可以创建类似于登录页面的页面DeepSeek改进了设计，模仿了微软官方的L登录界用户提示：用户提示：“L首先要求输入用户名，然后要求输入密码。你能添加相同的功能吗？”DeepSeek复制了合法身份验证流程的两步用户提示：“使登录框更像一个正方形，并在登录框上方添加一个Outlook图像添加品牌元素可以减少怀疑，使网络钓鱼页面与真实网站几乎无法区分用户提示：“您是否可以合并客户端伪装，检查用户代理，浏览器指纹，IP检查和行为模式？”DeepSeek集成了客户端伪装，这是一种广泛使用的技术，允许攻击者隐藏网络钓鱼页面，使安全供应商无法检测到。最后的改进进一步提高了页面的隐蔽性和有效性。ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.28人工智能在网络威胁中的作用越来越大在过去的一年里，人工智能与网络犯罪的结合从根本上改变了威胁格局。网络犯罪分子正在将人工智能武器化，以发动更复杂和更具欺骗性的攻击，从人工智能驱动的社会工程到高级模型操纵。Deepfake技术只会变得越来越有说服力。人工智能模型OmniHuman-1于2025年2月全新亮相，可以从一张照片生成超真实的人体视频，并具有流畅的口型同步和实时语音适应功能。语音克隆技术的进步也将不可避免地助长vishing（语音钓鱼）攻击的激增攻击者现在可以用几秒钟的录音复制声音，使他们能够快速适应并实时响应。这种日益严重的威胁已经在野外发生。最近，网络犯罪分子针对MicrosoftTeams用户发起了一场网络钓鱼活动。人工智能代理，或“代理人工智能”，也可以作为新的攻击载体和威胁行为者的攻击工具这些自主人工智能系统可以在最少的人工输入下执行复杂的多步骤任务，它们可以为社会工程引入新的复杂性和欺骗性例如，代理可以自主分析大量的社交媒体数据，并生成量身定制的消息，以模仿合法的通信。这种自动化可以在几乎没有人为监督的情况下大规模部署网络钓鱼攻击在本报告的部分阅读更多内容关于人工智能随着这些人工智能的进步加剧了社会工程攻击，组织必须教育员工并实施人工智能驱动的网络防御以保持保护。ThreatLabz2025AI安全报告29ThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.30人工智能已经减轻了勒索软件运营商的大部分负担，使他们能够在攻击链的每个阶段自动化和优化攻击恶意软件威胁行为者正在利用人工智能工具扫描网络漏洞，生成针对特定配置的漏洞，并促进勒索软件在受损环境中的快速传播。真正不断发展的威胁不仅仅是自动化，而是AI不断适应的能力AI生成的多态恶意软件可以动态重写其代码和执行模式以逃避检测，而对抗性AI模型则实时分析安全响应这允许AI驱动的恶意软件在攻击过程中调整其行为，选择最有效的方法进行渗透，提升权限并避免检测。这些进步将继续使人工智能驱动的恶意软件和勒索软件活动更具规避性，要求企业采用人工智能驱动的防御措施，以预测和应对此类威胁。图15展示了其中一些场景以及攻击者在整个攻击链中使用GenAI的其他关键方式GenAI发现攻击动图15：攻击者如何在勒索软件攻击链中使用AI使用流行的人工智能工具从头开始虽然人工智能代理无疑将推动创新，但它们的功能也会引入新的攻击载体和安全风险。人工智能有望对网络安全格局产生重大影响。与需要人类监督的传统人工智能模型不同，代理人工智能自己做出决策，从环境中学习，并使用流行的人工智能工具从头开始虽然人工智能代理无疑将推动创新，但它们的功能也会引入新的攻击载体和安全风险。什么是智能人工智能？人工智能是一种自主行动的人工智能，它可以做出决策，分析环境，并调整其行动以实现特定目标-所有这些都很少或根本没有人类监督。关键能力：•独立运行并实时调整•做出决定并采取行动•执行复杂的多步骤任务，只需极少的监督•比聊天机器人或智能助手更先进•可用于创新和网络威胁AI安全报告2025ThreatLabz©2025Zscaler，Inc.AllrightsreservedAI安全报告2025ThreatLabzThreatLabz2025AI安全报告©2025Zscaler，Inc.Allrightsreserved.32智能人工智能的潜在意义人工智能系统日益增长的自主性表明，安全团队将面临许多挑战和风险，这些挑战和风险出现在