开箱吧！腾讯云大模型安全发布会材料-LLM-WAF：大模型安全防护

LLM-WAF：大模型安全防护云安全中心-大模型安全态势管理分享人：王军终结AI业务四大致命伤——算力滥用｜数据泄露｜API失控｜合规暴雷基于大模型的生成式人工智能迎来大爆发LLM已经融入企业核心应用，是业务创新发展的新动力。成为企业内新的IT基础设施。API密钥劫持（Deepseek被广泛通过Ollama部署在本地导致API被暴露利用）、多模态内容攻击、上下文语义攻击、过度代理风险等系统提示泄露、不当输出内容（恶意代码、色情反动等）、敏感信息泄露（例如OminG平台泄露3万个用户电子邮件、3400万用户对话记录等敏全球各国针对大模型加速出台安全管理政策工智能法案》，把AI应用的风险分为接受风险、高风险、透明风险和最低风险，其中高《AI权利法案蓝图》《AI风险管理框架》等一系列AI监管法律或法案我国针对大模型安全管理政策备案和变更、注销备案手续。”“坚持“坚持社会主义核心价值观，不得生成煽动信息等法律、行政法规禁止的内容。”“国内首个生成式“国内首个生成式AI安全指导性文件.《要面的基本要求，包括语料安全、模型安全、会主义核心价值观的内容、歧视性内容、核对是否符合这份文件中的要求。”•LLM-WAF为专为大语言模型设计的智能安全防护网关.提供多模型、多场景、高并发环境下的全链路防护能力•支持实时检测并拦截针对大模型的算力滥用、提示词攻击及数据泄露风险，助力企业构建可信、稳定、可持续的大模型服务生态。APP不当内容APIAPI提示词泄露大模型服务源站脚本爬虫大模型服务CVMGPU恶意用户大模型算力服务恶意用户自动化WebDriver提示词、企业关键词泄露敏感信息检测（数据安全分类分级引擎）•提示词注入：针对中英文预料增强训练.识别角色扮演等越狱指令和常见提示注入攻击行为•不当信息：政治、色情内容识别•敏感信息：身份证号、手机号、家庭住址等33类《个保法》明确的敏感信息内容•自定义敏感信息：支持配置自定义关键词.可配置提示词或者企业关键信息•支持自定义拦截提示：针对不同策略、风险等级配置不同提示内容识识6亿IP画像,99%国内覆盖，每度分类标签精准判别IP是否恶意、风险严重级别、可信度级别。集成天御业务安全能力.对请求进行风险值评估.通过对账号信息提取、风险评估、对注册保护、登录保护及活动防刷的风险进行辅助分析BysinessLogicAnalysisSourcereputationRequestBysinessLogicAnalysisSourcereputationRequestreputationClientActivityAnalysisClientValidationStatisticalAnalysis行为特征分析会话特征分析合法爬虫识别执行环境监测异常特征检测行为特征分析会话特征分析合法爬虫识别执行环境监测异常特征检测AI异常检测模型动态令牌技术动态验证技术账号维度下的连续会话特征分析腾讯威胁情报（动态令牌技术动态验证技术账号维度下的连续会话特征分析腾讯威胁情报（置信度，威胁等级.活跃时间,人机概率等）天御天御业务安全情报运行环境验证；验证设备指纹和工具特征；验证用户操作行为；验证交互特征；验证是否“自动化”攻击；验证浏览器的真实性；检查浏览器的属性和环境；随机选取检测项目与数量；增加不可预测一次性的页面动态令牌，确保执行正确的业务逻辑；Cookie令牌抵御一般自动化工具，URL令牌进行URL完整性检测。抵御网页AI评估通过大数据及BOT攻防实验室的安全技术运营.形成针对当前域名的AI检出模型.升级BOT检出能力.自动析访问请求。流量动态评估：恶意分布情况.快速研判处置恶意流量异常流量访问路径：快速定位查看恶意流量的目得分体系访问请求流量通过威胁情报、智能统计、A行为管理模块进行评估打分（0-100，分数越高BOT恶意程大），得分体系场景活动秒杀群控登录爆破分析刷敏感接口爆破行为撞库行为分布式爬虫智能实时和离线分析.对当前流量进行分析.得出当前访问流量的相关会话、统计、行为特征数据；通过对流量的分析透视后.对流量进行标注区分不同类型的Bot；具备多种场景化配置.区分不同类型的Bot；恶意评论大模型恶意评论大模型滥用水军引流水军引流恶意爬虫重保护航重保护航恶意注册全流量析全流量分类标签，数据依据得分的标签APIAPI安全防护API事件管理APIAPI事件管理API资产梳理API流量分析l攻击日志l访问日志l异常权限调度l机械化调度行为l越权访问行为l涉敏风险事件l基础安全事件l事件影响及处置建议l一键处置及状态追踪在智能投顾、对话银行及开放银行API等核心业务链路中.大模型既驱动精准服务.也暴露出语义白名单、敏感数据DLP策略、双重身份校验与速率-指纹联合限流等多维防护.实现对交易完整性、数据合规性与系统可用性的全链路保障.助力金融机构符合监管对生成式AI安全与可模爬虫套壳、越狱Prompt生成涉政／色情／仇恨内容，以及深伪脚本注入等问题.对品敏感意图检测与上下文连续审计为核心能力.结合实时封禁和可解释化策略回溯.帮助平台在高速内容生产与合规治理之间取得平衡。在智能客服、动态优惠券抢购及个性化推荐模型驱动的“全链路运营”中，黑灰产示词诱导客服输出不当信息或敏感信息.影响品牌声誉.或者通过自动化脚本批量刷券、爬取价格与库存策略LLM-WAF通过内容安全校验、并发熔断、敏感字段拦截及日志留存.为零售平台构筑从交互入口到后台逻辑的闭环安全防线.确保促销玩法不被薅羊毛、经营数据不被泄露.实现营销创新与营收安全的双赢。为帮助企业全面了解并体验LLMWAF的安全防护能力.腾讯云现已正式开启LLMWAF公测。在公测期间.符合条件的企业用户可免费体验产品的核心功能.包括模型输入输出保护、敏感数据防泄漏、恶意行为防护等。通过此次公测.腾讯云希望帮助企业客户深入了解LLMWAF在实际应用中的优势.并通过持续优化和反馈.进一步提升产品的安全性能和易用性。您可以扫描以下二维码进行试用申请：/forms/AJEAIQdfAAoAUsACgbMAK8PWuTYc4RRBf大模型安全管理痛点大模型安全管理痛点大模型使用泛滥大模型热度持续上升大模型能力在不断提升大模型应用场景愈加广泛大模型部署使用门槛不断降低云厂商帮助降低部署门槛大模型API服务发展迅速开源体系蓬勃发展安全团队可能未及时针对大模型应用体系制定管理方案引入新的风险大模型组件存在各式漏洞组件配置不当触发未授权访问等风险风险被利用，可能导致主机失陷、模型被投毒、模型丢失、数据泄露训练与推理使用敏感数据，可能引发数据泄露，面临法律风险。安全管理痛点如何持续发现大模型相关资产？如何快速了解大模型资产的网络开放状态？如何及时检测大模型资产的安全风险？如何实时监控大模型资产面临的攻击态势？案大模型安全态势管理大模型安全态势管理——围绕“大模型”提供资产识别、风险检测、攻击监控等能力组件资产识别通过网络探测&主机安全对大模型组件进行识别。页面展示组件及关联资产，展示风险和网络攻击数量。提供资产对公网暴露的路径及原生风险。CVM大模型组件风险检测大模型网络攻击示警大模型组件漏洞的攻击利用行为示警。通过网络扫描&主机安全识别组件风险。大模型组件漏洞的攻击利用行为示警。展示组件漏洞与配置不当风险。大模型组件识别——解决“看见”的问题大模型组件及资产(80+)l网络扫描器从公网探测组件指纹。l主机安全agent从内部检查组件特征。l关联资产信息、网络攻击数量、风险数量进行展示。资产暴露路径l资产详情可查看大模型资产面向公网暴露的路径。l网络产品关联l资产列表、主机进程通晒l资产原生风险展示：主机漏洞、高危基线风险l可关联查看资产遭受的网络攻击、大模型相关风险。大模型组件风险检测——依托网络扫描及主机安全风险检测能力，提取大模型风险主机端检测基线检查漏洞检测主机端检测基线检查漏洞检测风险检测网网络扫描漏洞漏洞检测大模型组件漏洞攻击利用示警gradioChuanhugpt98anythingLLM88jupyter-server7jupyterlab555543jupyter-server-proxy2jupyt