腾讯全球数字生态大会 创新无界安全有界 iOA腾讯AI Agent安全体系与WorkBuddy实践_第1页
腾讯全球数字生态大会 创新无界安全有界 iOA腾讯AI Agent安全体系与WorkBuddy实践_第2页
腾讯全球数字生态大会 创新无界安全有界 iOA腾讯AI Agent安全体系与WorkBuddy实践_第3页
腾讯全球数字生态大会 创新无界安全有界 iOA腾讯AI Agent安全体系与WorkBuddy实践_第4页
腾讯全球数字生态大会 创新无界安全有界 iOA腾讯AI Agent安全体系与WorkBuddy实践_第5页
已阅读5页,还剩24页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

Agent在身份、权限、数据、攻击四个维度重塑攻防,老风险被继承放大,新攻击面同时叠加身份清晰权限静态数据可控责任可追溯:谁在操作、能做什么、数据去哪,日志一查即清共享账号自主执行,68%的企业分不清是人在操作还是Agent在操作(CSA调研228家)攻击方式:代码漏洞→自然语言漏洞、凭证、权限传统防线仍是基础自动化、规模化、拟真化攻击与防御同时提效新增:自主失误没有攻击者,模型也可能误解用户意图新增:自主失误没有攻击者,模型也可能误解用户意图错误推断→扩大行动范围→误操作新增:外部诱导网页/邮件/工具结果夹带指令伪造授权→劫持决策→借用工具权限模型模型与内容风险间接注入/投毒越权诱导/策略绕过违规内容生成片文件与数据风险桌面端沙箱(Windows/Mac/Linux)独立沙箱环境进程/文件/网络隔离模型路由用量控制Agent执行环境组织架构同步连接器管理命令与脚本执行敏感数据外泄网络访问风险网络与通讯风险存储与数据风险访问与安全日志Al腾讯安全的底座威胁情报云安全腾讯安全的底座威胁情报5大安全能力·覆盖Agent全生命周期员工侧统一AI入口·本地安全沙箱执行+云端可信推理科恩实验室Skil/Prompt检测天御违规内容识别03运行时防护03运行时防护越权与滥用阻断AI资产自动清点影子AI识别04数据安全发给模型前先脱敏违规外发即拦截02访问与权限管理动态授权,用完即失效细粒度到工具与数据令牌不落本地05全流程审计05全流程审计决策理由可追溯每步操作留痕敏感信息识别经得起合规审查iOA五大安全能力+腾讯云安全,为WorkBuddy构筑全方位、可落地的AIAgent安全体系腾讯iOA-从端到云构建系统原生级沙箱;本地SDK+云端引擎行为检测;Ski生态安全检测;管理端下发客户端安全策略②DLP敏感信息保护按允许/加密/拒绝处置,敏感不出域全链路加密所有链路TLS1.2+,强化证书校验与加密套件;服务间统一身份认证;防窃听、篡改与泄漏AICC可信推理:TEE+端到端加密+远程证明租户与容器级强隔离,凭据数据隔离与审计日志多租户存储隔离;会话日志开关;关键行为留痕,可查贯穿终端与云端模型/技能/专家准入可观测中心私自绕过AlAl-Agent客户端iOAiOA客户端零信任办公终端安全终端防泄密终端EDRAI安全资产管控数据安全风险分析Al使用效能分析访问控制风险可视化AI资产发现MCPIAP/大模型盘点AI资源访问控制MCP安全网关STS身份令牌(NHI)AI数据安全AI运行时防护AI智能引擎赋能A·数据分类分级引擎意图→计划→工具→输出→序列级异常检测C·策略与判定引擎放行/告警/二次确认/阻断·统一策略语言访问客体访问客体型从源头具备安全意识,对明显违规、越权、诱导类请求自主拒绝·保护系统提示本身不被篡改——防止用户试图通过伪造消息角色、注入特定片段来篡改模型人设或越权调用(越狱payload、注入模板、异常指令片段)时立即拦截·双向过滤,即过滤用户侧输入,也过滤被注入到系统侧消息里的攻击片段·全程毫秒级、本地完成,不产生外部调用开销·文本审核+图片审核联动,支持多模态输入的联合·反对抗归一化,送审前对文本做字符级归一化处理,2.2.快速过滤拦截已知风险3.深度审核3.深度审核专业内容审核源头约束+快速过滤+深度审核,建立输入侧的安全防御体系,防止Prompt注入、越权攻击、违规内容进入模型长期凭据硬编码或存储不当,易被窃取滥用。粗粒度授权导致Agent拥有超出任务所需的权限。实现效果:通过腾讯自研的Al安全网关,收敛企业内部的风险暴露面,确保所有网关访问都被Al安全网关统一接管。最终实现暴露面收敛、权限最小化和高危操作审计AIAI网关由,MCP网关、CLI网关、DLP网关、流量网关等一系列安全网关联合组成,多维度阻断风险NHI定义:Non-HumanIdentity(非人类身份),指不是真人、却持有凭据能登录和调用系统的“数字身份”。iOA可为企业用户提供一套完整的Agent身份管理方案,为每个Agent赋予身份①JIT临时令牌(应对Al凭据泄漏)按需生成,用后即焚,极大缩短凭据暴露窗口期。精确授权(防止授权过大)结合凭据鉴权+tools范围+行为基线+意图检测严格限制Agent可访问的API及参数范围。独立身份追溯(应对身份不可区分)审计日志清晰记录AgentID与调用链路,实现人机行为分离审计。依托腾讯云安全及科恩实验室丰富的安全经验积累,提供了全面的生态安全检测能力。数据外泄、凭据窃取敏感文件、硬编码密钥动态代码、隐藏命令提示词注入、提示词数据支持6大类支持6大类可以查看具体原因1.Hash预检(秒级)对比腾讯威胁情报库(覆盖主流Skil市场)腾讯威胁情报TIHash/签名/静态特征库命中风险未命中上传分析两类实时安全检测能力生态安全检测(加载前)生态安全检测(加载前)静态病毒查杀安装前一次性扫描,运行时零开销安装前一次性扫描,运行时零开销AI大模型审计20+安全审计判定逻辑,分钟级别检查,运行过程/结果,高开销异步等待多引擎分析结果常规任务~1分钟沙箱报告~3分钟恶意:人工审核卡片标记良性:安全放行EnterpriseEnterprise策略实时生效主程序苹果系统内核原生沙箱,支持原生文件/网络/进程控制Seatbelt(sandbox-exec苹果系统内核原生沙箱,支持原生文件/网络/进程控制Seatbelt(sandbox-exec)通用编程语言,适用于脚本编写,自动化和数据处理原生沙箱引擎+Client-ProjFS原生沙箱提供隔离能力投影文件系统提供文件保护能力Bubblewrap+SocatBwrap提供命名空间隔离能力Socat配合流量转发各平台采用最合适的原生机制·性能更优·用户体验一致性好安全性更强提供执行工具链,让Bash脚本与常用命令,开箱即用终端安全沙箱读、写、删三态规则支持配置允许、询问、禁止删除保护命中前缀,直接放行防止数据篡改后无法找回高危路径,强行禁止凭据与配置(.ssh/setting)默认策略平台提供,企业与用户配置为自定义增量命令执行Prompt操作留痕OTEL自定义上报支持通过环境变量设置上报一键禁止阻断所有网络访问域名黑白名单恶意网站特征库阻断访问恶意网站询问名单(Ask)命中前缀,人工确认放行名单(Allow)4.行为审计本地行为日志+OTEL上报日志记录项高危命令自动拦截schtasks等系统工具自动判断与执行前缀询问+放行名单策略下发+引擎拦截对话输入框账号密码、密钥信息企业机密数据/信息关键词检测识别敏感字段,比如password=低风险、策略允许原文直接进入上下文,请求模型(Curl、MCP、Http)识别为敏感信息允许并加密保护敏感信息检查(Header+Body+(Header+Body+文件)执行工具调用时临时解密,用完不留存用户弹窗确认沙箱数据出口用户弹窗确认沙箱数据出口本地文件内容工具/脚本执行结果明确高危,涉及到的均不允许外发阻断+警告使用真实的APlkey来完成授权调用用户行为:“帮我总结这份报告内容.docx”场景B:指令Agent将文件发送至外部服务用户行为:Agent启动、恢复会话或执行会话压缩时,自动加件、历史记忆或工作目录中的memory用户行为:Agent启动、恢复会话或执行会话压缩时,自动加件、历史记忆或工作目录中的memory内容。用户行为:帮我把这份文件通过上传到XX系统为文本/Markdown,为文本/Markdown,并准备拼入后续模型上下文。Agent操作:将加载的memory/指令内容拼入systemAgent操作:将用户消息和图片作为会话内容直接发送给模型,不经过文件读取工具。Agent操作:生成上传类工具调用,例如curl、第三方或脚本,并携带文件路径、内容参数及目标地址。传统DLP传统DLP:难识别memory加载行为,以及相关内容即将拼入systemprompt的时机传统DLP:可识别文件读取动作,但难获取解析后致产生极多误报传统DLP:Agent生成的工具也极易被识别外敏感文件,导致产生大量误报,影响研判传统DLP:不经过文件读写或工具调用,难以识别用户直接发送给传统DLP:Agent生成的工具也极易被识别外敏感文件,导致产生大量误报,影响研判关键控制点:工具调用前关键控制点:记忆加载前关键控制点:工具调用前关键控制点:记忆加载前关键控制点:工具调用前iOA在关键控制点:工具调用前iOA在memory拼入systemprompt前识别敏感

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论