云云安全中心大模型安全态势管理

云安全中心-大模型安全态势管理0大模型蓬勃发展带来新的安全风险1大模型安全管理痛点国家网络安全通报中心多次通报大模型组件安全漏洞大模型安全管理痛点大模型使用泛滥引入新的风险安全管理痛点Ø

大模型热度持续上升Ø

大模型组件存在各式漏洞Ø

如何持续发现大模型相关资产？Ø

大模型能力在不断提升Ø

大模型应用场景愈加广泛Ø

大模型部署使用门槛不断降低Ø

云厂商帮助降低部署门槛Ø

大模型API服务发展迅速Ø

开源体系蓬勃发展Ø

组件配置不当触发未授权访问等风险Ø

风险被利用，可能导致主机失陷、模型被投毒、模型丢失、数据Ø

如何快速了解大模型资产的网络开放状态？Ø

如何及时检测大模型资产的安全风险？Ø

如何实时监控大模型资产面临的攻击态势？Ø

训练与推理使用敏感数据，可能引发数据泄露，面临法律风险。Ø

安全团队可能未及时针对大模型应用体系制定管理方案0

2腾

讯

云

云

安

全

中

心

解

决

方案大

模

型

安

全

态

势

管

理大模型安全态势管理——围绕“大模型”提供资产识别、风险检测、攻击监控等能力独立页面资

产

识

别资

产

识

别公

网

扫

描

器风

险

检

测攻

击

监

控风

险

检

测CVM组件资产识别大模型组件风险检测大模型网络攻击示警Ø

通过网络扫描&主机安全识别组件风险。Ø

展示组件漏洞与配置不当风险。Ø

通过网络探测&主机安全对大模型组件进行识别。Ø

页面展示组件及关联资产，展示风险和网络攻击数量。Ø

提供资产对公网暴露的路径及原生风险。Ø

大模型组件漏洞的攻击利用行为示警。大模型组件识别——解决“看见”的问题大模型组件及资产(80+)资产暴露路径l

网络扫描器从公网探测组件指纹。l

资产详情可查看大模型资产面向公网暴露的路径。l

网络产品关联l

主机安全agent从检查组件特征。l

关联资产信息、网络攻击数量、风险数量进行展示。l

资产列表、主机进程通晒l

资产原生风险展示：主机漏洞、高危基线风险l

可关联查看资产遭受的网络攻击、大模型相关风险。大模型组件风险检测——依托网络扫描及主机安全风险检测能力，提取大模型风险风

险

检

测主

机

端

检网

络

扫

描测漏

洞

检

测（

20

0

+

）基

线

检

查（

6）漏

洞

检

测（

20

0

+

）大模型组件漏洞攻击利用示警支持识别的组件与漏洞清单组件mlflow支持漏洞数463932212017119gradiolangchainclickhouseChuanhugptpyload-ngDify支持识别组件清单OllamaChatWikiChatGPTfyUI混元DocsGPTAgentGPTBotkitH2ORayHelpLookJupyterLabgradioAItianhuTensorBoardJan-AI毕昇大模型FlowisequivrLLMChainpineconeBentoMLSillyTavernfeastOllamaStable-open-webuianythingLLMtriton8deepseekQwenQdrantFastGPTagentaLMStudiofastchat-webuiDifygpt4freeDiffusion8Milvus星环科技MaxKBragflowPandoraNextMindsDBXinference

HuggingFaceFlowiseAIGemini8LobeChatvLLMAutoGPTChuanhugptjupyter-serverjupyterlabkubepi7Llama-TensorRT-ChatVectorDBqanythingKotaemonchainlitSun-PanelFactoryLLMLangChain5商汤-5LanceDBchatboxllmstudioLightLLMLangFlowAnythingLLM

商汤-SenseNebulaSenseNebulaSuperAGIvllmray5Streamlitnextchat

LLaMABoardKubeflowOpenLLMSpeechGPTMLflow轻舟平台大模型5AWS百度AI训练平台

PerplexityCentralDB-GPTInvokeAIOpenWebUIkubeflowh2ojupyter-server-proxyjupyter-noteb