腾讯-腾讯专有云:Agent时代的私有化云底座_第1页
腾讯-腾讯专有云:Agent时代的私有化云底座_第2页
腾讯-腾讯专有云:Agent时代的私有化云底座_第3页
腾讯-腾讯专有云:Agent时代的私有化云底座_第4页
腾讯-腾讯专有云:Agent时代的私有化云底座_第5页
已阅读5页,还剩15页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

国产走深智能走实——政企转型进入加速期国产化已由“单点可用”到“规模好用”AgentAgent公有云能力公有云能力AZ1AZ2.公私统一:复用公有云成熟产品能力.软硬开放:私有化云基础软件每个客户独立管控模型推理/训练算力租赁/转售以开放兼容的AIInfra为基础,持续拓展企业级AIAgent应用AI产业“Five-LayerCake[1]”应用(Applications)应用(Applications)最懂私有化企业场景的龙虾应用私有化部署数据不出域私有化全链路管控云基础设施与服务软件平台云基础设施与服务软件平台客户训推平台知识库客户训推平台知识库客户容器平台效果智能排障客户容器平台效果智能排障GPU异构算力高性能网络GPU异构算力高性能网络IHN芯片(Chips芯片(Chips)能源(Energy)支持一云多芯(CPU/GPU等)支持一云多芯(CPU/GPU等)提供算存网一体的智算方案,有效解决算力“木桶效应”问题算力存在“算力存在“木桶效应”优势TCE智算方案优势TCE线性理论值网络、存储耗时线性理论值网络、存储耗时→算力损失集群算力#GPUsn算力m算存网一体算存网一体计分析效率提供按需资源分配和使用监控搭配自有芯片,构建国产GPU智算中心万卡规模,践行“东数西算”战略异构算力+异构算力+GPU供应链存在风险多家GPU机型快速适配国产GPU供应链存在风险多家GPU机型快速适配国产GPU厂商格局未稳芯片供应多元化生态加速形成对接尚航原有系统实现计量计费,提升资源运营效率,半年内两次扩容从云原生PaaS平台TCS演进到云原生AIInfra某头部股份制银行在多地机房,部署1000+节点,完成了在多地机房,部署1000+节点,完成了单模型接入、无状态、多元硬件纳管务器、容器集群、AI模型及应用进行平台化统构建总公司、省公司二级统一的微服务架构技术平台构建总公司、省公司二级统一的微服务架构技术平台•统一纳管主流模型服务与企业自建推理服务,帮助客户以统一标准完成接入、鉴权、路由和计AI大模型网关统稳定运行,助力能源领域分布式数字化转型速改造为MCP兼容工具,把存量系统能力,变成AI可调用能力。AI服务治理与观测从数据准备到模型上线全覆盖,训练推理双提速徐汇政务云政务大模型治理中枢TI-ONE徐汇政务云政务大模型治理中枢传统AI+大模型统一承载算力集约管理与高效调度行业领先的训/推加速能力从实验到生产全流程覆盖缺少一站式平台传统AI+大模型统一承载算力集约管理与高效调度行业领先的训/推加速能力从实验到生产全流程覆盖缺少一站式平台AI开发流程割裂,工具链繁杂,导致研发效率低下TI-ONE支撑89项高频政务事项的大模型训练与上线;覆盖对外服务(政务咨询/材料智审)与对内赋能(提案处理/公文生成)RAG配置效率提升80%+,复杂文档解析准确率提升30%+某头部证券金融大模型推理底座数据某头部证券金融大模型推理底座数据•故障自动隔离,任务断点续训•训练性能平均提升•故障自动隔离,任务断点续训•训练性能平均提升30%•统一服务调用,监控运营工具•推理加速比可达2倍AI落地效果不及预期训练性能不足、推理效率受限、模型效果难达业务要求基于TI-ONE+HCC构建AI大模型专属推理资源池;覆盖投研、交易、风控等多场景智能体训练推理服务亿级用户智能券商APP•云原生数据产品一键挂载训练数据•容器镜像服务无缝扩展云平台智能运维助手artart预置高频排障场景,接入即用预置高频排障场景,接入即用支持接入自有排障工具模型灵活适配,外部模型可对接知识持续沉淀,越用越智能排障人员:公有云产研/运维团队排障方式:直接登录环境私有云排障人员:客户运维私有云排障人员:客户运维/驻场团队排障方式:网络隔离,无法直接登录排障耗时从166分钟缩短至5分钟,极速排障智能精准极速排障智能精准知识沉淀库两轮对话自动定位根因,替代跨团两轮对话自动定位根因,替代跨团新品发布ClawPro专有云版,保障企业智能体数据安全与精细管控企业核心需求:在私有环境中部署企业核心需求:在私有环境中部署AIAgent,核心数据和模型资产完全自主掌控数据会不会出域?企业级私有化智能体平台查专属云部署,数据不出域全流程自动,分钟级领用术能力要求》通过评估的企业级智能体平台深圳市第二人民医院大湾区首个医疗"超级数据心脏"国产化智算从可选变为必选Agent运维复杂度指数级增长

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论