数字化领航35期AI应用专刊-AI分水岭已至从“会说”的模型到“会干”的生产力以“人工智能+”驱动金融服务范式跃迁

[智洞察]AI分水岭已至从“会说”的模型，到“会干”的生产力以“人工智能+”驱动金融服务范式跃迁[

P29

]

模型技术下一站：

多模态融合、世界模型与具身智能

[

P58

]

企业全域智能体：

技术解构与工程化落地范式06大模型仿真技术研究与实践12

AI

Agent技术栈拆解：从“LLM大脑”到“自主规划与执行”20大模型应用的最后一公里：RAG与Fine-tuning的技术对比与企业级落地策略25大规模AI推理部署与高并发挑战：Prefill/Decode分离及Serving架构深度优化29模型技术下一站：多模态融合、世界模型与具身智能34计算熵与范式共生：AI基础软件栈的演进逻辑与异构融合路径40构建可落地（场景化）

MaaS平台的技术研究CONTENTES/目录01

智洞察01AI分水岭已至：从“会说”的模型，到“会干”的生产力03以“人工智能+”驱动金融服务范式跃迁前沿技术203

创新应用

45AI赋能“滨小治”，重构基层治理生态系统50AI智能体赋能行业智慧化转型：

电网项目落地实践与可复制经验55×奇瑞汽车：灵犀数字园区解决方案打造高品质制造供业园区网58供业全域智能：技术解构与工程化落地范式63RAG知识库技术与工程

践68从工具赋能到范式革命——“AI

for

Science”重塑科学发现新图景72智变2026：解码视频应用层AI化路径与未来场景重构76AI破局印包排产困局：工业互联网时代的排产调度技术革新81城轨数据分析智能体赋能关键业务智慧升级88深入基层减负创新：一站式AI赋能湖北某供电公司智能虚拟调度员实践92源启

·数字构建平台建设实践：打造高效一体化金融研发工具链96基于医学场景微调大模型的代谢性疾病出院智能开药实践99AI赋能校园网络：高校智能运维体系的探索与展望102技术赋能教育治理跃迁：教育智能

的工程

践与值重构105从效率提升到能力迭代：

品牌营销数字内容创作的AIGC探索与实践之路

洞

悉

前

沿

技

术

数字化领-航驱

动

行

业

转

型过去两年，

AI持续升温，几乎每隔一段时间，市场就会迎来一轮新的情绪高点。但若回头审视，也必须承认一个现实：

AI的热闹，并不等于它已经真正进入了组织和业务中。很多时候，它改变的是搜索与信息获取的方式，却尚未实质性改写社会的生产方式。真正的变化，出现在2025年下半年，如同一道分水岭，行业对AI的判断开始发生转变。关注点不再只是模型“厉不厉害”、跑分“高不高”，而是智能体究竟“管不管用”。大家不再只看它“能不能讲话”，而是看它“能不能干活”。过去那个停留在实验室里的“高材生”，开始被要求走进真实业务场景，成为能够交付结果的“数字员工”。至此AI才真正走进产业现场，

进入报销、面试、营销、投研等高频办公场景，也深入到招投标审核、人力管理、电力调度、采购合规等更复杂的业务流程。在这些场景中，AI的价值不再只是回答问题、提供建议，而是能够端到端地完成任务，把原本属于个人的通用能力，转化为组织可调用、可复用的专项能力。过去一年所做的大量工催，本质上也是在推动这样的迁移：

一方面将互联网领域成熟的AI能力嵌入企业与政府的生产业务之中，另一方面更着力于萃取提炼传统行业的核心能力，对其进行AI化升级与重构，让企业从“尝试”走向“深度使用”。真正的门槛，

不在模型，

而在行业经验今天，智能体调用浏览器、文件系统、搜索、截图、代码执行等工具，已经不再是难事。但在真实业务中，真正的难点在于：需要获取什么信息，如何处理这些信息，如何将它们串联成一套可执行的流程，以及如何把行业专家的判断注入其中。对产业客户而言，这恰恰是AI落地最关键、也最容易被低估的一道门槛。以招投标场景为例，围绕一项具体业务，往往涉及国家法律法规、地方政策制度、行业规章以及主管部门指导意见，仅政策汇编就可能有几十本。拥有这些文件，并不意味着能够执行业务。决定业务能否运行的，是对规则的理解、对流程的梳理、对边界条件的约束，以及能否把这些内容转化为智能体可以理解、可以执行的表达。也正是在这个意义上，

Skill这个概念变得重要起来。它意味着把能力和经验转化为机器可理解、可调用、可复用的“伪代码”。过去，大量行业能力都停留在专家脑中，缺乏系统化沉淀，而今天，AI第一次具备了承接这种能力的可能。在这个背景下，岛自身宣

为

端到端的AI应用落地赋能者。所做的，并非简单地把通用大模型付给客户，而是与行业专家、客户伙伴深度协同，共同完成AI分水岭已至：从“会说”的模型到“会干”的生产力

集团高级副总裁、解决方案部总裁贵智

洞

察

01编排。对不少行业场景来说，

Skill所承载的规则和流程，

价值密度甚至高于训练数据本身。训练数据可以脱敏、扩增，但专家写下来的规则、流程与判断，往往才是组织最核心的知识资产，也因此更需要被加密、被保护、被审计。与此同时，

随着智能体深入组织，攻击面和滥用风险也在同步放大。一方面通过权限控制、留痕害计和伏工接管来守住边界；另一方面，也在探索“AI监督AI”的机制，用不同Agent之间的博弈去发现问题、压低风险。智能体真正进入企业，并不只是能力问题，更是治理问题。从更长的周期看，业内正在形成一个越来越清晰的判断：基础设施一切为了Token，应用场景一切转化为Skill。所有技术设施，最终都要围绕Token效率重构。未来被重写的，也不只是某几个软件功能，而是整个软件交付逻辑。传统软件从需求、开发到上线的长链条会被大幅压缩，越来越多的交付，将变成业务专家和Skill工程师共同完成。AI真正进入产业，

要从核心业务开始从行业进程来看，AI落地并不是齐头并进的。除互联网行业自身应用外，政府以及部分央国企相对走得更快。政府本身具有产业先导作用，在业务智能化改造上动力更强。以某城市“数字公务员”为例，相关实践已经能够把拍照、识别、登录、回填、校验、修改等环节端到端串联起来。能源、电力、交通等行业也在快速推进，像城市电力调度、电网物联网卡AI自动化管理等场景，都表现出较强的落地冲动和现实需求。这也意味着，企业的智能化转型路径必须重新设计。人力、财务、法务等通用支撑平台，已经成为许多企业率先启动的“标配项”，但真正决定一家企业AI转型是否成功的，是能否切入核心业务，把AI嵌入那些最关键、最独特、最能体现组织能力的环节。从这个意义上说，AI走到今天，已经不再是一个“要不要上车”的问题，而是一个“如何进入组织、如何接管例务、如

重写软使与

低逻辑的问题。岁而言，AI时代最重要的两件事：

一是追求最优的Token效率，

二是与客户共创最好的行业Skill。前者决定基础设施的效率上限，后者决定AI能否真正进入产业深处。二者并举，方能让AI从“会说”走向“会干”，从技术渗透走向价值落地。还统筹模型选型、硬件环境部署、全流程安全管控等关键环节，把行业专家的实践经验萃取提炼，转化为模型可理解、可复用、可规范化复制的AI能力，真正实现AI在业务中的深度落地。一切为了Token，一切转化为Skill如果说行业经验影响着AI能否进入真实业务，那么工程体系则决定了它能否大规模、可持续地跑起来。今天看AI基础设施，视角已经与传统IT时代明显不同。过去服务器、网络、存储，往往是分开的。进入智能体时代，客户真正买回去的，不只是某一张卡、某一个模型，

而是一个稳定、高效、经过验证的Token生成器。在基础设施

面的目标，

是把不同的加速卡、不同的推理框架、不同的算力服务器和存储体系聚合起来，在国产生态上尽可能提升Token产出效率。从算力、数据到模型，构成一个面向产业落地的基础设施底座。但只提升硬件效率还不够。更难、也更关键的，是应用侧的Token效率。在OpenClaw这样的框架下，一句简单的“hello”，就可能引发巨量Token消耗。原因在于智能体自主规划、多轮反思、工具调用和长上下文带来的“上下文爆炸”。因此，进入智能体阶段以后，关键问题已经不是“模型能不能答对”，而是“完成一个任务究竟要消耗多少Token，能否用更少的Token把任务做完”，客户最终需要的是更高的任务完成效率。因此，

岛技术策略宣为

软硬使双向发力。向下，是计算底座、高速联接、超高速存储、算力调度、统一数据管理平台和训推使能平台，把算力、数据与模型串接起来；向上，

则是围绕OpenClaw做企业级改造，

把它从适用于个人用户的开源框架，改造成适用于企业部署的组织化平台。这种改造包括几个关键环节：在非联网环境下可完整安装部署，预装浏览器、截图、文件系统等高频能力；对客户共创的Skill做加密与防篡改；

支持组织管理、层次化部署以及对Skill和上下文的自动优化。对企业来说，

这些能力不是“加分项”，

而是从试点走向生产的必要条件。在安全与效率的平衡上，的一个经验是：

非必要业务抽象和场景化落地：由行业专家梳理业务规则与流程，不训练。在许多项目里，与其重新做高成本的大模型后训再由技术团队将其转化为规范体系、文档标准和可执行的行业技能练，并，

小模型强化、规则显式表达和skill02

洞

悉

前

沿

技

术

数字化领-航驱

动

行

业

转

型（1）

加快落地EP和PD分离方案提升MoE大模型推理效率针对大尺寸MoE大模型推理效率较低的行业痛点，

交通银行落地两个技术方案：

一是采用大规模专家并行推理方案(EP)，将MoE模型的不同专家模块精准部署到不同GPU设备，有效突破显存资源瓶颈；二是采用预填充和解码(PD)分离部署架构，并将两者分配到独立的GPU节点并行运行，从而消除推理各阶段的资源争用。基于上述技术方案，交通银行实现了DeepSeek等大模型推理效率的3倍提升，

驱动算力管理模式从粗放式向精细化、集约化转型，

为金融场景大规模应用筑牢技术底座。（2）

创新打造企业级知识平台夯实金融知识工程根基交通银行持续推进金融知识体系的系统化建设，

打造企业级知识平台，完善知识运营和全生命周期管理机制，贯穿知识采集、审核、加工、服务、保鲜等各个环节，形成一条标准化、自动化、智能化的知识加工流水线，累计沉淀百万级高质量问答对，有效提升知识加工效率；自研融合知识召回服务，支持知识向量、关键词及知识图谱等多种知识精准召回，

向量知识召回平均准确率超85%。与此同时，针对大模型对行内知识理解能力不足等问题，交通银行积极探索金融知识建模与图检索增强生成(GraphRAG)技术相结合的应用实践。交通银行深入贯彻落实党的二十大、二十届四中全会以及中央经济工作会议、中央金融工作会议精神，积极响应国家“人工智能+”行动战略部署，在银行业数智化转型的关键机遇期，勇担“金融国家队”使命，坚定不移走中国特色金融发展之路，以高水平科技自立自强支撑高质量发展，依托生成式人工智能技术，系统性重塑知识的生产与应用逻辑，加速推进金融服务模式的智能化升级迭代。交通银行持续推进“1+1+N”人工智能建设框架，

全面夯实AI能力平台基座，完善AI治理体系，建设AI应用场景，通过持续创新金融服务范式，实现人工智能从单点赋能向全流程融合跃迁，打造适应新质生产力发展的智慧金融新标杆。在服务国家战略、赋能实体经济的过程中，交通银行不断强化金融“主力军”和“压舱石”作用，为新时代金融高质量发展注入强劲动能。1

技术筑底：构建安全稳健的智能基础底座面对大模型参数规模的指数级增长以及应用场景日益复杂化的需求，交通银行以系统性战略思维积极推进“人工智能+”行动方案的实施，

通过建强统一训推平台、打造企业级知识平台、完善统一智能体平台、夯实多模态能力体系，筑牢安全稳健的智能基础底座，为金融场景的高效落地提供支撑。以“人工智能+”驱动金融服务范式跃迁

交通银行软件开发中心总经理宋占军智

洞

察

03（1）

零售普惠：智能营销助手构建精准营销闭环在零售普惠领域，

交通银行落地理财产品智能推荐、财富规划书智能生成、客户经理智能陪练等应用。理财产品智能推荐应用基于客户行为特征、资金流水等数据，实现稳健理财、基金和存款等产品精准推荐，提升营销转化率；财富规划书智能生成应用依托客户持仓数据、风险测评信息等，实现资产配置方案书自动生成，为客户制定个性化财富产品配置方案，助力客户经理实现精准营销；客户经理智能陪练应用结合客户画像数据为客户经理提供营销话术训练服务，

以AI带教替代传统人工带教，

帮助新进客户经理快速成长，

减少人工带教时间。（2）

营运客服：金服端到端智能助手实现多岗位AI替代在营运客服领域，

交通银行打造金服座席端到端全流程AI助手，

涵盖催收机器人、核实机器人、录入机器人、质检机器人等拳头产品，

实现金服中心多岗位AI替代。催收机器人融合运用大小模型技术，有效提升回收率，减轻人工座席工作量；核实机器人通过智能语音和自然语言处理(NLP)技术实现智能外呼，替代人工外呼核实；录入机器人通过光学字符识别(OCR)技术，自动录入业务中的各类凭证，以替代人工录入，在金服中心录入清分场景中实现65%的AI替代率；

质检机器人通过语音识别、动作检测、人脸识别等技术，实现理财双录、智慧安防等场景自动质检，

有效提升业务合规性，

通过AI技术实现柜面授权流程再造，

人工授权业务量同比压降60%以上。（3）

风险授信：智能风控体系筑牢安全防线在风险授信领域，交通银行打造对公信贷全流程AI助手、反电诈AI助手、审计数字员工等应用，

覆盖一

、二、三道风险防线体系，实现对风险的早识别、早预警、早暴露、早处置，

提升风险管理能力。对公信贷全流程AI助手通过对授信审批条件进行智能解析，自动联动放款审查和贷后监控环节，有效实现信贷全流程的风控管理能力和办理效率的双重提升，

贸易背景场景审查效率提升50%；

反电诈AI助手结合用户交易行为分析、异常模式识别与实时预警机制，实现可疑交易智能识别与实时拦截，有效压降反电诈核实任务量；审计数字员工基于智能体与知识工程实现多环节任务自主调度与协同，

审计效率提升30%。（3）

持续构建多模态能力打造全自然交互应用新范式交通银行积极布局前沿技术，

持续拓展多模态能力，在视觉多模态能力、方言语音识别(ASR)、数字人等方面取得突破。在视觉多模态能力方面，综合运用模型蒸馏、强化学习等技术，打造数十个多模态领域大模型，有效提升模型在实际复杂图像场景下的理解能力，为智慧安防、云上交行等视频AI应用场景提供支撑。在方言ASR方面，针对闽南语、粤语识别精度低的痛点，在自建的金融数据集下进行微调训练，提升模型的方言识别效果。在数字人方面，基于开源数字分身与语音克隆模型，通过单张人像图片和短音频输入，生成口型同步、表情自然、动作连贯且语义一致的2D数字分身，

支持个性化语音与形象的融合。在文生图方面，针对文字和品牌标识理解偏差的痛点，基于开源模型进行微调，大幅提升语义遵循能力与推理稳定性。（4）

完善企业级智能体平台加快AI应用的规模化落地交通银行构建了自主可控的企业级智能体平台，

通过丰富的智能工具和系统接口，提供“零代码”与“低代码”两种智能体创建模式，助力全行用户快速构建专属智能体助手，

大大降低了AI使用门槛。该平台基于模型上下文协议(MCP)搭建统一接口开发框架，

可高效支持行内各类系统的快速接入，支持企业级、团队级与个人级等多层次知识库，集成文档处理、图像识别、语音识别等数十种智能工具，面向对公信贷、零售普惠、营运客服、风险授信、智慧办公、智能研发等领域打造各类智能体助手，显著提升全行员工的工作效率，

初步形成智能体应用生态。2

应用领航：聚焦高价值场景的精准赋能交通银行聚焦对公信贷、零售普惠、营运客服、风险授信、智慧办公、智能研发等重点领域，落地260余个AI应用场景，连续两年完成降千人力目标。面向重点领域由点及面构建端到端全流程AI助手，

率先探索银行人机协同新模式。通过规模化AI应用场景建设，

交通银行形成“智能报告报表生成、智能嵌入式知识问答、智能研发”等场景建设范式，推动AI应用逐步从“降人力”向“创价值”方向升级，从赋能中后台管理向支撑一线业务营销方向转变。04

洞

悉

前

沿

技

术

数字化领-航

HI3C驱

动

行

业

转

型跟岗和产品推广工作，精准洞察一线诉求，及时解决一线痛点问题，从业技融合向业技共创转变。在安全管理方面，构建全流程、闭环式的AI应用安全治理体系。建立模型风险管理机制，覆盖模型全生命周期，

强化模型准入、评估、监控与迭代管理，

防范算法偏见、数据泄露等风险；

制定开源模型引入标准，

明确准入门槛、合规审查、安全评估与版本管控要求，

规范开源模型的选型、改造与复用；

完善内容审核机制，

实现多个人工智能生成内容(AIGC)业务场景的内容安全审核；建立AI场景安全运营机制，

通过常态化安全巡检、动态风险监测与应急响应联动等手段，

确保AI应用实现安全、可靠、合规、稳定运行，

为金融智能化转型筑牢安全防线。在人才培养方面，形成软件开发中心八个基地共建的AI应用场景生态，组建AI基础平台、开源模型研究、AI产品经理、AI场景实施四支专项团队。其中，

开源模型研究团队紧跟人工智能前沿技术动态，

聚焦技术探索和研究攻关，

高效推动前沿技术向应用场景转化与落地；

AI产品经理团队强化市场调研和同业竞品分析，

深入业务一线与业务部门开展协同共创，着力打通用户体验的“最后一公里”。此外，

交通银行软件开发中心还搭建了分层分类的AI人才培训机制，

通过工程师上前线、联学联建、远程视频、微视频等线上线下相结合的培训模式，

推动全员AI素养整体提升。展望未来，交通银行将坚定不移推动人工智能场景应用，聚焦对公信贷、零售普惠、营运客服、风险授信、智慧办公、智能研发等重点领域标杆场景，

提升业务价值贡献度，形成可复制可输出的能力，推动人工智能应用从“AI辅助”向“AI代理”模式跃迁，为高质量发展保驾护航。乘风破浪潮头立，

扬帆起航正当时。2026年是“十五五”规划的谋篇布局之年，

交通银行将始终坚持以习近平新时代中国特色社会主义思想为指导，深入贯彻落实党中央关于服务实体经济、推动经济高质量发展的重大战略部署，

牢牢把握金融工作的政治性和人民性，以“人工智能+”为核心驱动力，加快数字化转型步伐，

以更高站位、更实举措、更强担当，奋力书写数字金融大文章，在“十五五”征程中勇当先锋，为中国式现代化建设贡献交行力量。

本文转载自《中国金融电脑》（4）

智慧办公：交心系列产品赋能办公效率提升在智慧办公领域，

交通银行着力提升员工办公效率与体验，打造交心ChatBI助手、交心AI问答等智能办公产品，全方位支撑数据获取、信息查询与决策支持。交心ChatBI助手支持用户通过自然语言方式快速获取数据并生成可视化图表，

提升基层查数找数用数效率；

交心AI问答为全行员工提供精准高效的智能问答服务，知识范围覆盖规章制度、管理办法、产品手册、分行特色知识等，支持文字、语音、文档、图片、视频等全模态交互方式，有效提高员工办公效率。（5）

智能研发：“需求—开发—测试—运维”AI全链路赋能在智能研发领域，

交通银行构建了BoCom智能研发矩阵，将大模型融入“需求—开发—测试—运维”软件工程各个阶段，全面提升研发质效。在需求阶段，建设结构化需求生成助手，辅助业务人员撰写高质量结构化需求，从源头上提升业务需求的质量；打造功能点辅助生成助手，帮助技术人员更快速、准确地分析业务需求。在开发阶段，推出智能化开发助手BoComCode，为全行开发人员提供编程智能体、代码审查、自定义编程助手、单测生成等一站式服务，

单测代码出码率超40%，有效提升了代码

质

量

与

编

码

效

率。在

测

试

阶

段

，

持

续打

造

测

试

助

手BoComTest，为测试人员提供大纲生成、案例生成、案例评审等功能，提升测试工作的效率与质量。在运维阶段，建设变更管理智能分析、批量报告智能分析和工单智能分析等助手，

降低运维成本。3机制护航：打造AI战略落地的全方位支撑体系为筑牢“人工智能+”战略落地根基，交通银行构建了全方位保障机制，以敏捷方式推进需求共创，促进技术与业务深度融合、指标共担、业绩共享、同频共振。在场景研发和推广机制方面，构建总分行AI应用联合开发机制，依托总行AI基础平台支持分行特色开发，快速满足分行个性化需求。制定AI应用开发规范和标准、AI需求评审机制、算力资源分配机制、模型评测标准、场景成效跟踪评估机制等，提升AI应用场景交付质量；

完善实验室创新孵化机制，通过AI实验室开展总分行创新课题研究和攻关，

实现创新成果快速转化、投产和推广；

开展常态化分行基层调研智

洞

察

05大模型仿真技术研究与实践

集团先

技

研究部

袁摘要随着大模型参数规模和集群规模的不断攀升，

训练与推理系统的设计空间急剧扩大，传统依赖大规模实机试错的方式在成本、周期与风险方面均已难以为继。本文系统梳理面向大模型训练与推理的仿真技术发展现状，

从仿真器设计挑战出发，

归纳工作负载生成、计算建模、通信建模、访存建模以及调度与执行引擎等关键技术路径。在此基础上，

结合超节点场景的仿真实践案例，

验证了仿真技术在架构预评估和设计空间探索中的工程价值。最后展望仿真技术的未来发展趋势，

为进一步探索提供参考。关键词AI仿真；

分布式训练；

推理性能评估；

并行策略前

沿

技

术06

引言近五年间，大模型参数规模从数十亿迈向数万亿，训练和推理系统的设计复杂度随之急剧攀升。一方面，单卡加速器已无法容纳完整模型，必须依赖数百甚至上万卡的分布式集群；另一方面，数据并行（Data

Parallel，DP）、张量并行（Tensor

Parallel，TP）、流水线并行（Pipeline

Paral-lel，

PP）

、专家并行（Expert

Parallel，

EP）

等多种并行策略，与网络拓扑、内存层次结构、调度算法和调优策略高度耦合，使系统设计空间呈爆炸式增长。在这种背景下，单纯依靠真实集群反复试错的方式面临成本高、周期长、风险大等问题。AI仿真工具的出现有效解决了这些痛点。AI仿真工具通过将复杂软硬件协同系统“搬入”可控仿真环境，在无需庞大硬件的前提下精准模拟大规模训练与推理过程，预测计算、通信、访存等性能，量化不同硬件配置、并行策略、网络协议和调度方法的差异，进行快速评估，从而降低成本和时间、提供高保真性能预测、支撑架构与硬件选型，促进协同与风控，并使大模型研发和系统调优从高成本、低灵活度的试错模式跃迁至可快速迭代、低风险的精准设计阶段。1大模型仿真技术1.1仿真器设计挑战要实现面向大规模训练/推理的高保真仿真器，

并非简单叠加“计算+通信模型”，

而是一项跨多维度的系统工程，

面临多重挑战。（1）

复杂并行策略增加建模难度DP/TP/PP/EP等混合并行在计算划分、通信模式、调度依赖上差异巨大，同一任务中不同节点角色各异，需将“策略描述”与“执行轨迹”解耦，

才能还原系统行为。（2）

网络与内存难以简单参数化大规模集群中存在拓扑异质、链路争用和多级路由，简单α+βn

或固定带宽/平均延迟会低估拥塞与冲突。CXL、大内存池等也打破“本地显存+远程内存”二元模型，

无法用单一带宽/延迟评估卸载、分页、预取策略。（3）

仿真精度与速度需要权衡事件驱动等高保真方法可细致到算子/包级，

但比解析模型慢几个数量级，不利于大规模搜索；解析模型虽快但过度简化，难提供可靠细节，需按“早期选型vs后期精评”折中。（4）

推理负载动态特征更加复杂在线推理对TTFT/TBT极其敏感，请求模式、上下文长度、批策略变化会显著影响负载；Prefill/Decode解耦、MoE路由、PagedAttention、KV分页/前缀缓存等将算力、通信、内存高度耦合，

增加预测难度。因此，

仿真器必须综合并行策略、网络拓扑、内存体系、仿真方法、负载模式和硬件多样性等因素，不只是性能预测工具，更是对AI系统架构建模与抽象能力的整体考验。1.2

业界研究进展目前面向大模型训练与推理的仿真工具仍处于快速演化、百家争鸣的阶段，学术界和工业界提出了大量研究工作（见表1、表2）

。从仿真方法上看，

大致可以分为三类：

第一类是基于公式和经验参数的解析型仿真器，如Calculon等，通过解析建模快速估算计算和通信开销，适合早期的设计空间探索和成本/吞吐粗评；

第二类是基于剖析的仿真器，

依托Megatron-LM、DeepSpeed、PyTorch等框架在真实硬

件

上

采

集

trace

，

再

在

仿

真

器

中

重

放

，

如

v

T

ra

i

n、LLMEmu等，在精度和速度之间取得折中；第三类是执行驱动型仿真器，例如SimAI、Echo等，直接拦截或改写真实框架的计算与通信调用，将其重定向到仿真后端，能够提供端到端高保真仿真，

但实现和运行开销相对更高。前

沿

技

术

07研究名称发布时间研究单位特点Astra-sim20.08佐治亚理工学院、Meta、Intel固定并行策略，单一同构网络与简单本地内存建模，事件/周期级仿真。Astra-sim2.023.03佐治亚理工学院、Meta、Intel抽象端到端仿真，支持任意并行与多维异构网络，分离式内存建模，分析+事件混

合加速。Calculon23.03NVIDIA、佐治亚理工学院毫秒级参数化分析模型，支持TP/PP/DP与内存卸载，捕捉效率悬崖与策略交互，

适合大规模成本敏感搜索。Arcadia23.09Meta企业级跨层统一仿真，计算-内存-网络全建模，粒度可调，生产环境工作负载驱

动，运维决策支持。vTrain23.12韩国KAIST性能分析驱动3D并行全空间搜索，必要算子分析+多核并行，单/多节点误差

<8.37%/14.73%，搜索数千配置仅需分钟。SimAI24.01阿里云、清华、中关村实验室、

华南理工高保真工程仿真，劫持真实框架与NCCL，

内核级计算+数据包级通信，

千GPU可用，多线程无锁优化,ns-3模拟，误差<4%。Multiverse24.12清华大学、中关村实验室GPU加速批量仿真，SPME+DOD架构，高保真机内通信模型，端到端误差

<3%，设计空间搜索数十倍提速。Echo24.12香港中文大学、香港恒生大学、HKUST、微软、香港大学框架耦合高保真，单机顺序rank提取执行图，白盒集合通信+黑盒干扰预测，3D

并行精度高速度快，误差7-13%。HeterSim25.01浪潮灵活配置节点性能与网络连接，基于图描述工作负载，支持通信策略修改并低成

本验证优化设计，支持NVIDIA和寒武纪GPU。MLDSE25.03清华、香港科技大学通用多层硬件建模+任务级事件驱动，

支持异构/递归架构，

映射与同步统一，

架

构-

参数-

策略全覆盖。GENIE25.04佐治亚理工学院、哈佛大学、惠普用CPU模拟GPU流量，真实网络硬件发包，结合ASTRA-sim计算仿真，

网络

侧高保真验证。Sailor25.04苏黎世联邦理工学院、麻省理工

学院等面向异构、地理分布和动态资源集群，结合高效搜索、精确运行时与内存仿真，

自动化优化分布式训练的吞吐量与成本。Phantora25.05杜克大学、Meta、加州大学伯克

利分校混合执行事件驱动，直接跑真实框架，拦截计算通信调用，

ns-3流级网络模拟+

时间回滚，维护成本低。TrioSim25.06斯坦福等单GPU轨迹外推多GPU，

支持DP/TP/PP，轻量网络仿真，多数误差<10%，

秒

级模拟，高灵活性。IIIT-Delhisim25.08印度信息技术学院、印度海得拉

巴理工学院、Marvell异构感知全栈仿真，支持混合GPU+非均匀并行映射，参数自动重分片，异构通

信/网络延迟建模。LLMEmu25.11国防科技大学结合真实内核分析与通信延迟测量，算子级重建计算负载，嵌入通信锚点驱动多

算法原语执行，支持混合并行与任意拓扑，高保真模拟大规模LLM训练并保持可

扩展性与低预测误差。研究名称发布时间研究单位特点Vidur24.05微软统一模型规范、算子级分类建模、随机森林插值预测、分层事件调度，支持多调度策略与并行模式，端到端延迟误差<9%，动态负载下<5%，配套基准套件与低成本配

置搜索套件。LLMServingSim24.08韩国KAIST周期级硬件模拟结合迭代级调度，高精度支持NPU/PIM等异构加速器，模型冗余

复用+结果缓存重用加速，功能覆盖较少且新硬件集成成本高。APEX24.11加州大学、伯克利分校、微软自动生成多维并行执行计划，迭代批处理建模，延迟+能耗双目标优化，分钟级搜

索最优配置。TokenSim25.03北航、北大、人大、阿里、商汤SimPy事件驱动框架，模块化全局/本地调度+细粒度内存，连续批/缓存策略，延

迟分布误差<0.4%。BestServe25.06香港大学、华为云等改进Roofline+排队模型，快速评估共置/解耦架构Goodput，显式建模调度延迟，

分钟级找出最优策略。ReaLLM25.07华盛顿大学芯片级内核性能仿真结合系统模拟，全并行模式支持，插值加速，端到端延迟误

差约9.1%。Frontier25.08香港中文大学、StepFun阶段中心事件抽象，原生PD/AF解耦+MoE，

ML模型算子延迟精确建模，支持

复杂跨集群协调。aiconfigurator25.08NVIDIA采集基本算子的性能数据，使用插值和外推方式估算算子执行时间，进而得到端

到端执行时间。在稠密和MoE架构上具有较高的预测准确性（TPOT的MAPE为

6-12%）InferSim25.09阿里巴巴轻量级的LLM推理性能仿真器，

白盒解析方式建模，吞吐量仿真与DeepSeek-V3

的性能数据相差15%，

且Qwen3-30B-A3B和Qwen3-8B在SGLang上的仿真误

差在4%-8%LLMServingSim2.025.11韩国KAIST轨迹驱动系统仿真，支持异构硬件、多实例、P/D分离、MoE、前缀缓存，分钟

级高精度仿真，误差≤5%。EONSim25.11韩国高丽大学侧重于NPU芯片级的推理仿真，也支持各种片上内存管理策略。基于谷歌TPUv6

验证，

EONSim的平均推理时间误差为

1.4%，平均片上内存访问次数误差为2.2%表1训练仿真研究工作表2推理仿真研究工作08数字化领-航

洞

悉

前

沿

技

术

驱

动

行

业

转

型1.3仿真关键技术各项仿真器研究在工作负载生成、计算与通信建模等环节都呈现出显著的技术多样性。这些环节构成了AI仿真器的核心技术框架，既可以作为独立模块按需优化，也可以整合实现为全栈的高保真平台。如图1所示，我们将仿真器涉及的技术，抽象为五个关键环节：工作负载生成、计算建模、通信建模、访存建模、调度/执行引擎等，

下文将针对每个关键环节的实现技术展开描述。（1）

工作负载生成在大模型仿真中，

工作负载生成决定仿真精度与适用范围，

其目标是在目标软硬件尚不可用时，

尽量还原训练/推理的执行轨迹。常用方法包括：◆

框

架

劫

持

/

深

度

耦

合

：

拦

截

Py

Torc

h、Deep

-Speed、Megatron-LM等的算子与通信调用，

生成带时间戳和依赖的轨迹，保留算子依赖、内核融合与通信调度等细节，

但对硬件环境依赖强（如Echo、LLMEmu）

；◆单GPU轨迹外推：

在单卡采集计算

profile，

再结合并行策略推断多卡行为（如SimAI、TrioSim），采集成本低，

但对通信和重叠的外推模型要求高；◆基于模型规格合成执行图：按模型层数、维度和并行划分生成抽象计算/通信DAG（如ASTRA-sim、Calcu-

lon）

，速度快、便于参数化探索，

但难体现运行时优化，误差较大；◆推理请求日志驱动：利用真实服务日志重现请求到达、上下文长度与混合负载特征（如TokenSim、Vidur、APEX）

，适合精确分析延迟分布和调度策略的效果。（2）

计算建模计算建模用于刻画算子/内核执行，

其精度直接决定仿真可靠性，

大致有三类方法：1）

白盒解析模型由算子FLOPs与硬件峰值性能估算延迟，可加入简化内存带宽和Cache行为。优点是速度快、可解释、易用于在线调优；缺点是过于理想化，难以刻画复杂调度、编译优化和异构硬件。2）

剖析与统计模型在真实硬件上测算子/内核性能，

构建插值或机器学习模型（如GBDT、随机森林），预测不同配置和输入下的时延，能隐式捕获调度、Cache、算子融合/分块等影响，代表工作有SimAI、Echo、Vidur及基于Torch.fxprofile

的仿真器。3）

内核级/微架构仿真如ReaLLM，细致模拟每个内核算子的执行与映射，更接近真实硬件，但开销较大，不适合大规模系统仿真，更偏向微架构优化和细粒度分析。总体上需在精度与速度间权衡：

精细模型更逼真但适用范围小，快速模型适合大规模设计探索，但需验证其在不同输入分布下的可靠性。配置输入模型配置·

模型层数·

隐层宽度并行策略TPPPEP系统配置·

GPU·

NIC工作负载生成生成仿真输入的任务描述（算子序列、事件依赖、数据量等）计算与通信利用率

端到端训练时间细分推理指标：·

TTFT/TBT·

吞吐量·

P95/P99延迟分布

·

QoS达成率·

耗能·

FLOPs利用率

·

内存利用率●通信建模评估通信事件的时延，考虑拓扑、带宽、协议、计算/通信重叠等因素计算建模评估计算事件的执行时

间和资源占用调度与执行引擎综合所有时延与资源信息，按任务依赖推进时间线，模拟事件执行。访存建模评估内存访问延迟、带宽占用和容量限制对事件执行的影响指标输出训练指标：图1AI仿真器技术框架

09前

沿

技

术每次迭代耗时存优化。整体趋势是从将内存影响折叠进计算延迟，演进为显式区分不同内存层次和访问路径，并与缓存、卸载策略联动建模。（5）

调度与执行引擎调度与执行引擎负责将前述计算、通信、访存模型转化为系统级性能预测，是仿真平台的核心。常用方法包括以下三种。◆

事件驱动执行：通过离散事件队列推进计算和通信，

如SimAI、Echo、TokenSim、ReaLLM，便于插入延迟和依赖，

适合复杂多阶段任务。◆并行加速：

利用GPU

Megakernel、多线程无锁等手段（如Multiverse、SimAI）

缩短大规模设计空间探索时间。◆混合执行：在真实框架上运行，只在关键调用处切换为仿真（如Phantora、LLMEmu），兼顾高保真和软件栈兼容性。策略上，

训练需支持多维混合并行映射、流水线调度和计算通信重叠；

推理则侧重静态/连续批、多实例共置、Prefill/Decode解耦、MoE专家路由以及缓存与优先级调度等负载模式。1.4未来发展趋势随着智算系统迈向大规模、多样化与绿色化，

对AI仿真工具的需求持续增强，

其演进主要体现在三方面：趋势一：

训练-推理统一化仿真未来平台将在同一执行引擎中同时加载训练迭代轨迹与推理请求流，以统一的工作负载描述同时刻画训练场景的稳定计算模式和推理场景的动态延迟特征，支持混合集群统一调度与端到端资源评估，为训练与推理混合部署提供性能、功耗与成本分析，

优化数据中心整体配置。趋势二：

融合自动并行搜索策略仿真工具将结合自动并行策略搜索、批处理调度和QoS约束，通过“策略生成+仿真验证”的闭环自动探索高性能、低能耗的非直观组合，缩短设计周期：训练侧用于发现最优并行配置，推理侧用于动态调优批策略，平衡延迟与能耗。（3）

通信建模通信建模是分布式大模型仿真中评估网络延迟与带宽利用的关键，

尤其在高并行度下。主流方法包括：1）消息级解析模型用α

-β

模型近似传输时间，

速度快、适合早期方案筛选，

但难体现协议优化和拓扑差异。2）

拓扑感知模型结合通信算法（Ring/Tree等）

与多维拓扑方程（如ASTRA-Sim），在较高速度下区分Ring、FatTree等结构性能。3）

事件驱动/包级仿真通

过包级离散事

件

精

细

建

模

传

输

、

路由

与

拥

塞（SimAI、Multiverse），

Echo则基于NCCL分块流水线刻画连接建立、传输与归约阶段，

高保真但开销更大。在真实训练与推理中，计算与通信往往重叠且瓶颈链路动态变化，关键在于刻画时序与资源的争用。常见做法有：◆黑盒降速预测：用实测数据训练模型预测通信对计算的降速，

如Echo。◆

时间回滚：

事件驱动中若计算/通信交错与预期不符，

则回退时间线修正重叠，

如Phantora。◆解析重叠估算：基于峰值性能和计算强度推算理论重叠比例，

速度快但难反映运行时资源争用与调度细节。（4）

访存建模访存建模用于刻画不同存储层次和访问模式对训练与推理性能的影响，也是评估大模型系统瓶颈的关键。训练侧主要关注参数、激活、梯度和优化器状态的存储与卸载，ASTRA-Sim2.0、Calculon等通过区分本地/远程路径，对带宽与延迟参数化建模，用于评估分离式内存、内存池和卸载策略。推理侧访存模式更复杂，重点在缓存与卸载：

LLMServingSim建模KV缓存分页、驱逐与回载延迟，

LLMServingSim2.0增加前缀缓存命中与加载，

以反映多轮对话首Token延迟变化；

TokenSim支持块级与Token

级内存利用率和传输延迟分析，

用于评估批处理内10

洞

悉

前

沿

技

术

数字化领-航驱

动

行

业

转

型~1024卡”下不同EP的相对吞吐，

结果如下。◆

EP=64：64卡超节点较单机8卡提升20.6%，256卡提升62.6%。◆

EP=128：128卡超节点提升14.3%，

256卡提升69.1%。◆

EP=256：

256卡超节点提升71

.6%。2.3

仿真价值通过仿真，

我们可在超节点设计早期快速评估不同模型类型与规模、并行策略组合（单模型遍历<1小时），探索不同超节点规模下的性能-成本拐点，

并为互联带宽、拓扑、机框规模等参数提供量化依据。同时可对超节点场景下MoE推理进行仿真，评估不同专家路由与批策略下的TTFT/TBT指标。实践表明，基于仿真评估可显著减少真实原型的试错次数和规模，为智算系统迭代提供可靠决策支撑。3

总结和展望大模型仿真已成为连接模型算法、系统软件和硬件架构的关键“中介层”，在资源受限下支持更大规模、更高维度的设计空间探索，

显著降低试错成本和决策风险。未来，

AI仿真器的作用愈加重要，

将成为常规基础设施：既是架构师的早期“虚拟实验室”，也是运维与调度优化的“离线沙盒”，并通过与真实系统的闭环校准，长期支撑大规模AI系统在性能、成本与可持续性之间取得更优平衡。趋势三：

性能/功耗/成本多目标优化平台将把性能、功耗、成本乃至碳排放纳入统一决策框架

，

在模型中显式引入设备功耗曲线、

能效指标、CapEx/OpEx（硬件、电价、PUE等）及隐含碳排放，既评估训练/推理配置的性能，

又估算能耗预算、单位性能成本和碳足迹，支撑数据中心与算力集群在性能、经济性与绿色目标之间做系统级权衡。2

仿真实践案例2.1

案例背景随着大模型在参数规模、数据量和推理复杂度上持续攀升，智算基础设施面临算力密度与通信效率双重挑战，集成超高带宽互联、统一内存和灵活拓扑的超节点逐渐成为新一代算力平台核心形态。但在超节点研发早期，

物理硬件尚未就绪，

直接在大规模集群上验证性能与优化策略周期长、成本高。此时可借助大模型仿真，在硬件定型前对不同超节点规模、网络拓扑和并行组合进行量化评估，

为架构决策提供支撑。2.2

仿真实验我们构建了支持某国产加速卡超节点的AI仿真器，

并对Llama、DeepSeek、Qwen等典型大模型开展大规模训练评估。在1024卡集群规模下，

对DeepSeekV3-671B采用TP=2、PP=2固定配置，

比较“单机8卡”与“超节点32DeepSeekV3671B3.00

2.50

2.001.501.000.50

8

32

64

128

256

512

1024

EP64

EP128

EP256图2

DeepseekV3-671B在不同超节点规格下的吞吐仿真

11前

沿

技

术AI

Agent技术栈拆解：从“LLM大脑”到“自主规划与执行”

集团解决方案部

龙飞摘要本文以“感知-规划-行动”闭环为主线，

系统拆解通用AI

Agent的技术

栈：从LLM作为“大脑”的推理与决策，到ReAct等规划框架的任务分解，

再到工具调用与记忆管理如何支撑复杂任务的自主执行。文章结合Agent的技术栈拆

解，

对Agent生产落地给出选型和策略建议，

并对未来技术突破与商业化场景进

行展望。关键词AI

Agent；

智能体；

ReAct；CoT；

Workflow；工具调用12

洞

悉

前

沿

技

术

数字化领-航

HI3C驱

动

行

业

转

型引言AI

Agent的出现，

标志着AI应用从简单的问答对话、基于提示词的角色扮演，向具备自主记忆、推理、规划和执行能力的全自动系统迈进。它们不再仅仅是工具，而是能够独立感知环境、制定目标、执行任务并从经验中学习的“数字生命”。本文旨在为读者提供一个全面的技术栈拆解，揭示AI

Agent如何从一个拥有“LLM大脑”的聊天机器人，进化为能够自主规划并执行复杂任务的智能系统。1

为什么需要智能体随着大语言模型（LLM）能力的日益精进，AI应用正加速渗透现实世界的生产与生活。在此背景下，传统的简单问答式AI或僵化的基于规则的AI范式已难以满足复杂需求。为了充分释放大模型的潜力，需要一种更接近“人类”行为模式的AI应用架构——即“智能体（Agent）”。智能体的出现，标志着AI应用从“被动思考问题”向“主动完成任务”的关键性跃迁。智

能

体

是

实

现

通

用

人

工

智

能（AGI

）愿

景

的

关

键

一步，

旨在弥合AI能力与现实世界复杂任务之间的差距。2

智能体的定义那么什么是智能体呢？要透彻理解智能体，首先需要明确其科学定义与核心内涵。1）学术界：

四性框架1995年由Wooldridge

&

Jennings

提出，

被写入多本AI经典教材（如Russell&Norvig《人工智能：

一种现代方法》）

的Agent定义，

包含四条最低共识：◆

自主性（Autonomy）

：无需人工持续干预即可运行◆反应性（Reactivity）

：能感知环境并及时响应变化◆主动性（Pro-activeness）

：

能根据目标主动发起行动，

而非仅被动响应◆社会性（Social

Ability）

：可与其他

Agent

或人类进行交互、协作2）

工业界：

LLM

时代的“闭环”视角2023年后，

随着大模型落地，

头部厂商从实用角度定义智能体，普遍把“感知-规划-行动-反思”的闭环能力视为Agent

的核心：◆

OpenAI将自家Assistants/GPTs定位为“可调用函数、插件，

自主完成多步任务”的Agent◆

Google、Microsoft、AWS等推出的企业级Agent平台，

也都强调“规划-执行-观测”循环综合学术与产业界的共识，可将智能体的现代定义归纳为：

智能体（Agent）

是一种能够感知环境、自主决策LLM对话提示词用户问题AI对话场景增强生成答案提示词+问题+知识知识问答场景Workflow用户输入答案常用组件流程控制数据&工具Agent用户输入答案外部能力

知识库（RAG）

数据库（toSQL）插件（plugin） 工作流（workflow）Agent意图识别流转控制

知识库检索LLM自己想办法“帮你做出来”图1AI应用范式的变迁按预置流程“帮你做”LLM

13告诉你“怎么做”前

沿

技

术

http

流程中断布局控制定制输出智能问数流程嵌套SQL执行

共享存储参数提取

变量设置推理服务

分支参数配置

工具知识库并行流程嵌套组件调用插件迭代结果处理任务规划调度执行总结输出用户问题答案技术实现如下。◆

自然语言处理（NLP）：理解用户的文本指令和对话意图。◆计算机视觉（CV）：

识别和分析图像、视频中的内容。◆语音识别（ASR）：

将语音转换为可处理的文本信息。◆传感器数据处理：

处理来自IoT设备的结构化数据。3.2规划模块（Planning）：

Agent的“大脑”功能：规划模块是智能体实现自主性的核心。该模块负责将复杂任务分解为可管理的子任务，并根据上下文决定下一步行动。技术实现如下。◆思维链（Chain

of

Thought,CoT）：

通过引导LLM生成一系列中间推理步骤，提高复杂任务解决的准确性。◆

ReAct框架（Reasoning

andActing）

：

ReAct是目前最流行的“边想边做”的迭代方法。它在一个循环中交替进行推理（Reason）

和行动（Act）

：

LLM首先生成一个推理过程（Thought），然后决定一个行动（Ac

-tion）

，观察行动结果（Observation）

，再进行下一轮并采取行动以实现特定目标的计算实体。智能体通常具备以下关键特征。◆感知（Perception）：能够从环境中收集数据（例如，

通过传感器、API、用户输入等）

。◆规划与决策（Planning&Decision-making）

：分析收集到的信息，

并利用大型语言模型LLM或预定义的规则来决定最佳行动方案。◆行动（Action）

：

执行任务或与环境互动，

包括操作软件、控制硬件或生成响应。◆反思与学习（Reflection

&Learning）

：Agent能够评估自己的行动结果，

识别错误，

并从失败中学习，

改进未来的规划。3通用智能体架构典型的Agent系统由四大模块构成，

形成完整的“感知-规划-行动-反思”闭环。3.1感知模块（Perception）：

Agent的“感官系统”功能：接收来自用户的自然语言指令、系统事件、传感器数据或其他Agent的消息，

转化为结构化输入供后续处理。行动本地工具代码执行

API/MCP短期记忆感知长期记忆规划任务分解思维链反思记忆智能体文本音频图像图2通用智能体架构图14

洞

悉

前

沿

技

术

数字化领-航驱

动

行

业

转

型进行数据分析、生成报告或运行模拟。这使得

Agent

能够在受控沙箱环境中执行精确计算和数据处理任务。◆本地应用/系统接口（Local

Applications/SystemInterfaces）

:在某些实现中，AI

Agent可以被授权与本地计算机上的应用交互，

例如访问文件系统、调用计算器或与其他本地软件集成。◆多智能体协作协议

(MCP)/

内部协议:

MCP

是一种新兴的标准化协议，旨在规范不同AI模型和智能体之间的互操作性和数据交换，

使智能体能够安全、实时地访问和整合多个业务系统的数据，

实现更复杂的协作任务。4智能体规划和选型建议智能体架构各核心模块都有多种可选技术方案，这在带来高度的灵活性和场景适应性的同时，也带来工具链碎片化风险和选择困难。在真正落地一个智能体时，应该如何规划和选择，

建议参考以下几点通用建议。4.1好的Agent框架是个不错的起点在一个已有的Agent框架基础上构建智能体，

无疑是一个好的起点，可以加快速度、降低成本，尤其是可以显著规避工具链碎片化带来的技术整合风险。目前业界已有多种开源和商业的Agent框架，可根据目标场景按需选择。4.2选择正确的大模型大模型是智能体的大脑，在任务分解、工具选择、反思等环节起着至关重要的作用。大模型能力越强，智能体越智能。在选择过程中，

需要考虑多重因素。◆模型的综合能力，

尤其是逻辑推理、工具调用、编码等核心任务能力：√

大规模多任务语言理解（MMLU）（用于推理能力）。√

伯克利函数调用排行榜（用于工具选择和调用）。

√

HumanEval和BigCodeBench（用于编码能力）

。◆大模型的上下文窗口大小。智能体为了维持记忆和处理复杂任务，与大模型交互的上下文通常会很长，

更大的上下文窗口将非常有益。建议至少选用

128K

以上的上下文窗口，而512K

tokens甚至更大的窗口正逐渐成为行业首选。推理，直到任务完成。这种方法使得Agent能够根据实时反馈动态调整策略。◆子目标分解（Subgoal

Decomposition）

：

将一个大目标分解为一系列小的、可执行的目标。◆

自我批评/反思（Self-reflection/Self-critics）：Agent能够评估自己的行动结果，识别错误，并从失败中学习，

改进未来的规划。3.3记忆模块（Memory）Agent的“海马体”功能：记忆模块是Agent维持上下文和持续学习的关键。技术实现如下。◆

短期记忆（Short-term

Memory）：用于存储LLM的上下文窗口（ContextWindow）

，用于存储当前任务的对话历史、中间步骤和即时观察结果。通常采用内存方式存储在任务session中。◆长期记忆（Long-term

Memory）

：用于存储和检索过去经验、外部知识或通用事实。通常采用向量数据库结合RAG技术实现，

使Agent能够从海量信息中检索相关内容。3.4行动模块（Action）：

Agent的“手脚”功能：也称“工具调用”（Tool

Use）

，是Agent与外部世界交互的唯一途径，支持根据规划模块的决策，调用工具执行特定动作，并收集和反馈执行结果。这些工具可以是API、数据库查询、代码执行环境、网页浏览器等。技术实现如下。◆外部API

(Application

Programming

Interfaces):这是最常见的工具类型，允许AI

Agent与各种第三方服务、数据库或软件系统进行交互，

以获取实时信息、执行特定任务或自动化工作流程。例如，

调用天气API获取天气预报、访问

CRM系统、预订机票、管理日历。◆代码解释器

(Code

Interpreters):AI

Agent可以执行代码（通常是Python）来解决复杂的数学或逻辑问题、

15前

沿

技

术框架开源/商业优点缺点适用场景AutoGen开源高度灵活的多智能体对话框架；

支持多种对话模式和自定义工

具；

社区活跃，

文档丰富。学习曲线较陡峭；

调试复杂的多

智能体交互可能具有挑战性。需要复杂代理协作的场景，

例如数据科学流程自动化、

代码生成和测试。CrewAI开源基于角色的架构，

易于定义和管

理智能体团队；内置动态任务规

划和冲突解决机制。架构相对僵化，

扩展性可能不如AutoGen灵活；

高度依赖代码

执行可能带来安全风险。客户服务自动化、市场营销

任务、需要明确角色分工和

协作流程的中小型项目。LangGraph开源专注于显式的状态机和控制流

管理，提供稳定可靠的多步骤

工作流；

性能优秀，

延迟低。相比其他框架更底层，需要更多

编码来实现完整的Agent功能；

抽象程度较低。需要精确控制流程、具有复

杂决策路径和状态管理的企

业级应用，例如复杂的决策

系统。MetaGPT开源将人类软件公司的操作流程引入

Agent工作流，

擅长软件开发

任务。领域特定性强，

不适合通用型任

务；

社区相对较小。自动化软件工程流程，从需

求分析到编码、测试和文档

生成。OpenAIAgentPlatform/SDK商业与OpenAI生态系统（GPT

模

型、助手API、安全功能）无缝

集成；易于使用，

开箱即用性

能好。厂商锁定风险；

依赖OpenAI的服务和定价；

透明度和可定制

性受限。利用OpenAI最新、最强大模

型快速构建原型或生产级应

用的场景。ClaudeAgent

SDK商业提供完整的Agent基础设施，包

括文件操作、Bash执行、上下

文压缩和子智能体协调功能。厂商锁定（依赖Anthropic

API

)

；

可定制性受限；

代码执行环

境可能需要额外的安全配置。需要构建能够与本地环境交

互（读/写文件、执行代码）

的企业级自主代理，如工程

助手或数据分析代理。◆使用公网服务还是私有化部署。目前主流的优秀大模型，都提供公网服务，包括Gemini

3Pro、ClaudeOpus

4.5、GPT

5.2、DeepSeek

V3.2、Qwen

3等，公网服务性价比高，

成本灵活，

但所有数据都要上传到公网，

存在信息泄露风险；

部分优秀大模型，

例如Deep

-Seek

V3.2、Qwen3等，也支持本地私有化部署，数据不出域，安全无忧，但需要本地算力支持，成本相对较高，

弹性空间小。当然在智能体整个工作流程中，可能会涉及多个不同模型的组合使用，我们这