科学智能体：从数据驱动到认知涌现的科研基础设施升级

张恺上海开源信息技术协会专委会副主任专注人工智能及大数据领域研究15+年，在金融/工业制造领域从事算法相关技术研发与团队管理工作，对大模型预训练到应用，互联网个性化推荐及广告算法服务有深入研究和实践，具备多次从零到一构建数据团队或算法团队的经验。带领团队构建AI平台，沉淀数十项文本解析，图像识别，语音识别等基础标准化能力，并通过传统AI结合大模型的方式实现金融数据治理、智能客服，智能投研及投顾，智能舆情分析服务，智能风控反欺诈，个性化推荐及搜索服务等各类AI产品和智能化服务，为企业实现降本增效，具备千万级日活产品设计及构建能力。演讲主题：科学智能体：从数据驱动到认知涌现的科研基础设施升级科学智能体：从数据驱动到认知涌现的科研基础设施升级张恺上海开源信息技术协会专委会副主任AIAgent科学智能体赋能科研智能体的未来AIAgent：LLM推动AIAgent进入新阶段•LLM推动AIAgent进入新阶段。AIAgent经历了几大阶段，包含：1）符号Agent：采用逻辑规则和符号表示来封装知识并促进推理过程，典型代表为基于知识的专家系统；2）反应Agent：主要关注Agent与其环境之间的交互，强调快速和实时的响应，设计时优先考虑直接的输入输出映射；3）基于强化学习的代理：主要关注如何使Agent通过与环境的互动进行学习，典型代表如AlphaGo；4）具有迁移学习和元学习的Agent：引入迁移学习实现不同任务之间知识的共享和迁移，通过元学习使Agent学习如何学习；5）基于大型语言模型(LLM)的代理。将LLM作为大脑的主要组成部分或Agent的控制器，并通过多模态感知和工具利用等策略扩展其感知和行动空间，通过思维链（CoT）和问题分解等技术使Agent获得与符号代理相当的推理及规划能力，并且可以通过从反馈中学习和执行新的行动，获得与环境的互动能力。AgentswithAgentswith辑•智能体主要基于感知-行为循•但可能缺乏复杂的更高级别•迁移学习来加快Agent在新任务•元学习侧重于学习如何学习，•使用LLM作为智能体的主要大•通过思维链(CoT)和问题分解等•从反馈中学习和执行新的操作•Zero-shot/few-shot泛化能力智能助手到Agent：由搜索匹配走向规划与交互式决策智能语音助手：架构上已经具备意图分析、任务规划智能语音助手：架构上已经具备意图分析、任务规划、服务调用等模块以Siri为例，智能语音助手的架构与AIAgent具备一定相似性。该系统可划分为输入系统、活跃本体、执行系统、服务系统和输出系统五个子系统。在活跃本体内部，利用各种词典资源，模型资源实例化对用户的输入信息进行具体加工；执行系统则是将用户原始的文本输入解析为内部的语义表示，并决定下一步操作，包括“对话流控制器”（根据领域判断诱导用户提供所需的参数）、“任务流控制器”（被“对话流控制器”调用，界定完成一件任务或者解决某个问题由哪些步骤构成,这些步骤之间是何种关系，Siri的任务模型是由一些领域无关的通用任务模型和若干领域相关任务构成）。我们认为从架构上看，智能语音助手已经具备意图分析、任务规划、服务调用几大核心模块。从输入到输出从输入到输出，AIAgent技术框架基本确立当前对AIAgent整体框架的设计基本上可以分为感知、定义、记忆、规划、行动五类模块，其中感知模块主要处理各类输入，解决智能体与环境交互的问题；定义模块主要包含了Agent的属性、目标等信息；记忆模块包括短期记忆及长期记忆，用于面对复杂任务时提供历史策略等；规划模块包括任务的分解、反思、推理推断、策略制定等，是Agent的大脑；行动模块包括以文字、具身行动、工具指令等多种形式输出结果。从偏向于输入端的感知、定义，到处理端的记忆、规划，再到输出端的行动，我们认为AIAgent的技术框架与此前智能语音助手的技术框架在模块设置上存在一定相似性。感知：模型端原生多模态推进，Agent多模态感知能力可期感知模块的核心功能主要是帮助Agent获取信息，可以与计算机中的鼠标、键盘等各类输入设备进行类比。从核心功能看，包括视觉、听觉、触觉等感知能力，涉及文本、图像、视频、3D等多种模态。从落地路径看，当前对于跨模态的落地方式主要包括通过变换器将非文本模态转为文本模态、对非文本模态进行编码并将编码器与LLM对齐，或通过结合思维链技术、结资料来源感知模块落地路径复旦NLP团队如何使基于LLM的Agent获得多模式感知能力，包括文本、视觉、听觉输入以及其他潜在的输入形式，如触觉反馈、手势和3D地图，以丰富主体的感知领域并增强其多功能性。理解文本输入中的隐含含义（强化学习、指令微调图像字幕（为图像输入生成相应的文本描述）、使用变换器对视觉信息进行编码、将视觉编码器与LLM对准；掩码机制（使Agent理解不同时间帧之间关系调用现有工具集或模型存储库来感知音频信息、将感知方法从视觉领域迁移到音频领域；结合硬件设备探索其他输入方式上交团队提示Agent逐步解释感知，作为一个感知链，已被证明可以提高行动成功率。多模式感知是实现通用人工智能的关键步骤之一。感知的单向解释；从整合环境反馈中受益匪浅，特别是在环境发生变化的多回合互动的背景下斯坦福大学/Microsoft（李飞飞等）与人类一样，强大的多模式感知对于智能体理解其环境至关重要。视觉感知是最重要的能力之一，使代理能够理解世界，例如图像、视频、游戏。同样，音频感知对于理解人类意图至关重要基于知识的LLM代理可以提高2D和3D场景理解、生成和编辑的性能；通过集成AgentAI框架，大型基础模型能够更深入地理解用户输入，从而形成一个复杂且自适应的HCI系统月Google推出原生多模态模型Go不同模态上（包括文字、音频、图片、视频、PDF文件等）进行了预训练，然后利用额外的多模态数据进行微调以提升有效性，实现了多模态数据训练的突破。2024年原生多模态模型在不同于传统的模型级联和拼接，GPT-4o是跨文本、视觉和音频端到端地训练的新模型，这意味着所有输入和输出都由同一神经网络处理，基于此，我们认为相较于此前的智能语音助手，基于LLM的AIAgent对于多种模态信息的综合处理能力进一步加强。规划：关注LLM对于任务分解算法及反思提炼能力的改变资料来源感知模块落地路径资料来源感知模块落地路径OpenAI（LilianWeng）子目标和分解：Agent将大型任务分解为较小的、可管理的子目标，从而实现对复杂任务的高效处理。反思和提炼：Agent可以对过去的行为进行自我批评和反思，从错误中吸取教训，并为未来的步骤进行提炼，从而提高最终结果的质量。任务分解：思维链（CoT）将大任务转换为多个可管理的任务，并为模型思维过程的解释提供线索。思维树通过在每一步探索多种推理可能性来扩展CoT。它首先将问题分解为多个思考步骤，并在每个步骤中生成多个想法，从而创建一个树状结构。反思提炼：ReAct通过将动作空间扩展为特定任务的离散动作和语言空间的组合，将推理和动作整合在LLM中。前者使LLM能够与环境交互（例如使用维基百科搜索API而后者则促使LLM生成自然语言的推理痕迹。Reflexion是一个为代理提供动态记忆和自我反思能力以提高推理技能的框架。ChainofHindsight鼓励模型通过明确地向其提供一系列过去的输出来改进其自身的输出，每个输出都附有反馈。人大高瓴人工智能学院当面对复杂的任务时，人类倾向于将其分解为更简单的子任务，并单独解决。规划模块旨在赋予智能体这种人类能力，从而使智能体的行为更加合理、有力和可靠。无反馈规划：在这种方法中，代理在采取行动后不会收到可能影响其未来行为的反馈。单一路径推理、多路径推理、外部规划等带反馈的规划：环境反馈、人类反馈、模型反馈（反馈通常是基于预先训练的模型生成的）复旦NLP团队规划模块的核心是推理能力。通过推理，代理将复杂的任务解构为更易于管理的子任务，为每个任务制定适当的计划此外，随着任务的进展，Agent可以使用内省来修改他们的计划，确保它们更好地与现实世界的环境相一致思维链（CoT）方法、自一致性、自润色、自精炼、选择推理等；自适应策略（如CoT)、分层规划、单一策略、与特定领域的规划者集成利用内部反馈机制，通常从预先存在的模型中获得见解；量身定制的人类反馈；从有形或虚拟的环境中获得反馈上交团队CoT应用于通过计划或决策诱导代理人推理行动链（将决策转化为CoT推理问题）、应用CoT提示方法，在与环境的交互过程中引出LLM的推理能力、在精心策划的数据集上微调LLM规划模块是AIAgent能够解决包括子目标分解、反思及提炼等，其核心能力来自于底层模型的推理能力。计算机诞生初期，多步骤问题的规划往往由人脑完成，计算机充当解决问题的工具。而随着任务分解算法（如层次化任务网络(HTN)、任务树、分层强化学习、规则引擎等）的发展，计算机开始承担部分的规划任务，如智能语音助手中的任务流控制器主要业务流程的自动化等。随着LLM技术的发展，通过微调或思维链（CoT）等技术对AIAgent进行干预，使Agent逐步提升效率。规划模块：目标分解与反思提炼为两大核心AIAgent：规划模块及落地路径行动：工具使用能力为关键，具身智能为新方向行动模块：关注微调、工具使用与具身智能从输出的形式看包括文本、对工具的使用、具身动作等。在工具使用方面，当前主要的落地方式是通过微调或预先设定的模型描述框架，让Agent调用对应的外部API，从而实现对现成功能的使用或对特定信息的访问搜集。而通过元工具学习等方法，Agent对于工具的使用能够在同类型的不同具体工具之前实现技能的迁移，未来随着模型能力的进一步提升，Agent有望实现对工具的创建；随着资料来源感知模块落地路径OpenAI（LilianWeng）Agent学习调用外部API来获取模型权重中缺少的额外信息（通常在预训练后很难更改），包括当前信息、代码执行能力、对专有信息源的访问等等。MRKL简称“模块化推理、知识和语言”，是一种用于自主主体的神经符号体系结构。MRKL系统被提议包含一组“专家”模块，通用LLM作为路由器将查询路由到最合适的专家模块。这些模块可以是神经的（例如深度学习模型）或符号的（例如数学计算器、货币转换器、天气API）。HuggingGPT是一个使用ChatGPT作为任务规划器的框架，根据模型描述选择HuggingFace平台中可用的模型，并根据执行结果总结响应。对LM进行了微调，以学习使用外部工具API：TALM（工具增强语言模型）、Toolformer人大高瓴人工智能学院负责将Agent的决定转化为具体结果。该模块位于最下游的位置，并直接与环境相互作用。它受到配置文件、内存和计划模块的影响。在LLM中，模型输入和输出直接相关，Agent可以通过不同的策略和来源采取行动，如通过记忆回忆采取行动（查询记忆、协作Agent等）、根据其预先生成的计划采取行动。复旦NLP团队接收大脑模块发送的动作序列，并执行与环境交互的动作。包括文本输出、工具使用、基于LLM的Agent配备具身动作与工具结合，专门的工具使LLM能够增强其专业知识；利用LLM了解工具；从演示中学习和从反馈中学习使用工具；元工具学习；创建工具及自调试；具身智能•LLM+Agent是通向通用人工智能（AGI）的路径之一。AIAgent用来描述表现出智能行为并具有自主性、反应性、主动性和社交能力的人工实体，能够使用传感器感知周围环境、做出决策，然后使用执行器采取行动，具备以上特征的Agent是实现AGI的关键一步。据2023年11月GoogleDeepMind发布的论文《LevelsofAGI:OperationalizingProgressonthePathtoAGI》，考虑AGI性能、通用性和自主性级别，AGI的发展可按0-L5分级。按该分级方法，目前在狭义AI上人类已经实现了在特定的任务上让AI超越人类，但是对于广义的AGI仅实现到1阶段，典型代表是ChatGPT、Bard和Llama。从更广义的评判标准看，基于LLM的Agent评估工作还从效用、社会性、价值等角度开展，我们认为当前基于LLM的Agent从能力上看受到LLM能力上限的限制，未来随着Agent的不断升级，有望逐步逼近AGI，具体的路径包括模态丰富、具身智能、多Agent协同、系统优化等。AGI分级通用性(列)特定的任务或任务组广泛的非物理任务，包括学习新技能等元认知能力Level0:无AI狭义非AI计算器软件；编译器广义非AI人类参与的计算，如AmazonMechanicalTurkLevel1:涌现相当于或稍优于普通人涌现狭义AI古典人工智能GOFAI；基于简单规则的系统，比如SHRDLU涌现AGIChatGPT，Bard，Llama2Level2:胜任至少达到熟练成年人的中等水平胜任狭义AI如Jigsaw的毒性检测器；智能音箱，如Siri，Alexa,或GoogleAssistant；视觉问答系统，如PaLI；IBM的Watson；在某些特定任务上的最新水平的大语言模型（例如，写短篇文章、简单编程）胜任AGI还未实现Level3:专家至少达到熟练成年人中的顶尖水平专家狭义AI例如Grammarly的拼写和语法检查器；生成图像模型，如Imagen或Dall-E2专家AGI还未实现Level4:大师至少达到熟练成年人中的极高水平大师狭义AI深蓝(Deepblue)，AlphaGo大师AGI还未实现Level5:超人类超越所有人类的表现超人类狭义AIAlphaFold，AlphaZero，StockFish人造超智能(ASI)还未实现路径一：模态丰富+具身智能+多Agent协同Agent具有五个层级，信息维度不断丰富有望推动能力提升然语言处理到通用人工智能（AGI）的研究进展，包括语料库-互联网-感知（多模态NLP）-具身-社会5个层级。当前多数LLM建立在互联网层级，具有互联网规模的文本输入和输）：语料库互联网感知具身社会现象多多Agent协同或出现团体行为，提升智能化程度其中多Agent交互及人-Agent协同通过不同的方式给予Agent反馈，有助于Agent不断强化解决问题的能力。更进一步的模拟Agent社会框架中，在个人层面Agent表现出计划、推理和反思等内在行为，以及涉及认知、情感和性格的内在个性特征。Agent和其他Agent可以组成团体并表现出团体行为，如合作。在环境中其他Agent也是环境的一部分，Agent有能力通过感知和行动与•关注基础智能体进展。据英伟达科学家JimFan的演讲，基础智能体（FoundationAgent）是掌握广泛技能，控制许多身体，并能够泛化到多个环境中的单一算法。随着模型得到信息数量的提升及训练速度的加快，理论上模型能够掌握的技能数量、可控制的身体形态或载体、所能掌握的现实情况有望不断提升。例如在Minecraft中，Voyager通过引入反馈（来自代码运行错误、虚拟人物状态、虚拟环境状况使虚拟人物在游戏环境中能够不断学习新的技能；机器人训练AgentMetaMorph通过设计特殊词汇描述机器人的具体身体部位，利用Transformer输出电机控制，实现对机器人的控制。通过对训练进行加速，有望将Agent的能力进一步泛化，最终实现自主的基础AIAgent：三种应用场景路径二：通过提升整体性或利用工作流解决复杂问题通过提升Agent通过提升AgentAI整体性有助于解决复杂问题除了单个模块、环节的技术突破，模块间的互动方式也是Agent能力的重要影响因素。当前的AIAgent对于被动结构化任务的处理已有较为丰富的实践，但距离在复杂环境中扮演动态互动角色仍有一定的差距，我们认为除了单个模块的能力提升，围绕AIAgent整体系统的优化或将成为AIAgent能力进一步提升的重要驱动力。据《AgentAITowardsaHolisticIntelligence》，研究人员提出一个将大型基础模型集成到Agent动作中的具体系统——AgentAI系统，该系统强调AI作为有凝聚力的整体发挥作用。按系统层级看，自下而上分别为数据-预训练模型-调优模型-任务-跨模态-不可知的现实（新范式/物理世界/虚拟现实/元宇宙/涌现能力等）-整体智能。在数据端，该系统强调利用不同环境之间的交互获取的跨模态数据，在系统端则结合了大型基础模型对开放世界环境中感官信息的理解，最终AI展示了较好的跨学科、跨任务能力，涵盖了机器人、游戏和医疗保健系统等新兴领域。长期看该路径或将逐步通向整体智能。AgentAgentWorkflow通过流程优化提升任务效果2024年3月，斯坦福大学吴恩达教授在博客中提出在HumanEval数据集中，使用GPT-3.5（Zero-shot）的测试正确率为48.1%。GPT-4（Zero-shot）为67.0%。而通过与Agentworkflow配合，GPT-3.5实现了95.1%的正确率。在加入Agentworkflow后，模型在具体任务中的能力有了明显的提升。Agentworkflow是一种新的工作流程，要求LLM多次迭代文档。从设计模式上，Agent有四种模式：1）Reflection(反思):让智能体审视和修正自己生成的输出；2）ToolUse(使用工具):LLM被赋予Web搜索、代码执行或其他功能，以帮助它收集信息、采取行动或处理数据；3）Planning(规划):让LM提出并执行一个多步骤计划来实现目标；4）Multiagentcollaboration(多智能体协作)：多个智能体合作完成任务。我们认为AgentWorkflow通过对LLM应用的流程优化，有助于提升Agent解决具体任务的准确性，LLM应用端厂商有望借鉴此方法推动更多垂类LLM落地性。AI4S在各学科的运用出出40年之久Kazhdan-Lusztig多项式。•2022年10月，同样是DeepMind在Nature发文，推出在AlphaZero（前身是著名的AlphaGo）基础上开发的AlphaTensor，并通过强化学习找到了矩阵相乘的最快算法。DeepMind的系列工作，为AI驱动的数学研究（AIforMath）提供了可供参考的新范式。•科学家已经尝试使用机器学习、ResNet、seq2seq模型等技术求解偏微分方程，获得了更快更准的结果，2021年，DeepMind开发了启发数学家直觉灵感的机器学习框架，帮助数学家和AI研究人员在Knots理论方面发现新定理，证明了已提AIAI4S各领域现状•20世纪90年代，高能与核物理学界就使用神经网络和符号AI辅助研究。2014年，人工神经网络赢得了ATLAS实验中识别希格斯玻色子的挑战。2015年，欧洲核子研究组织CERN成立了机器学习工作组来处理大型强子对撞机（LHC）产生的海量数据。•2022年2月，DeepMind在Nature上发表了其工作：通过深度强化学习对托卡马克等离子体进行磁控。2022年8月，物理学家使用人工神经网络找到了质子中存在隐性内含粲夸克（intrinsiccharmquarks）的证据，这一发现可能会改写量子色动力学的教科书。•AlphaFold是AI4S领域最成功的代表之一。从2016年开始，DeepMind构建AI系统来挑战蛋白质三维结构预测任务。AlphaFold将预测误差缩小到原子尺度，而计算时间从数年缩减到数分钟，显著提升了效率。•DeepMind宣布其2亿个蛋白质结构预测向世界各地的科学家提供开放访问，这对加速药物研究具有重大意义。除AlphaFold外，华盛顿大学开发的RoSeTTAFoId、中国科学技术大学研发的SCUBA等模型，也在该领域不断突破。•2011年，美国提出“材料基因组计划”(MGI)，旨在解码材料的不同组成成分和性能的对应关系，借助高通量计算、大数据、AI等技术，有效缩短了材料研发周期、降低了研发成本。•2016年Nature发布了美国哈弗福德学院和普渡大学的研究成果，科研人员利用机器学习算法，用“失败”的实验数据预测了新材料合成，这启示机器学习等AI技术成为材料科学的重要研究方式。AI4S在量子/核聚变/材料科学/生命科学具体应用AI+量子物理AI+能源科学AI+材料•实时控制反应过程中的相关参数•建立高精度的核聚变模拟和预测模型•优化核聚变反应设备等•AI赋能学科•生成高质量量子态••生成高质量量子态•量子模拟•优化量子电路和量子算法•调节量子控制系统参数等•基因组数据分析•虚拟筛选化合物库，加速药物发现过程•解析生物图像数据等•预测新材料性能•识别和分析文献中的关键词•分析材料的显微结构等场景研究机构与公司研究机构与公司AI4S助力科学探索，贯穿科研全流程在AI技术的加持下，科学研究的效率大大增加。通过理论探索、设计实验、分析数据等方向为科学发现提供动力。AI与各个科学领域结合后，正在发生一场充满潜力和挑战的科技革命。AI文献阅读与问题提出—>数据优化处理—>数据分析挖掘—>科研大模型AI成为生命科学新引擎自然科学领域大模型文献阅读及问题提出对现象和数据观察提出某种猜想；对既AI成为生命科学新引擎自然科学领域大模型文献阅读及问题提出对现象和数据观察提出某种猜想；对既有文献的梳理，在此基础上提出新的研生成式AI成为基因科学的新引擎：生成式AI被用于预测基因序列、发现新的药生成式AI成为基因科学的新引擎：生成式AI被用于预测基因序列、发现新的药DARWIN，是一个为物理、化学和材料科学应用而精心设计的专业化大语言了最先进的结果，旨在通过人工智能驱动的自动化来增强和加快探索发现的过数据分析和挖掘生成式AI与科研一篇用GPT证明一篇用GPT证明引发巨大关注科学智能体平台化构建方向科学协作平台科学协作平台科学实验设计与规律提取化学反应模拟与精准合成大规模复杂系统行为模拟复杂流体现象模拟与反演人工智能平台科学实验最佳方案决策科学实验最佳方案决策科学数据自动化自组装分析科学数据生成人工智能直觉推演科学现象科学数据平台PB级多模态科学数据存储PB级多模态科学数据存储支持大规模深度学习模型科学数据地图与数据质量管控科学数据安全、流程与合规审计我国高端新材料自给率低我国高端新材料自给率低 高达84%高达84%10年乃至20年国产化替代需求强烈难以满足当下产业发展对多种材料的需求国产化替代需求强烈AI革新产研范式AI技术能够加速所有子流程，缩短研发周期AI可以在实验室阶段，通过模拟大规模生产条件，优化放大的工艺参数，从而减少实验与产业化之间的差异通过构建行业大模型，能够对齐各环节目标，通过全局考虑材料性能、良品率、成本等因素，优化生产流程，确保新材料在产业化时的可行性统统统筹研发生产大数据构建行业大模型构建行业大模型AI赋能研发到生产的每一环节，并助力跨越实验室到企业的鸿沟0404实验验证应用多模态模型能力提炼分子结构范围0303引入专家模型对进行结果筛选结合抗扰增强算法进行结构迭代优化AIAgentForScienceAIAgentforScience是AI4S的下一代核心技术Scientist+Aiagents：释放科研人员的创新能力CARCO：CARCO：AIAgent在实验室研究阶段的尝试为科研人员赋能：引入创新思维（跨领域）+大幅缩短研究周期材料数据库是AI+材料科学的核心FAI建应用或工作流交互操作R美国国家标准与技术研究院NIST正在开发若干面向制造系统技术和两个颠覆性制造领域（即机器人系统和增材制造）的测量标准。中国于2017年先于FAI建应用或工作流交互操作RAFLOW准Atomly300300万条反应路径数据五种常见反应类型五种常见反应类型能否学习理解不同化学反应的能否学习理解不同化学反应的细微差异性与共性?B.C.Zhang,et.al,X.Chen*,J.Jiang*,Y,Luo*,Proc,Natl.Acad.Sci.US.A.,2022,119,e2212711119.AIAgent应用成果--材料研发专家助手以AIAGENTFORSCIENCE为目标需求定义实验室研发需求定义实验室研发中试放大材料量产虚拟专家助手虚拟专家助手结合垂直领域的计算模型、训练模型实现创新点结合垂直领域的计算模型、训练模型实现创新点提出、实验方案设计等任务，并在根据专业科研工具的应用情况实时分析并决策。打通研发软件、科研设备打通研发软件、科研设备，构建自动化过程，进一步沉淀科研数据。材料科研助手设计、构建、训练领域专业大模型科研过程和结果的数据，构建专业LLM，打造完整意义上的AIAgent。对基座大模型进行小规模化学材料行业文献数据训练，实现大模型的初步应用。实验智能化助手实验智能化助手考和规划能力”产品运维助手产品运维助手的“智能”覆盖从研发到产品的全流程覆盖从研发到产品的全流程AIAgent应用成果--智能科研平台自建智能材料创新科研平台，提升全流程交付效果从AIAgent有望逐步通向AGI•基础模型能力提升+工作流接入有望加快AIAgent商业化。从Agent的发展看，人类在逐步强化程序的自动化、智能化程度。在AIAgent的尝试中，应用厂商结合深度学习等算法、知识图谱、RPA等技术实现了部分的自动化，其核心是在存量知识的基础上，实现由程序自主解决部分问题。LLM的出现是这一框架下的重要突破，LLM通过预训练吸收知识，以大量参数存储知识，通过Transformer的注意力机制，实现了对存量知识吸收理解效率的进一步提升。在解决问题的过程中，相较于传统的RPA等基于规则的自动化方式，体现出了更强的灵活性。我们认为随着基础模型能力的进一步提升，AIAgent在任务规划中的灵活性、在知识吸收运用的效率方面的上限或将进一步提升。在当前的基础模型能力下，若将AIAgent与工作流进一步结合，在工作流程中嵌入AIAgent实现部分问题的智能+自动化解决，AIAgent实用性或将进一步改善，商业化或进一步加速。•从LLM到AIAgent到AGI。据《OnthePrinciplesofParsimonyandSelf-ConsistencyfortheEmergenceofIntelligence》（2022智能的原则包括简约性、自洽性。其中简约性要求要求系统通过计算有效的方式来获得紧凑和结构化的表示，自洽性要求自主智能系统通过最小化被观察者和再生者之间的内部差异来寻求最自洽的模型来观察外部世界。我们认为LLM以黑盒的方式实现了知识的高效吸收，通过人类对齐实现了自洽性；基于LLM的AIAgent在LLM基础上能够通过工作流方式引入人类对齐实现自洽，通过垂直数据强化特定领域的知识能力；而随着知识压缩的效率的进一步提升（ScalingLaws或白盒大模型等方式打造闭环系统完成对知识的验证，未来有望逐步实现AGI。ReAct等API/ReAct等API/指令规则规则/参数/...规则/参数/...AIAgent：智能性仍有提升空间，关注AgentWorkflowLLMAgent自主化、智能性仍存在提升空间模型架构突破+特定数据推动LLMLLMAgent自主化、智能性仍存在提升空间从LLMAgent的实践看，当前的LLMAgent对于执行特定领域的任务已经体现出一定的自主性（如完成科学试验、搜索资料撰写报告等LLM对于固定范式下解决问题能够实现较好的自动化，但在解决问题的泛化能力方面，当前主要的Agent产品仍距离通用的Agent有一定的差距。主要体现在：1）任务规划方面：当前Agent主要基于现有的成熟任务流程进行复现，或基于训练数据对任务进行简单的拆分；2）工具使用方面：当前Agent基本按照人类的部署进行流程化的操作和尝试，工具的使用主从AIAgent的落地方式看，基于LLM的Agent实践已经取得一定的成果。具体包括：1）利用LLM从LLMAgent的实践看，当前的LLMAgent对于执行特定领域的任务已经体现出一定的自主性（如完成科学试验、搜索资料撰写报告等LLM对于固定范式下解决问题能够实现较好的自动化，但在解决问题的泛化能力方面，当前主要的Agent产品仍距离通用的Agent有一定的差距。主要体现在：1）任务规划方面：当前Agent主要基于现有的成熟任务流程进行复现，或基于训练数据对任务进行简单的拆分；2）工具使用方面：当前Agent基本按照人类的部署进行流程化的操作和尝试，工具的使用主更强的文本处理能力；另一方面则来自于特定数据类型训练赋予LLM的能力，如从任务分解数据训练要通过调用第三方API进行。未来随着底层模型能力的提升。我们认为AIAgent有望在以下方面实现中得到的任务规划能力、配置特定文件后得到的解决特定领域问题的能力。能力提升：1）在任务规划方面从基于规则、参数的规划能力逐步向基于实践的反思、迭代进化；2）创造适用于LLM的工具。在工具使用与选择方面，从基于人类配置的特定工