版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
AgentScope是通义实验室推出的开源智能体框架,作为百炼Agent平台的技术底座,以开源方式聚焦智能体相关技术与功能的前沿探索,提供开发、训练、部署和管理的生产级解决方案开箱即用的智能体AgentScope-Studio智能体评测智能体优化AgentScope-Studio智能体评测智能体优化AgentScopeAgentScope-Runtime/ageAgentScope围绕Agentic的核心理念进行构建,提供模型能力集成、多智能体编排、智能上下文管理和工具管理四大核心功能模型能力集成多智能体编排多智能体编排模型能力集成多智能体编排modelsmultimodelsmultiagent•覆盖主流模型API•支持模型API灵活拓展Agentictoolstoolscontext工具管理智能上下文管理context工具管理•自主工具管理(MetaTool)•提供灵活的MCP接入方式•轻松接入AgentskilAgentScope围绕Agentic的核心理念进行构建,提供模型能力集成、多智能体编排、智能上下文管理和工具管理四大核心功能模型能力集成•Agentscope覆盖各种主流模型API,同时支持本地部署模型API服务•Agentscope全面支持包括文本、视觉、语Agentic文生语音等众多工具类模型AgenticmodelsmodelsAgentScope围绕Agentic的核心理念进行构建,提供模型能力集成、多智能体编排、智能上下文管理和工具管理四大核心功能智能上下文管理•Agentscope支持短期记忆自动压缩功能期记忆的实现,支持工具、用户偏好和历史经验的记忆建模•Agentscope支持智能体自主存储和检索向量数据库以及长期记忆AgentScope围绕Agentic的核心理念进行构建,提供模型能力集成、多智能体编排、智能上下文管理和工具管理四大核心功能工具管理体适用范围更广,能力更强态工具加载、卸载AgentScope围绕Agentic的核心理念进行构建,提供模型能力集成、多智能体编排、智能上下文管理和工具管理四大核心功能多智能体编排易于理解、编写和调试的传递和分享toolsAgentScope-Runtime提供Agent-as-a-Service能力,支持将Agent封装为可独立调用的API服务,实现灵活部署、降低成本和快速迭代构建智能体应用服务对接部署协议对接部署协议打包部署到集群/云端实现智能体应用AgentScope-Runtime工具沙箱代码执行环境浏览器控制支持多种部署协议工具沙箱代码执行环境浏览器控制支持多种部署协议统一生命周期管理支持多种部署方式云云Serverless(FunctionCompute)文件系统服务评测沙箱文件系统服务评测沙箱基于基于AgentScope-Runtime部署智能体应用AgentScope实现智能体应用AgentScope-Runtime部署到云端AgentScope:智能体的评测面向Agentic应用的评测统计分析可视化展示统计分析追踪分布式追踪分布式toolstools智能体智能体AgentScope:智能体的观测提供运行时项目管理能力支持全链路的数据追踪提供运行时的数据统计提供运行时项目管理能力支持全链路的数据追踪提供运行时的数据统计提供可以快速开发的智能体模版透明化开发数据统计开箱即用支持评测结果的分析可视化提供可以快速开发的智能体模版透明化开发数据统计开箱即用支持评测结果的分析可视化提供运行时项目管理能力支持全链路的数据追踪提供运行时的数据统计提供运行时项目管理能力支持全链路的数据追踪提供可以快速开发的智能体模版透明化开发数据统计开箱即用支持评测结果的分析可视化提供可以快速开发的智能体模版透明化开发数据统计开箱即用支持评测结果的分析可视化AgentScope:智能体的观测提供运行时项目管理能力提供运行时项目管理能力支持全链路的数据追踪提供运行时的数据统计支持全链路的数据追踪提供运行时的数据统计提供可以快速开发的智能体模版透明化开发数据统计开箱即用支持评测结果的分析可视化提供可以快速开发的智能体模版透明化开发数据统计开箱即用支持评测结果的分析可视化支持全链路的数据追踪支持全链路的数据追踪提供运行时项目管理能力提供运行时的数据统计提供运行时项目管理能力提供运行时的数据统计提供可以快速开发的智能体模版透明化开发数据统计开箱即用支持评测结果的分析可视化提供可以快速开发的智能体模版透明化开发数据统计开箱即用支持评测结果的分析可视化AgentScope:智能体的观测提供运行时项目管理能力支持全链路的数据追踪提供运行时的数据统计提供运行时项目管理能力支持全链路的数据追踪提供运行时的数据统计提供可以快速开发的智能体模版透明化开发支持评测结果的分析可视化提供可以快速开发的智能体模版透明化开发数据统计数据统计开箱即用开箱即用AgentScope:智能体的观测提供运行时项目管理能力支持全链路的数据追踪提供运行时的数据统计提供运行时项目管理能力支持全链路的数据追踪提供运行时的数据统计提供可以快速开发的智能体模版提供可以快速开发的智能体模版透明化开发数据统计开箱即用支持评测结果的分析可视化透明化开发数据统计开箱即用支持评测结果的分析可视化AgentScope通过Trinity-RFT提供面向Agentic应用的RL训练能力,从而支前沿算法全面支持全面支持SFT,GRPO,GSPO,PPO等强化学习算法智能样本筛选机制根据训练目标自动优选高价值训练样本,提升收敛效率动态数据-奖励协同管理实时联动训练与奖励信号,实现反馈闭环驱动的训练优化AgentScope是通义实验室推出的开源智能体框架,作为百炼Agent平台的技术底座,以开源方式聚焦智能体相关技术与功能的前沿探索,提供开发、训练、部署和管理的生产级解决方案开箱即用的智能体AgentScope-Studio智能体评测智能体优化AgentScope-Studio智能体评测智能体优化AgentScopeAgentScope-Runtime利用模型的“规划-执行-反思”能力,智能体可以把复杂问题拆解成若干可执行的子任务,并最终完成LLMTools3254ResultActionThinking智能体“规划-执行-反思(plan-execute-react)”链路原理LLMTools3254ResultActionThinking智能体“规划-执行-反思(plan-execute-react)”链路原理•DataScience:找到数据库位置生成sql语句并执行根据执行结果调整sql数据可视化展示桌面根据环境变化动态调整下一步动作完成任务智能体数字分身求、记住偏好、执行复杂任务,提供开箱即用的完整解智能体应用的开发和使用变得简单高效。多智能体智自主协作Alias内置五种智能操作模式可灵活切换,包括通用对话、浏览器自动化控制、深度研究分析、金融数据分析、数据科学处理等专业场景。每种模式都经过精心优化,确保在特定场景下发挥最佳性能,真正做到一个平台满足多样化快速部署,即刻上线为智能体应用提供全生命周期投资分析智能体金融投资模拟分析,支持实时股市行情介入、回测与实盘双模式,配备可视化面板AgentScope–更多开箱即用的智能体投资分析智能体金融投资模拟分析,支持实时股市行情介入、回测与实盘双模式,配备可视化面板提供涵盖金融分析和交易、数据处理、语音交互、文档问答等多元场景的,开箱即用的智能体数据科学智能体数据科学智能体用户通过自然语言交互即可完成从数据查询、配置管理到代码生成的工业级数据处理全流程语音智能体语音智能体结合,覆盖TTS、语音和实作与AgenticRAG检索增强够动态规划、自主决策并提供精准回答HTTPS://GITHUB.COM/AGENTSCOPE-AIApacheRocketMQforAI面向AI应用的异步解决方案周礼RocketMQMaintainer01AI场景下异步架构的新挑战AI应用的特点行为模式:行为模式:主动执行,拆解目标,自主决策,完成任务,业务流程不固定业务时长:不可预测性更高,平均耗时长,部分场景可达分钟级甚至更长交互方式:单次任务交互次数更多,需要高效的状态管理和会话管理运行成本:GPU的运算成本远高于CPU,AI应用的成本压力更大传统应用事件驱动vsAI应用事件驱动AI应用异步事件驱动新特性易致堆积:易致堆积:平均消费耗时变长,队列数据容易堆积易致阻塞:单一长耗时消息引发头部阻塞,使短任务被迫等待,影响整体并发效率与用户体验结果可溯:系统异常恢复后,可获取历史任务结果,避免重复请求LLM,减少冗余推理,降低成本消息中间件演进方向差异化:传统异步模型基于任务同质性设计,在分布式切片的架构下,只需少量Topic与集群消费提升吞吐。AI任务高度差异化,要求消息系统能够为每个差异化任务单元提供独立的消息通道数据恢复:传统模式依赖消息回溯重新执行业务,成本低可行。AI场景重试代价高昂,消息回溯需从重试转向复用,支持结果留存与快速读取,实现低成本故障恢复大消息体:AI推理结果体量大,要求消息中间件支持更大消息体。需通过分片、压缩等机制,实现大内容的高效传输与可靠存储。优先级:支持不同的SLA轻量:可创建百万级别的轻量级队列差异化:单个客户端可以订阅万级别Topic,不同客户端订阅关系可以完全不同,也可以相同独占(可选):一个LiteTopic只允许一个客户端订阅LiteTopic消费模型LiteTopic消费模型传统Group消费模型能否复用现有方式,只是每个客户端使用独立的Group订阅多个Topic?不可行1.读请求数量急剧膨胀2.轮询导致的无效扫描增多,CPU开销增大3.无法支持独占订阅4.Topic要预先创建5.客户端与各自Group绑定,使用很不方便海量差异化订阅模型①订阅关系注册:①订阅关系注册:客户端动态添加/删除订阅,注册到服务侧,分片存储②百万队列:基于百万队列模型,每个LiteTopic对应一个逻辑队列,消息存储时③事件分发:每个客户端有专属的事件队列,根据订阅关系集合进行分发④事件读取:一客户端读请求归一化,不必对每个LiteTopic发起读请求;直接读事件队列,避免扫描数据面控制面分离、推拉结合、事件驱动共享队列阻塞队列共享:单一Topic包含多个队列,所有队列共同承载多用户消息,资源共用、无隔离消息混合:不同用户的消息被随机分发至各队列中,隔离程度很低队头阻塞:当某队列头部出现长耗时任务,后续所有消息(无论归属谁)均被阻塞,无法消费影响公平:单用户密集提交慢任务,可能抢占全部队列头部,导致资源独占,引发其他用户延迟上升,破坏系统公平性,拖慢整体响应。非阻塞消费线程池模型线程模型瓶颈:消费端实际并发能力受限于线程池大小,预拉取+线程池模型下,线程一旦被慢任务占用或者用sleep实现限流,即无法释放,即便队列物理隔离仍会导致资源卡死消费线程释放:LiteTopic支持消费者主动返回suspend,立即释放当前线程,避免空等浪费保障公平:释放的线程可立即处理其他用户的快速任务,提升整体吞吐与多用户调度公平性实现方案关键点物理隔离:以用户名作为LiteTopic名称,实现用户级物理隔离动态创建:LiteTopic按需动态创建,百万级可扩展精准流控:每个LiteTopic独立执行限流,实现精准流控;可以按用户配置差异化阈值,打造“千人千面”的流量治理能力挂起机制:用户触发限流时,消费者返回suspend,立即释放线程,服务端暂停拉取,避免资源浪费;释放的线程可即时处理其他用户请求,实现资源的弹性调度与高效复用现有方案的局限性共享消费:共享消费:集群消费无法保证消息传输到固定接收节点,难以支持会话粘性,导致结果回传错乱或依赖复杂状态同步历史数据:缺乏轻量灵活的API来支持数据恢复,无法快速读取多轮会话上下文消费方式:集群消费模式无法支持消费差异化,需要共享、互斥等消费模式来支持多种会话场景交互现有实现方案交任务,该机器将任务信息写入共享缓存②③轮询任务:Worker获取并执行任务,完成后将结果写入到结果队列④⑤⑦顺序消费:网关集群顺序消费结果队列:若接收用户消息的机器是用户所连网关实例,则直接推流;若不是用户所连实例,则将结果存入缓存,并发送广播Topic⑥广播消费:所有机器收到广播后,如果是本机所连接用户的任务,从缓存读取结果并返回,否则忽略问题:流程复杂、依赖组件多、广播无效消费、排查路径长、不支持断连恢复优化后的方案提交任务,该机器将任务信息写入到任务Topic(普通类型),消息中携带Session信息,并订阅对应Session名字的③④回写结果:智能应用(Worker节点)消费任务Topic的消息,处理后将任务结果写到Session名字的LiteTopic⑤⑥返回结果:订阅SessionLiteTopic的网关机器收到任务结果,直接返回给用户流程简单、全异步、依赖组件少、无需广播消费、支持断连恢复①Session建连:浏览器连接到网关机器1②③返回结果:网关机器1订阅LiteTopic(Session1),后端智能应用将结果写到SessionTopic1,网关机器1返回浏览器④断连:浏览器或者网关机器原因断连⑤浏览器重连:网浏览器重新连接到网关机器2,标明恢复会话为Session1,网关机器2订阅LiteTopic(Session1),从断点处返回数据无状态网关;支持指定Last-Event-ID、LastN模式,便于端上重新组织数据/apache/rocketmq-a2a/tree/main/example/rocketmq-multiagent-base-adk/solution/tech-solution/rocketmq-for-multi-agent-communication/2990228企业落地AI应用架构的最短路径文想01AI开放平台,顺势而生从云原生架构到AI原生架构02HiMarket构建AI场景、AI市场、AI治理模型、MCP、Agent、安全,全方位的能力进化帮助企业构建AI应用协作机制,实现AI应用货币化Himarket作为开源产品欢迎大家来共建人工智能+即将大规模爆发技术持续迭代面相未来,企业需要在人工智能+结合提效技术持续迭代computercomputerprogramsprogramscomputercodebecameprogrammablein~1940sweightsweightsprogramsprogramsfixedfunctionneuralnete.g.AlexNet:forimagerecognition~2012programsprogramsagent政策面目标清晰90%企业落地面相全员做AI场景加速创新,会遇到的一些通用问题AI不是技术开发独享的能力,面相横向企业多个团队如何协同,权限如何管理,成本如何分摊?让AI创新安全合规HiMarket开源新版本发布,定位AI开放平台链接企业内部最短路径标准API开放平台易于企业定制化快速落地AI应用和验证企业级AI接入管理能力链接企业内部最短路径标准API开放平台易于企业定制化快速落地AI应用和验证企业级AI接入管理能力AI场景AI治理AIagentHiMarketAI开放平台Chat对话/联网搜索/文生图/文生视频统一监管/统一权限/统一计量/统一接入API开放平台HiMarket快速验证AI场景,便捷结合企业线上业务,构建标准化创新平台AI场景:沉淀AI高频场景,面相全员加速创新落地Al高频场景,首要是chat场景,HiMarket定义Hichat可以让用户快速交互模型、MCP、Agent进行多模态创新HiChat:全员创新管理者合规审计HiChat:全员创新管理者合规审计Agent市场AI市场:多市场共享能力、共享资源Agent市场Agent市场A2A协议兼容企业级Agent架构AgentGateway跨语言、跨框架其他市场模型市场模型市场公有云模型管理公有云模型管理模型协议转换模型调用fallbackAlAl市场快速上架-面向开发者生产Hichat(快速体验)-面向全员消费AI治理:通过统一开放平台,解决AI发展管理问题统一解决内部Al使用的权限问题、观测问题、计量问题、内容审核、合规校验统一开放平台、集中AI治理统一权限管理AlAl场景(内外)权限统一、可定制企业sso、消费者级别鉴权、统一防护统一内容审核统一可观测全局观测大盘,全局观测大盘,展示AIAPI的调用趋势、热门产品排行、异常流量预警多种计量模式多种计量模式(Token、次数等)、支持成本核算、可对外HiMarket架构:AI开放平台私有化定制opensourceHiMarketAIopenplatform帮助企业构建AI开发者门户开发者开发者门户开放平台后台管理者AI网关HiMarket架构:AI开放平台opensourceHiMarketAlopenplatformoverallArchitectureAIAI开放平台门户开放平台门户Developer注册SSO集成Consumer注册凭证管理Product开放展示/订阅/调试Developer注册SSO集成Consumer注册凭证管理Product开放展示/订阅/调试观测分析观测分析Developer维度调用AI开放平台后台 Portal管理域名/样式/审批策略API/Document/PolicyDeveloper/Developer/Consumer管理身份认证/RBAC/订阅管理观测分析多维度调用观测AI网关Model/MCP/Agent开源Higress网关AI网关Model/MCP/Agent开源Higress网关MCPServerAPI网关REST/HTTPAPINacosMCP/AgentAI网关/Nacos基础设施:集成与统一管理HiMarket坚持开源开放,欢迎一起共建,让天下企业没有难用的AI开放平台HiMarket1.0HiMarket0.1起始版本,支持MCP市场HiMarket0.5当前重大版本,AI市场,体验中心,企业级平台能力HiMarket0.6多模态人工智能支持,Agent市场持续增强HiMarket0.7HiChat支持丰富agent模式,支持manus、deepresearch等类型复杂agent支持多模态体验,可以文生图,文生视频HiMarket坚持开源开放,欢迎一起共建,让天下企业没有难用的AI开放平台HiMarketAI开放平台,保持开源开放核心参与者包括阿里云、蚂蚁数科、高德、淘天等团队,面向开源可以助力企业快速构建AI开放平台,提供开箱即用的能力!感谢淘天IdeaLAB团队为HiMarket提供的基础,期待更多企业/higress-group/HiMarket/ai/himarket/himarket-deployment/HiMarket钉钉社区群(2群):AI原生公众号163370001036HiMarket生态:AI原生应用架构全景图Al原生应用架
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 品牌授权合作协议及品牌维护责任条款
- 趣味语文知识大全比赛
- 软件开发团队项目管理指南
- 土地综合治理与现代农业发展合同
- 《数轴的概念及其性质:初中数学基础概念教案》
- 趣味保险知识
- 机械臂技术研发工程师绩效评定表
- 项目安全生产全方位管理责任承诺书7篇范文
- 小区土地流转合同补充协议
- 银行产品运营官绩效评定表
- 反三违安全知识培训课件
- 2025年住院医师规培-广西-广西住院医师规培(骨科)历年参考题库含答案解析(5卷套题【单选100题】)
- 医院收费员个人年终总结范文(2篇)
- 肝性脑病的分级及护理
- 2025年湖北高考真题化学试题(原卷版)
- 2025年中考数学二轮复习专题一 数与式中的化简与计算(含答案)
- T/CECS 10011-2022聚乙烯共混聚氯乙烯高性能双壁波纹管材
- GA/T 2157-2024毛细管电泳遗传分析仪
- 《胰高血糖素抵抗》课件
- 艾滋病实验室课件
- (高清版)AQ 1056-2008 煤矿通风能力核定标准
评论
0/150
提交评论