主题策略-人工智能十年展望：越过“遗忘”的边界模型记忆的三层架构与产业机遇-ZJ公司-20260224

1证券研究报告2026.02.11人工智能十年展望（二十七越过“遗忘” 2025-022025-052025-0820252025-022025-052025-082025l软件及服务|人工智能十年展望（二十六）：2026关键趋l软件及服务|人工智能十年展望（二十五）：视频生成拐点将至，成长性赛道迎中国机遇(2025.l软件及服务|人工智能十年展望（二十六）：2026关键趋l软件及服务|人工智能十年展望（二十五）：视频生成拐点将至，成长性赛道迎中国机遇(2025.l软件及服务|人工智能十年展望（二十四）：AIAgent元年已至，应用拐点或将到来(2025.0l软件及服务|AI智道（12）：Moltbot/Clawdbot：AIAgentl软件及服务|AI智道（11通用Agent持续迭代，大模SRAM作为突破“显存墙”与“延迟墙”的重要的需求标志着AI需要从无状态的短线智能向具备“存储-检索-遗忘”动态管理的复杂系统进化。软件端，Grap容量DRAM与企业级SSD用以解决海量“温数据”的高并发随写瓶颈。我们认为，这一层级不仅影响Agent的能力上显现，我们发现目前模型训练、推理的界限正在逐渐模糊。长忆旨在打破预训练截止时间的限制，实现知识的持续积累。我们归纳了内隐参数、外显语义、参数化查表三条路径。我们认为在中训练的新范式将催生出多类数据库与存算硬件设备需模型技术进展不及预期；Agent落地进度不及预期；供应链2 4AI不同场景对应的记忆分层系统：训练、推理、Ag 5 7 7 9 23 25 26 4 5 6 7 8 8 3 20 25 264模型记忆重构下的存储范式与软硬件红利学习（NestedLearning）与2026年初DeepSeek发布的“Engram条件记忆”基于学术前沿与近期产业界落地实践的系统性软件解法软件解法硬件需求硬件需求KVCache压缩与管理PD分离调度前沿探索：从线性注意力到无限注意力机制nnnKVCache压缩与管理PD分离调度前沿探索：从线性注意力到无限注意力机制nnnvLLM(PagedAttn)Infini-attentionDistServe 短期记忆 专注当前推理nnnHBM（高带宽显存）片上SRAMNVLink等互连技术RAPTORGraphRAGRAPTORGraphRAGMemoryOSn跨窗口情景记忆nnn大容量DRAM企业级SSDCPU（通用算力）Titans路线内隐参数/TTTA(Titans路线内隐参数/TTTA(Test-TimeTraining)NestedLearning n路线外显语义/RAGB模型固化的能力路线外显语义/RAGB模型固化的能力n路线C参数化查表路线C参数化查表DeepSeekEngram(DeepSeekEngram(ConditionalMemory)n5Infra：确立了Agent需要高频核心：里程碑之作。结合参数记Infra：催生向量存储需求。核心：模拟大脑海马体，用知识图谱替代单纯向量，实现联想记核心：模拟大脑海马体，用知识图谱替代单纯向量，实现联想记Infra：分层存储与分层核心：核心：将LLM视为操作系统，管理有限上下文（主存）与外部存Infra：明确了“记忆分层”的软2020202220232024质，而是围绕训练、推理与Agent运行三型参数，即长期记忆的构建过程，此时短期记忆仅作反向传播，产生的激活值、梯度及优化器状态构成短期迭。为确保长周期训练的稳定性，系统需将参数及状态6征，短期记忆成为决定系统吞吐与首字延迟（面，短期记忆聚焦于当前思考链（CoT）与像、领域规则及内隐参数；而中期记忆则存续着跨会话的Agent优先检索中期记忆，将“经验”回注到当前上下文，实现AgentAgent提供约束 提供约束 数据库/SSD持久化户画像/事实户画像/事实RAG/历史摘要长期记忆：模型RAG/历史摘要长期记忆：模型文&KVCacheNVMeSSD显存不足时Offload按需检索系统内存定期持久化定期持久化计算更新加载权重/语料度&优化器状态前任务态前任务态任务轨迹/任务轨迹/DRAM前向/反向传播前向/反向传播/工具记录/工具记录7短期记忆：即时交互下的吞吐与延迟的博弈理、上下文窗口管理、PD（Prefill-decode）分离调度，以及更前短期记忆决定了模型在一次推理时能够同时看到多少信息，以及处理信息的短期记忆决定了模型在一次推理时能够同时看到多少信息，以及处理信息的速度有多快 2PD（Prefill-Decode）分离调度前沿探索：从线性注意力到无限注意力机制（Infini-attention前沿探索：从线性注意力到无限注意力机制（Infini-attention）311带宽决定生成速度 缓存压缩后的状态/局部注意力 我们发现，在实际工程落地中，短期记忆面临着物理资源、计算模式以及Agent究2，传统内存管理技术会导致显存出现碎片化问题，导致显存的浪费率1Behrouz,Ali,PeilinZhong,andVahabMirr8资料来源：Wu,Haoran,etal."Combatllminference."arXivpreprinta首字延迟（TTFT是计算密集型的；而解码阶段（Decode）是存储密集型的，计算往往闲置但极度消耗带宽。因此，如果沿用传4，多智能体（Multi-Agent）协作场景的推理涉文。由于缺乏高效的记忆管理，系统被迫在每资料来源：Wu,Haoran,etal."Combatingthellminference."arXivpreprintaSymposiumonOperatingSystemsDesi4Wu,Haoran,etal."Combatingthememorywalls:OptimizatioarXiv:2509.09505(2025).9在物理资源、计算模式以及场景权衡的三重限制下，针对短在硬件资源有限的前提下，软件通过极致的调度算法提高显预填充（Prefill）与解码（Decode）混合部署会导致严重的抖动。因此，可以将集群分解为预填充节点与解码节件技术将显存利用率从20%-40%提升到90%以上，那相应的单卡能够支撑的并6Zhong,Yinmin,et注：BatchSize指GPU在单PagedAttention."Pr式，并将其作为一种可复用的记忆状态参与后续推理7。这种设计不transformerswithinfini-attention."arXivprinfini-attention."arXivpreprintarXiv:2404.07143101行块状注意力（ChunkedAttenti随机存取，从而提取跨块的长程依赖关系。我们认为，低了推理时的内存访问压力，尽管物理显存占用仍随长度增内存带宽瓶颈得到了较大缓解，推动单节点处理千万级资料来源：Abdullah,AbdulhadyAbasetal.“Evolutionofmet中期记忆：AIAgent的基石型往往呈现为“无状态”的短线智能——处理单轮任务难以应对Agent在多轮交互中频繁的状情景记忆，情景记忆，AIAgent的基石跨越对话窗口的历史记忆，需要快速精准的召回核心软件技术核心软件技术11RAG（检索增强生成）范式升级：从向量RAG、分层RAG到GraphRAG22MemoryOS方案：从被动检索到主动管理2企业级2企业级SSD存储海量原始切片数据与高精度索引核心硬件需求负责复杂的检索逻辑和图遍历1大容量DRAM向量索引与图谱的热点拓扑结构需要常驻内存8Hu,Yuyang,etal."MemoryintheAgeofAIAgents."arXivpreprintarXiv:2512.13564(2025).空间的距离匹配，而非逻辑层面的真值判断。系统容易检索出事实逻辑过时或冲突的旧记忆，比如检索到了上周的机票预订入”模式缺乏对记忆状态的维护，导致新旧知识在向量相似但逻辑互斥的信息被同时召回。冲突、冗余信息挤RAG范式升级：从“找得到”到“理得清”方案。它将历史对话切片为向量，通过近似最近邻搜索（ANN似的片段作为大模型上下文输入。其优势在于能够捕捉语对话摘要，再按需下钻到具体的细节叶子节点。我们认为，这检索策略有助于提升模型在跨文档摘要和长周期任务备结构化推理能力。中期记忆的GraphRLearningRepresentations.2etal."FromLocaltoGlobal:AGrap22.3%20.7%C0(根节点摘要)C1(高层摘要)C2(中层摘要)C3(底注：TS(TextSegments)为原始切片，C0-C3(Com资料来源：Edge,D.,etal."F2025年腾讯与北邮的研究团队提出了MemoryOS架构12，赋予了Agent息不足以决策时，才发起系统调用去调取特定记忆，用以确保工作记忆入新记忆，更负责将高频使用的短期对话提纯为长期知识节点，同时果断遗12Li,Zhiyu,etal."Memos:Amemoryosforaisystem."arXivpreprint以热度为标准选择是否存入；LPM为长期记忆，仅当中期记忆的话题热度超过阈值时，资料来源：Kang,Jiazheng,etal."MemoryOSofAIAgent."arXivpreprintarXiv:2506.06326(2025)，中金公司研究部数化知识，包括企业私有文档、业务逻辑以及海量用户交互越久，沉淀的个性化记忆越多，对用户的理解越精准。我们认场景、能够持续积累私有数据闭环的厂商与提供中期记忆托管离计算，也可能需要承担图遍历任务。图谱检索涉及大理阶段，系统首先将完整文档分割为独立文本块，此后利用大生成50-100词元的背景语境并前置（Prepend确保分块后依然保留全文义搜索与精确关键词匹配的两条并行路径，确保了检索的有效抑制模型幻觉，实测可将检索失败率降低49（Reranking）技术，降幅则达到67%。我们认为这一架构在大规模商业化应用智能体作为推理核心，在精准识别用户意图后调用API抓取瞬态变量。通过将检索到的多型生成的答案能有效抑制处理复杂参数时的幻觉风长期记忆：知识固化的三条路径与存储新蓝海提出NestedLearning（嵌套频率的嵌套记忆模块，快层负责快速适应与记忆写入，慢层长期记忆长期记忆模型固化的能力与世界知识通常包括用户偏好与画像、稳定事实与状态、多次交互中重复出现并需要跨会话保持一致的信息模型固化的能力与世界知识通常包括用户偏好与画像、稳定事实与状态、多次交互中重复出现并需要跨会话保持一致的信息31311路线一：内隐参数/TTT路线二：外显语义路线三：参数化查表GoogleTitans为代表的测试时训练机制1路线一：内隐参数/TTT路线二：外显语义路线三：参数化查表GoogleTitans为代表的测试时训练机制PEFT思想与LoRA离线固化nn状态与偏好管理：键值型数据库语义对象存储：文档型数据库权限与规则管控：关系型数据库索引导航——向量数据库nnnn将知识剥离为静态哈希表，存入内存，与计算解耦n1可训练推理芯片需支持BF16/FP32梯度计算，而非仅INT81 1可训练推理芯片需支持BF16/FP32梯度计算，而非仅INT81 1企业级SSD/HDD成本权衡下用于存PB级原始数据 2通用DRAM数据库缓存宿主DRAM存储动态更新的权重 2CXL/PCIe5.0 解决CPU内存到GPU的高速传输理的二元对立，在推理过程中通过实时计算梯度将新产生“记忆参数”中。我们认为，内隐参数是长期记忆中更新长文本时，核心模型负责理解当前语义，记忆模块计算自定义的“惊喜值”），原模型参数不动，增加极少量的“新参数”用来储存新技术手段。它通过在大模型参数旁边增加一个小的旁15Behrouz,Ali,PeilinZhong,andVahabMirr时，HBM升级成为了支撑模型“持续进化”如果把内隐参数路线比作模型持续训练内化的能力，那么在企业级落地长期记忆的过程中，我们认为核心诉求是可解计。在这一范式下，长期记忆的软件栈不再是单一的者系统状态配置适合用键值型数据模型存储。此时速度，而非复杂的语义推理，键值型数据库用来确保要求存储内容可审计、可追溯。复杂的法律条文、研报息的完整性。相应地，文档型数据库成为存储类似的多源应的真实可信的数据内容。在产业实践中，我如法律文书、医疗档案等并且GraphRAG、图遍历等软需要比较大的缓存池。CXL技术允许数据研究17，为长期记忆提出区别于更新权重与外挂知识库的第三条路径：将静态、可查表的知识以内嵌参数表的形式保留在模型头哈希技术，将输入中的局部上下文（N-gEngram通过确定性寻址，允许在推理阶段将17Cheng,Xin,etal."ConditiarXiv:2601.07372(2026).力机制在处理极长序列时，往往被迫通过压缩上下文来换取机制选择在海量的信息流中权重较高的信息重点记录，同衡点，防止新信息的涌入冲刷掉关键的历史记忆，也允许过为模型架构的一部分，有望在大模型中实现类似人类大风险供应链风险。软硬件环节均可能面临供应链一般声明本报告由中国国际金融股份有限公司（已具备中国证监会批复的证券投资咨询业务资格）制作。本报告中的信息均来源于我们认为可靠的已公开资料，但中国国际金融股份有限公司及其关联机构（以下统称“中金公司”）对这些信息的准确性及完整性不作任何保证。本报告中的信息、意见等均仅供投资者参考之用，不构成对买卖任何证券或其他金融工具的出价或征价或提供任何投资决策建议的服务。该等信息、意见并未考虑到获取本报告人员的具体投资目的、财务状况以及特定需求，在任何时候均不构成对任何人的个人推荐或投资操作性建议。投资者应当对本报告中的信息和意见进行独立评估，自主审慎做出决策并自行承担风险。投资者在依据本报告涉及的内容进行任何决策前，应同时考量各自的投资目的、财务状况和特定需求，并就相关决策咨询专业顾问的意见对依据或者使用本报告所造成的一切后果，中金公司及/或其关联人员均不承担任何责任。本报告所载的意见、评估及预测仅为本报告出具日的观点和判断，相关证券或金融工具的价格、价值及收益亦可能会波动。该等意见、评估及预测无需通知即可随时更改。在不同时期，中金公司可能会发出与本报告所载意见、评估及预测不一致的研究报告。本报告署名分析师可能会不时与中金公司的客户、销售交易人员、其他业务人员或在本报告中针对可能对本报告所涉及的标的证券或其他金融工具的市场价格产生短期影响的催化剂或事件进行交易策略的讨论。这种短期影响的分析可能与分析师已发布的关于相关证券或其他金融工具的目标价、评级、估值、预测等观点相反或不一致，相关的交易策略不同于且也不影响分析师关于其所研究标的证券或其他金融工具的基本面评级或评分。中金公司的销售人员、交易人员以及其他专业人士可能会依据不同假设和标准、采用不同的分析方法而口头或书面发表与本报告意见及建议不一致的市场评论和/或交易观点。中金公司没有将此意见及建议向报告所有接收者进行更新的义务。中金公司的资产管理部门、自营部门以及其他投资业务部门可能独立做出与本报告中的意见不一致的投资决策。除非另行说明，本报告中所引用的关于业绩的数据代表过往表现。过往的业绩表现亦不应作为日后回报的预示。我们不承诺也不保证，任何所预示的回报会得以实现。分析中所做的预测可能是基于相应的假设。任何假设的变化可能会显著地影响所预测的回报。本报告提供给某接收人是基于该接收人被认为有能力独立评估投资风险并就投资决策能行使独立判断。投资的独立判断是指，投资决策是投资者自身基于对潜在投资的目标、需求、机会、风险、市场因素及其他投资考虑而独立做出的。本报告由受香港证券及期货事务监察委员会监管的中国国际金融香港证券有限公司（“中金香港”）于香港提供。香港的投资者若有任何关于中金公司研究报告的问题请直接联系中金香港的销售交易代表。本报告作者所持香港证监会牌照的牌照编号已披露在报告首页的作者姓名旁。本报告由受新加坡金融管理局监管的中国国际金融（新加坡）有限公司(“中金新加坡”)于新加坡向符合新加坡《证券期货法》定义下的合格投资者及/或机构投资者提供。本报告无意也不应直接或间接地分发或传递给新加坡的任何其他人。提供本报告于合格投资者及/或机构投资者,有关财务顾问将无需根据新加坡之《财务顾问法》第45条就任何利益及/或其代表就任何证券利益进行披露。有关本报告之任何查询，在新加坡获得本报告的人员可联系中金新加坡持牌代表。本报告由受金融行为监管局监管的中国国际金融（英国）有限公司（“中金英国”）于英国提供。本报告有关的投资和服务仅向符合《2000年金融服务和市场法2005年（金融推介）令》第19（5）条、38条、47条以及49条规定的人士提供。本报告并未打算提供给零售客户使用。在其他欧洲经济区国家，本报告向被其本国认定为专业投资者（或相当性质）的人士提供。本报告由中国国际金融日本株式会社（“中金日本”）于日本提供，中金日本是在日本关东财务局（日本关东财务局长（金商）第3235号）注册并受日本法律监管的金融机构。本报告有关的投资产品和服务仅向符合日本《金融商品交易法》第2条31项所规定的专业投资者提供。本报告并未打算提供给日本非专业投资者使用。本报告亦由中国国际金融股份有限公司向符合日本《金融商品交易法施行令》第17条第3款第1项及《金融商品交易法》第5