大模型及应用的现状与未来 2025

模型篇：在成本、折旧与创新之间寻求平衡在生成式AI指数级增长的背后，基础模型本身正经历着一场复杂而剧烈的演变。其发展轨矛盾：训练成本屡创新高，而模型的生命周期却急剧缩短；构建最先进的基础模型，正在成为一场资本和算力的豪赌。数据显示，前沿模型的训练人的速度膨胀。2020年，训练GPT-3的成本约为450万美元；而到了然而，这种巨大的投入面临着一个严峻的现实：极速的价值折旧。一个斥巨资训练的闭源型，其领先地位可能在6到12个月内就被颠覆。一个典型的例子过1亿美元，但仅在一年后，一个训练成本不足1000万美元的开源模型DeepSeek这种现象的背后，是开源模型与闭源模型之间性能差距的迅速收敛。在Meta、Mist科技巨头的推动下，高质量的开源模型层出不穷，持续追赶甚至在部分指标上超越了同期手。迭代速度的极致体现是，根据OpenRouter等平台的追踪数据，一个新模型能在排行榜持领先的中位数时间仅为3周。这种“你方唱罢我登场”的快速更迭，使得任何单一模型的长除了计算成本，数据成本同样惊人。Deepmind每年在数据标注上Llama3的后训练数据投入了1.25亿美元。对于高质量的推理数据，OpenAI甚至愿意支付2000至3000美元。计算和数据这两项巨额开支的边界日益模糊，共同构成了模长期以来，单纯扩大模型参数量被视为提升能力的核心路径，但这一趋势正在逆2023年GPT-4达到一个参数量高峰后，后续发布的新一代顶尖模型如Claude一种新的权衡范式正在形成：用更海量的数据（远超“计算最优”配比的tokens）来训练一小的模型，虽然在训练阶段效率较低，但在推理（即实际使用）时，这样的模型更容易部署这一转变的深层原因在于，预训练的传统路径正逼近其物理极限。正如IlyaSutskever所指质量的互联网数据是有限的，堪称“人工智能的化石燃料”。当集群规模的扩张将难以为继。因此，业界不得不寻找新的能力增长点，而推理时间计算（Infere其核心思想是，让模型在输出最终答案前，花费更多的时间进行内部的“思考”和“推理”。研究表明，这代表了一种新的尺度定律：增加测试时的计算量，同样能带来模型准确升。一个惊人的结果是，一个30亿参数的推理模型，在给予足够“思考时间”后，其数一个不做深度思考的700亿参数的大模型。这证明了“思考”本身，而非单纯的模型尺寸，为了实现更强的推理能力，模型的训练方法论也在快速演进，重心正从预训练转training）阶段。目前主要有两种发展路径：一是通过在大量的“推理轨迹”上进行后训模型如何思考；二是利用“搜索”技术，在推理时指导模型的思考过程。例如，通过“Best-of-N”搜索”等技术，让模型生成多个候选答案或推理路径，再验证器和奖励模型因此变得至关重要。它们可分为两类：一类编译器和单元测试，这类验证器准确但泛化能力差；另一类是学习型验证器，通过评估输出的质量。构建一个能理解复杂、通用人类价值观的通用GPT-4，都采用了这种架构。它通过一个路由器将输入导·多模态能力持续进步。模型已能熟图像、音频、视频等多种模态的全能模型（Omni-modalmodels）仍处于非常早模型拼写错误、算术不佳、难以处理某些语言等诸多问题的根源。直接在字节（b基础模型的概念正被应用到越来越广泛的领域。视频模型正迎来其“ChatGPT时性大幅提升。在机器人技术领域，通用模型已能让机器人在前所未见的环境中执行新任务型（Worldmodels）则致力于模拟环境中的动态变化，为机器人训练乃至交在更专业的科学领域，基础模型的应用也方兴未艾。以自监督方式在基因组序列上训练的D模型，有望用于突变效应预测和基因组设计。除此之外，从蛋白质设计（Generate:C物动力学预测（Iambic）到材料科学（Orbital），AI模型正在成为科学发现的新引擎。然而，指数时代：从技术突破到全面爆发当前这轮AI技术浪潮的爆发，并非偶然，而是源于两个关键的技术自行学习。传统监督学习需要昂贵的人工标注习通过巧妙设计的任务，让模型从数据自身寻找监督信号。例如，模型可以被训练来预被遮盖的词语，或者根据前半句话补全后半句。通过这种方式，互联网上浩如烟海的文第二个突破是注意力架构（AttentionArchitecture其最知名的实现架构革命性地提升了计算效率和模型对上下文的理解能力。在Transformer据（如长篇文章）的模型效率低下且难以并行计算。注意力机制则允许模型在处理每个词语时能同时“关注”到输入序列中的所有其他词语，并动态评估它们的重要性。这不仅使模型能够精准长距离的语义依赖，更关键的是，其计算过程高度可并行化，完美契合现代GPU等并行计算硬当模型在数据和计算两个维度上实现规模化后，一个关键的现象出现了——Behavior）。研究表明，当模型规模（以训练所用的计算量，即FLOPs衡量）达到某个临其在特定任务上的性能会突然从接近随机猜测的水平，跃升至具备相当高的准确率。这在模这一发现直接催生了业界对模型规模的极致追求。在2018年至2022年的短短几年间，顶尖的参数量实现了爆炸式增长，从千万级（如ELMo）一路飙升至万亿级（如Switc技术上的指数级进步迅速转化为市场上的现象级成功。ChatGPT的问世，创造了人类科技与用户增长同样迅猛的，是其商业化变现的速度。一批AI原生应用在极短时间内就实入规模。例如，GitHubCopilot在三年内达到约4亿美元的年化收入；Midjourney用两年时间名员工的团队，创造了约2亿美元的年化收入；而更年轻的Cursor仅用一年时间、约20名员现了约1亿美元的年-化收入。这些案例共同指向一个事实：AI应用正以极高的资本效率和极这股指数级增长的势头，正贯穿于基础模型技术的所有核心指标。从2023年初到2025年春的上下文窗口（即一次性处理信息量的上限）从数千个token扩展至约100万个token，增幅高达500倍。达到GPT-4级别模型的训练成本预计将从1亿美元降低至本缩减。同时，训练模型所需的总计算量也增长了超过1000倍，反映出业界仍在坚定地投性能的提升同样直观。在各项学术和专业基准测试中，大型语言模型更具实际意义的是，AI能够自主完成任务的时间跨度也实现了指数级飞跃。在短短五年内，能够稳定完成的任务时长从1秒钟跃升至1小时以上，其能力倍增周期仅为7个月。这意味着在特定专业领域，LLM的能力已经开始超越人类专家。例如，在多项综合诊断任务中，AI模出比人类医生更高的准确性。在解决国际数学奥林匹克（IMO）级别的复杂几何问题上，AI的已超过地球上99.999%的人口。这种超越不仅局限于文本和逻辑推理，在图像生成领域，扩用例与应用：AI对知识工作的全面重塑随着基础模型能力的指数级增长，其应用范围正以前所未有的信息获取方式，到颠覆软件工程的全生命周期，再到为所有高技能知识工作者配备Copilo核心应用：从通用搜索到垂直领域的“信息中枢”搜索与信息综合至今仍是大型语言模型（LLM）最核心、最具标志性的应用场景。这一两类产品形态。一类是通用型搜索与问答引擎，如Glean、Perplexity和Benc另一类则是数量更为庞大的垂直领域专用解决方案。据估计，已有超过1000家初创公司式找到了产品市场契合点（Product-MarketFiOpenEvidence则深耕医疗健康领域。这种垂直化策略通过整合行业特有数据和工作流，提Copilots）已经发展成为一个年收入规模近20亿美元的庞大市场。其AI代码生成工具的影响力已经不容忽视。根业公司中，有25%的公司其代码库中95%的行数是由LLM生成的。这标志着一个“氛围编程资深工程师甚至表示，在体验过Cursor这类工具后，他们过往80%的技术技能价值AI的影响力已经贯穿了整个软件开发生命周期（SDLC）。从代码审查（G（Dosu）、代码迁移（MechanicalOrch这预示着未来所有开发者工具类的产品，都必须在一个以AI代码生成为默认选项的世界里自身定位。更进一步，以AllHands和Replit为软件工程领域的成功模式正在被快速复制到所有需要专业知识和高度技能的职业中。势是，针对不同专业人士的AIcopilot和智能体正在大量涌现，旨在增强其生产力、自动化除了在专业领域的应用，AI也正日益融入人们的个人生活。在2024年，“生成想法”是首要用例，而到了2025年，“治疗/陪伴”和“组织我的生活”跃升为求。这表明用户正从将AI视为一个纯粹的生产力工具，转向将其看作一个能够提供情感这一趋势与AI在教育、教练和陪伴领域的应用兴起相吻合。同时，AI的用例也变得更加多样垂直领域的写作（Gale）、语言学习（Speak）、语音智能体（FerryHealth）以及处据的“记录系统”（Clarify）等。AI正在从一个解决特定任务的工具，演变为一个深度整合智能体崛起：构建下一代AI应用的模式与挑战基于大型语言模型（LLM）的应用正在经历一次意义深远的成熟过程，其演进路径清晰单一功能到复杂系统的转变。最初的应用，如早期的NotionAI，主要依赖模随后，我们看到了检索增强生成（RAG）技术的兴起，以GitHubCop如今，我们正迈入一个新的阶段：智能体（Agents）。以智能体的核心机制可以被理解为一个在环境中利用工具循环作业的模型。这个过程始于令，大型语言模型（LLM）接收指令后，并非直接生成最终答案，而是规划这些工具可以是文件系统搜索、代码编写与执行、API调用，甚至是模拟人类浏览网页的行通过工具与外部环境（Environment）进行交互，获取执行结果或这个反馈会再次输入模型，帮助其进行下一步的判断和规划，形成一个“规划-执行-反馈”的尽管智能体技术前景广阔，但市场现实表明，通用型智能体（Generalistagents）的商业充满挑战。一些尝试构建能够处理用户日常生活中各种任务的通用智能体的初创公司，AlexGraveley关于其ai_minion项目停运的分享便是一个例证，他提到尽管产品能力与备受关与此形成鲜明对比的是，那些专注于特定领域的“特化”智能体（Specia出色。诸如Lovable、Dosu、Windsurf和Sierra等公司，通过将智能体技术应用于特定、它们的成功说明，在当前阶段，智能体的价值并不在于其能力的解决实际问题的深度和可靠性。用户更倾向于为能稳定解决某个具体痛点的工具付费，而智能体产品的成功与否，很大程度上取决于用户期望的管理。以备受争议的AI软件工程师De例，社区对其评价呈现出两极分化。一部分用户在体验后认为“它很少能真正起作用”，而这种差异的根源，并不仅仅在于产品本身，更在于用户是否投入时间去学习如何与智能这种期望管理最终需要通过细致的产品设计来实现。成功的智能体产品在三个关键层面衡。首先是在人机协作的平衡上，产品需要明确自身是全自动执行还是需要人类监督，并提“智能体收件箱”（AgentInbox）这样的审核与管理工作流。更其次是明智的用例选择。成功的智能体往往切入那些现有工作流中失败率或错误率较高者作为“第一遍”审查工具，用于在早期发现问题。在这些场景下，覆盖更多检查点的重要性超最后，在产品与设计层面，智能体必须能够“展示其工作过程”，让用户理解其决任。同时，内置的修正机制，如编辑、撤销、重做等，是必不可少的，它赋予了用户最权。通过最小化用户的认知负荷和针对特定工作流进行设计，才能将一个强大的技术模型成功的AI产品团队往往不再将大型语言模型（LLM）视为一个单一的、万能的黑箱。相反，他如“社交媒体对民主有害的最佳论据和反对论据是什么？”,一个简单的、直接向LLM提问并获取回答一个系统性的方法则会截然不同。它会将这个复杂问题分解为多个独立的子任务。系统并行调用两个LLM实例（生成器），一个专门生成支持该主张的论据，另一个则生成论据。随后，系统会再调用两个LLM实例（批判家），分别对正反两方的论据进行评估最后，一个更高阶的LLM实例（裁判）会将这些经过筛选的、高质量的正反论据进行综个结构化、逻辑严密且观点平衡的最终回答。这种多步骤、多角色的协作流程，其产出质OpenAI的首席产品官KevinWeil也证实了这种趋势，他提到在公司内部，模型集成（ensmodels）的使用远比外界想象的要普遍。一个复杂问题可能会被拆解成10个不同这其中可能混合使用了针对不同任务微调的特化模型，也可能因为延迟或成本的考量而选规模的模型。每一个调用都可能配有为其量身定制的提示词（prompt）。其核心思想，这种系统范式催生了许多具体的实现技术，例如通过多次采样生成多个候选答案，然后从优的“BestofN”方案；通过多步规划（Multi-hopplann在一项针对软件工程任务的基准测试（SWE-benchLite）Coder-V2-Instruct）其问题解决覆盖率达到了56%，显著高于仅依赖单次尝试的先进随着这些系统变得日益复杂，手动搭建和调优的难度也越来越像DSPy和Ember这样的框架，允许开发者以声明式的方式定义AI系统的逻辑流程，而框苹果公司发布的AppleIntelligence计横跨设备端和服务器端。在设备端，一个复杂的“大脑”包含路由器（决定任务在端侧理）、工具集、搜索索引和任务编排器。同时，设备上还运行着相对较小的基础语言模型和当任务超出端侧能力时，请求会被安全地发送到服务器端，由更强合架构，正是为了在保护隐私、降低延迟和利用强大云端算力之间取得平衡，它本身就尽管模型的上下文窗口在不断扩大，但检索增强生成（RAG）技术在可预见的未量AI应用的核心组件。对于大多数非简单的应用场景，RAG在质量、成本和延迟方面均在质量方面，一项“大海捞针”测试显示，当需要从海量信息中精确检索并利用3个关键信息在成本和延迟方面，差距同样明显。运行一个RAG系统，单个用户每天的托管成本可能仅而在超过100万份文档中进行p99搜索延迟仅为677毫秒。这些数据清晰地表明，检索是实现代的检索管道本身就是一个极其复杂的系统，信息检索已成为应用AI领域最被低估的一。一个先进的检索流程可能包括：首先进行预过滤，然从粗粒度到细粒度逐步筛选。之后，还可能使用计算成本更高的交叉编码器（Cross-en行最终的精排。整个流程融合了多种技术，以确保在最终提交给LLM之前，上下文信息的那么，顶尖的应用AI初创公司究竟在执着于什么？答案并非仅仅是追逐最新的模型。他首先是评估（Evaluations）。“你即是你的评估”——这句话道出了核心。没有科其次是Datacuration。正如GregBrockman所言最高的活动。高质量、经过精心清洗和标注的数据，是训练、微调和评估模型的基础，他们还致力于用用户体验（UX）来解决研究层面的问题。当一个技术问题在研究层面难以完最后，他们普遍将模型层视为“最后的手段”（lastres（Prompt其次是优化系统工程（System在产品层面，差异化正在通过更深层次的创新实现。以AI笔记应用市场为例，尽管该领域了Fireflies.ai、Otter.ai等众多玩家，但Granola通过彻底重塑整体来看，当前基础模型应用的UX设计模式仍处在非常早期的阶段，许多界面让人联想到功能还是等待模型能力的下一次跃升。一个典型的例子是AI头像生成。过去，像Lensa这样的应而现在，随着GPT-4o等模型的出现，用户只需提供一面对智能体需要与各种外部工具交互的现实，生态系统层面也开始出现标准化的协议（ModelContextProMCP旨在为AI模型（客户端，如Claude）与不同应用程序（服务器然而，标准化与性能之间存在着天然的张力。研究和实践都表明，智能体工具的使用界面对果的影响是巨大的。即便是微小的界面变化，比如在代码编辑器工具中提供“带语法检查的编最后，一个常被忽视的差异化维度是“个性”。大多数面向普通消费者的AI产品都朝着遵循而在心理治疗领域，则更侧重于提问而非直接给出答案。已有研究表明，未经严在某些创造性任务上甚至能胜过对齐后的模型，这说明“个性”本身就是一个可以被设计和优化的这一切复杂应用的背后，是一个日趋成熟的基础设施生态系统。从提供模型推理服务的FalVoyageAI，到检索数据库LanceDB，再到各种框架、智能体工更深层次地，这场由基础模型驱动的革命，甚至正在催生半导体行业的复兴，市场结构与动态：资本、巨头与应用的重塑人工智能领域的市场结构与动态正在经历一场由资本、技术和商业模式共同驱动的剧烈的流向是市场热度最直接的指标，而数据显示，资金正以前所未有的规模和速度向AI领风险投资的格局在过去几年发生了根本性的转变。2024年，全球约有10.5%的风险投资额础模型（FoundationModel）公司，长了数百倍，显示出资本市场对底层技术平台的巨大信心。这一趋势在2023年已初现端倪，当向基础模型实验室的资金达到了150亿美元，占全球风险投资总额的5.进入2025年，这一趋势愈演愈烈。数据显示，2025年迄今为止，已有超过50%的风险投资了AI相关的公司。这是一个惊人的数字，标志着AI已经从一个重要的投资赛道，转变为整在资本的助推下，头部的基础模型初创公司正在以惊人的速度实现收入增长。OpenAI预计其2的收入将达到127亿美元，相较于2024年的37亿美元，增长超过三倍。同样，AnthropicOpenAI正日益成为一家消费者应用公司，其约73%的收入来自于ChatAnthropic则更像是一家API公司，其高达85%的收入来自于向开发者和企业提供的模型调用接口这种分化背后，是一个更深层次的战略考量：为了生存和建立长期的护城河，领先的模型能必须向上游移动，成为应用层公司。单纯提供底层模型API的商业模式，面临着被商因此，我们看到OpenAI不仅被报道正在开发类似X的Windsurf。与此同时，Anthropic也聘请了Instagram的联合创始人来担任其产品负责人。这在这场竞争中，起步稍晚的谷歌，正展现出越来越难以阻挡的势头。截至2025年4月Gemini系列模型在速度与质量的帕累托前沿曲线上占据了绝对的统治地位。在每一个细分性能区间都提供了业界领先或极具竞争力的选项。这充分体现了基础模型竞赛对于面向消费者的AI聊天应用而言，“记忆”（Memory）功能正在成为一个关键的潜在用力。谁能掌握通用消费级AI的记忆，就可能掌握未来所有AI应用的“用X登录”入口，然而，实现一个好的记忆系统极其困难。其核心挑战在于，如何从冗长的对话中有效提取、当我们将目光从纯软件领域投向物理世界，一个重要的问题浮出水模型公司，能否像图像和文本领域的公司一样“对抗地心引力”，实现类似的快速领域的运营复杂性远高于纯软件，但其定价模式却与软件相似。尽管如此，大量资金已经从SkildAI、FigureAI到PhysicalIntelligence，众多初创公司正在构建用于机器人控制、人形机器人和通用物理任务的基础模型，并获得了数亿美元的巨额融资，其投资者不乏微软、英伟达、OAI应用层本身也正经历着前所未有的收入增长和高估值。一些AI原生应用展现了堪称恐怖的增长速度，例如Bolt在60天内实现2000万美元收入，HeyGen在一年内从零增长到3500万美元。如今，AI原生应用的总年化运行收入（ARR）已经达到了数十亿美元的规模。从Midjou这种强劲的增长正在从根本上重塑人们对于软件付费的预期。有观点认为，在未来几年，每月为AI工具支付5000至10000美元将并非不合理。OpenAI甚至计划向使用高级AI代理一个值得关注的现象是，即便在位者拥有所有可以想象的优势，AI初创公司依然能够赢得市非一种简单的“维持性创新”，它在构建产品的方式上与传统软件有着本质不同。例域，初创公司Cursor正在挑战GitHubCopilot；在创意工具领然而，繁荣之下亦有隐忧。AI初创公司的收入增长存在巨大的“新奇效应”风险，许多产品的收呈现出“快速崛起又快速陨落”的形态。AI照片应用Lensa的流行度便是一个典型案例，其用户兴总体而言，AI市场在许多维度上都存在明显的“泡沫”感。许多公司在没有建立起清晰的产点的情况下，每年就烧掉超过5000万美元用于模型训练。法国AI初创公司H在获得2.2亿在整个产业链的底部，GPU生态系统的市场结构与传统的CPU生态有着深刻的不同，这催代“GPU云”供应商的崛起。传统的云服务商（如GoogleCloud）通常将硬件GPU工作负载的特性决定了用户更关心单位预算内能获得多少额外的计算时间，而非增值因此，像CoreWeave这样的新型供应商，专但无论市场如何变化，英伟达及其GPU生态系统依然是这场变革中“有保证”的赢家。根据其推理token的生成量在短短一年内就增长了十倍。其股价在过去五年的飞涨，是其在AI浪未来已来：AI原生公司的运作范式AI的普及正在从根本上改变公司的运作方式。顶尖的公司正在越来越多地采纳一种新的信条：“学会在未来，有效使用AI将不再是一项特殊技能，而是对组织中每个人的基本期望。它就像今脑或互联网一样，是所有行业的基本工具。停滞不前几乎等同于缓慢的失败，因为不拥抱这种变革直接体现在团队结构上。小而精、资本效率高的团队正在成为新常态。例如，AIGamma在仅有30名员工的情况下，就实现了盈利和5000万美元的年团队的构成也在快速变化。一位成长阶段初创公司的产品经理之间的区别。而一家上市公司的首席营销官则称，AI完全改变了他的招聘思一种全新的管理技能正在出现：学习“管理”AI工作者集群，这与管理人类团队并无本质不尖代码生成初创公司的首席技术官坦言：“我已有三个月没写过一行新代码了。我所有的时管理和审查智能体上。”“智能体收件箱”（Age一个更深层次的范式转变是，产品开始被设计为以AI如，.cursorrules文件正在成为新的文档，它直接告诉AI如何与项目进行交互。在Neon上，由AI代理创建的数据库实例数量已经超过了由人类创建的数量。这预示着一个未来这场变革必然伴随着价值的毁灭与重塑。一些传统的工作模式和商业实体将面临巨大挑战包给代理机构和咨询公司的职能，如视频制作，将可能被内化。高度专业化的工作岗位和而主要围绕沟通和信息传递的中间管理岗位，如项目经理，其价值也可能被侵蚀关于通用人工智能（AGI）是否临近的讨论，最聪明的AI研究者们的看法也呈现出有广为流传的智商分布图形象地描绘了这种现象：处于智力分布曲线两端的人（新手和顶尖专家倾向于认为AGI将在3年内到来，而处于中间的大多数专家则认为，这些模型只是先进的统计预未来蓝图：AI原生时代的机遇与重构随着人工智能从底层技术渗透到应用的方方面面，一个全新的是现有模式的优化，更是一场深刻的重构。对于有远见的构建者而言，这意味着一片充满机人工智能代码生成能力的普及，将对软件开发这一核心的现代工业活动产生深远且不可影响。其冲击力将贯穿整个软件开发生命周期（SDLC），并从根本上改变我们组织、构首先，整个软件开发生命周期本身正面临重塑。在一个AI越来越多地承担代码编为人类协作而设计的传统流程，例如持续集成与持续部署（CI/CD）、Git版本控制以及当代码的生成速度、数量和模式都发生数量级的变化时，我们现有其次，软件工程的重心正在发生一场“右移”的结构性转变。过去，产品经理和设计师的工规格文档或设计稿，之后便进入漫长的工程开发阶段。而现在，借助强大的AI代码生成这模糊了传统意义上产品、设计与工程之间的角色边界，也催生了对新型工具的需求，例这种角色的模糊化，最终将导向“AI原生”的软件组织形态。在这样的组织里，工程、产品和的严格分野将不复存在，团队协作的模式被彻底改写。任务管理工具所管理的对象，将类工程师，更是成群的AI智能体。这种转变必然要求组织结构的相应调整，并催生出全随之而来的是，软件的验证、测试与护栏的重要性被提到了前所动生成时，如何系统性地保证其质量、安全性和正确性，成为了一个核心挑战。过去被认而“代码审查”这一活动，其内涵也将发生根本性变化，从人与人之间的交流，转变至机器审查机器的全新工作流。我们甚至可能需要更好的方法，来自动化“产品”层面的一个核心的突破在于，我们现在能够收集以前无法触及的数据。可以设想，利用语音智能够以极低的成本大规模地进行用户访谈或市场调研；通过电子邮件智能体，能够以全同时，LLM赋予了我们结构化过去无法结构化的数网站，自动转化为元数据丰富、格式统一的结构化数据库。这等于解锁了互联网上沉睡表盘中，而是可以通过自然语言，按需获取定制化的数据和分析结果。这使得数据消费更具颠覆性的是，我们可以将合成数据与真实数据智能地结合。LLM极擅长模仿真实从而生成高度逼真的合成数据。这些数据可以用来解决冷启动问题、增强稀疏的数