海外科技行业大模型中间层步入商业化验证期开源权重普及与闭源定价博弈下推理基础设施的定价权上移

目录支出重心加速转向推理，大模型中间层价值凸显 3外中间层商业模式分化，头部推理云验证十亿级规模 5OpenRouter：轻资产运营的模型聚合平台，网络效应构建护城河 5Fireworks：开源模型高速推理与定制平台，工程性能构筑核心差异 7Together10提供从训练到部署的全栈MLOps，开源封装驱动自下而上采用 硅基流动：国内独立态供应商，自研推理引擎与异构算力编排154.风险提示 Token消耗进入加速放量阶段，专业化推理基础设施的配置价值上升。智能体与多步工具调用拉长推理链路，算力需求重心由训练侧进一步转向推理侧。OpenRouter525万264–63.9、27.8%、53.6%（4/5–5/3、5/4–5/31、6/1–6/28）。需求侧，IDC经相关年度2025年的约0.0005Ptaokns升至2030年约15.3万PtaoknsR约3418%。+第三方推理/异构算力编排等中间层能力，成为支撑规模化落地的关键基础设施。图1：智能体普及催化算力需求从训练转向推理资料来源：硅基流动招股书，弗若斯特沙利文图2：OpenRouter2026年4-6月周Token调用量提速增长Token调用量（十亿）700006000050000400003000020000100002025/2/162025/3/162025/4/162025/5/162025/6/162025/2/162025/3/162025/4/162025/5/162025/6/162025/7/162025/8/162025/9/162025/10/162025/11/162025/12/162026/1/162026/2/162026/3/162026/4/162026/5/162026/6/162026/7/16数据来源：OpenRouter官网，能环节。C端应用争夺流量。而是向部署能力承接应用侧调用，提供统图3：AI中间层连接算力资源、AI模型与应用数据来源：硅基流动招股书，弗若斯特沙利文在多模型、多芯片、多部署并行的格局下，第三方独立的差异化价值上升。/模型/提供了生存空间。图4：Token供应市场独立与封闭市场对比资料来源：硅基流动招股书，弗若斯特沙利文海外级规模海外独立中间层已形成较清晰的商业模式分层，大致可分为路由网关、推理云与全栈部署三类：（OpenRouter为代表亦不直接租赁或持有GPU，收入主要来自交易/充值抽成。（2）推理云层（FireworksTogether为代表（为代表/后训练与运维等能力，价值主张更接近可靠上线与深度定制，而非单纯的转售。表1：海外AI中间层商业模式及代表公司类别 核心商业模式 公司 估值 P/ARR路由网关层纯软件路由OpenRouter5000万美元（26年3月）13亿美元（26年5月，B轮）26.0推理云层租用或购买GPU，以统一API提供高性能模型推理与微调服务Fireworks10亿美元（26年7月）175亿美元（26年7月，D轮）17.5TogetherAI11.5亿美元（26年6月）83亿美元（26年7月，C轮）7.2全栈部署层提供从训练到部署的全栈MLOps，用户可上传自有模型，平台负责运维部署Baseten6亿美元（26年3月）110-130亿美元（26年6月，F轮）18-22数据来源：OpenRouter官网，Fireworks官网，TogetherAI官网，Baseten官网，Sacra，注：TogetherAI11.5亿美元为年化订单额OpenRouter：轻资产运营的模型聚合平台，网络效应构建护城河领先的独立AI2023–2025OpenRouter定位为多模型聚合70400+credit时的手续费（5%–5.5%）。图5：OpenRouter的路由机制 图6：OpenRouter定价数据来源：OpenRouter官网 数据来源：OpenRouter官网网络效应与供给卡位构成主要壁垒，区域可用性需合规审视。平台服务1000万+-开发者流量12%46%英伟达a16z、等，有助于前沿模型接入与产业协同。oken20265pnour525400%。收入方面，Sacra2025190020263月5000（图7：OpenRouter501950191

ARR(百万美元)0数据来源：OpenRouter官网，TheInformation，IT之家，Sacra，Stripe洽谈收购20265完1.13BServiceNowSnowflakeDatabricks20256A5-5.5SaaSStripeOpenRouter100亿美元。战略上，OpenRouter处于模型供给与应用需求之间的路由与计量层，商业模式接近按量抽成的AI收单网关，与Stripe“服务互联网GDP、并布局Token级实时支付”的方向契合。双方本已有支付合作，若成交，Stripe将AI账OpenRouter护城河在于规模化多模型路由、统一计费与开发者默认心智，表2：OpenRouter融资与估值梳理融资轮次 时间 融资额 投后估值种子轮+A轮 2025年6月 4000万美元 5亿美元B轮 2026年5月 1.13亿美元 13亿美数据来源：OpenRouter官网，华尔街日报，纽约时报，心差异Fireworks定位为面向生产环境的开源/定制模型推理与后训练平台。FireworksServerless/On-Demand/ReservedFireworks401/8。表3：Fireworks产品矩阵服务类型 说明 计费方式Serverless无冷启动延迟，兼容OpenAI标准API接口，适合快速评测、流量波动大的业务，是绝大多数企业初次试用平台的首选方案按Token计费On-DemandGPUH100350%要求严苛的正式生产业务，或需针对特定模型规划专属算力按GPU使用时间计费EnterpriseReservedGPU持客户自带私有云部署；高并发大规模产品、合规监管类业务，以及有算力隔离、采购管控需求的企业团队采用定制报价，按GPU包年/包月预留计费Post-Training通过FireOptimizer工具链提供监督微调SFT、LoRA适配器、强化微RFTRL定输出风格、行业专属术语、代码编写规范、排序策略、工具调用逻Prompt沉淀至模型权重按Token计费数据来源：Fireworks官网，200+（DeepSeek等前沿上，Fireworks20+（等2026年初，Fireworks图8：Fireworks采用全球虚拟云架构提供底层算力 图9：Fireworks开源模型库数据来源：Fireworks官网 数据来源：Fireworks官网专用/定制模型贡献绝大部分流量。FireworksD轮披露，平台日处理4095%以上来自基于客户私有数据、面向具体任务优化的专用模型（含微调、适配器、蒸馏等）SFT、DPO、RFT/RL等路径；Fireworks适配器并按调用量付费，需求主线已从试用基座开源转向生产级专属智能。图10：从Cursor代码大模型到Harvey法律智能系统，企业客户依托Fireworks搭建专属定制智能实现更高效率与更低成本数据来源：Fireworks官网自研推理引擎与后训练栈，工程性能构筑核心差异。后训练能力集成于统一1/12-5.6适配GPU图11：依托FireAttentionV4推理引擎，DeepSeekV3在英伟达B200GPU上实现250Token/秒以上的行业顶尖推理速度数据来源：Fireworks官网2510已服务超1CursorQuora、SourcegraphSacra，Fireworks2025CursorFireworks约半数营收，2026年管理层明确单一客户依赖度已大幅降低。ARR267月run-rate1025102.8104050%（70%+），GPU成本。公司指引，通过持续优GPU60%。图12：Fireworks102.8102.8

ARR(亿美元)1086420年10月 年月数据来源：Fireworks官网，累计融资超18亿美元，估值溢价持续走高。20267月，Fireworks总额15.05亿美元的D轮融资，投后估值达175亿美元，由ManagementIndexTCVPartners2510C40亿美元估值，增长超3倍。表4：Fireworks融资与估值梳理融资轮次 时间 融资额 投后估值A轮 2024年初 2500万美元 -B轮 2024年7月 5200万美元 5.52亿美元C轮 2025年10月 2.5亿美元 40亿美元D轮 2026年7月 15.05亿美元 175亿美数据来源：Fireworks官网AI：全栈原生云平台，自建算力打开长期单位经济期权TogetherAI定位为AI原生云平台：以开源模型高性能算力推理系统研化学习。200+多模态开源/开放权重模型（DeepSeek、、、、GLM等）。成本方面，公司称开源路线相对闭源刊例可6–20DecagonTogether表5：TogetherAI产品矩阵服务类型 说明 计费方式ServerlessInference入门级，共享GPU池，按需运行开源模型的最优速方案，依托前沿推理技术研发加持；无需运维底层算力，也不用签订长期使用合约按Token计费ProvisionedThroughput承诺保障专属推理算力，承诺99%服务可用性SLA；接口可无缝适配各类生产业务，无需自行运维底层算力设施以吞吐量单位（PTU）预留专用容量DedicatedInference可在专属隔离算力设施中部署模型，适配追求高推理速度、完整自主管控、最优成本效益的研发团队打造按GPU使用时间计费：on-demand（按需计费）+reservedcapacity（长期稳定业务可以提前预留算力）GPUClusters提供裸金属级算力性能、InfiniBand高速互联网络与托管式集群编排调度服务，同时支持按需算力与预留算力两种灵活计价方案。按GPU使用时间计费：on-demand（按需计费）+reservedcapacity（长期稳定业务可以提前预留算力）Fine-tuning基于客户自有数据对各类开源模型进行微调，并可将模行为。按Token计费数据来源：TogetherAI官网，图AI定价 图AI开源模型库数据来源AI官网 数据来源AI官网是架构FlashAttention-41605TFLOPs/s（71%）；TogetherMegakernelpile，将内核级优化工具调用、推理、视觉语言等。从转租走向自建，关注盈利弹性。Together早期更多依托、Lambda/锁定电（20257200MW电力容量量级45%capex267披露平台月度推理在1年内由约300亿升至超400万亿。、Cursor、Decagon、、Suno26Q2，Together11.52423000Sacra测算，Together的收入来自两条主要业务线：按GPU服务器租赁。30%-60%-70%租赁业务，用于训练、微调和模型服务。图15：TogetherAI年化订单额annualbookings(亿美元)11.50.311.50.3186420年月 年

2026年6月数据来源：BusinessWire，福布斯，267完8C83252B33亿美152%P/ookngs7.2xrmconturs，General500MW算力容量。Together预计未来五年基础设施规模增50倍。表6：TogetherAI融资与估值梳理融资轮次 时间 融资额 投后估值种子轮 2023年5月 2000万美元 -A轮 2023年11月 1.025亿美元 5亿美元A+轮 2024年3月 1.06亿美元 12.5亿美元B轮 2025年2月 3.05亿美元 33亿美元C轮 2026年7月 8亿美元 83亿美数据来源AI官网路透社，Baseten：提供从训练到部署的全栈自下而上采用从训练到部署的全栈MLOps，支持深度定制与灵活部署。面向生产环境的模型部署/推理+GPU调度、推理引擎优（等40%以上，成本节约幅度因模型与负载而异。表7：Baseten产品矩阵服务类型 说明 计费方式DedicatedInference在自有或客户云上，为开源/自定义/微调模型提供大规模、可单租户的生产级推理；含跨云弹性与InferenceStack优化按GPU使用时间计费ModelAPIs预优化前沿开源模型即开即用，适合评测、原型与部分生产调用按Token计费Training按需训练/后训练（含多节点等）；checkpoint可部署至同一推理栈按GPU使用时间计费Chains多步骤、多模型复合AI工作流的生产编排（节点级硬件与弹性）通常随底层Dedicated算力消耗计费ModelLabs模型方在Baseten基建上分发与变现合作/平台分成等数据来源：Baseten官网，表8：Baseten提供三种灵活部署方式部署方式 说明CloudBaseten全托管公有云推理，平台托管数据安全，可全球多区域扩缩，可选单租户集群以增强隔离Self-hosted软件与推理栈部署在客户自有VPC/GPU（客户云），客户完全自主管控全部数据Hybrid客户自有算力承载常规流量，峰值自动调用Baseten公有云算力；客户私有网络内数据由客户完全自主管控，Baseten云端由平台统一托管数据安全数据来源：Baseten官网，GPU20余家云厂商、数十个区域节点的多云算力调度管理系统GPU99.99%。图16：Baseten多云算力调度管理系统（MCM）将分属不同集群、区域、云厂商的算力融合为一套弹性通用的统一算力云平台数据来源：Baseten官网开源降低部署门槛，形成开发者-企业飞轮。器的模型封装，把本地可复现的打包与云端生产部署对齐，减少对专有SDK（Patreon等。TrussTruss图17：Truss可助力部署各类框架训练得到的模型，实现跨任意环境运行数据来源：Baseten官网推出Chains框架布局复合AI，向AgenticAI数字底座演进。BasetenChains是一套用于将高性能复合IS支持对工作流各计算节点独立分配硬件资源并配套弹性扩缩机制，助力开已能高基础设施市场。图18：BasetenChains通过分步骤硬件专属分配，落地端到端语音对话复合AI系统数据来源：Baseten官网市场需求转向生产侧高效推理，推动公司营收与推理量高速增长。10100CursorMercorOpenEvidenceAI公司。202662040Sacra，Baseten2636122亿美元。图19：BasetenARR62626543210

ARR(亿美元)年12月 年月数据来源：Sacra，累计融资总额超2026615F、Spark领投，Sands13026150亿美元估值实现翻倍以上增长。资金将投向人才招聘、算力资源储备，并加速企业端商业化拓展。表9：Baseten融资与估值梳理融资轮次 时间 融资额 投后估值种子轮 2021年 250万美元 -A轮 2023年 1350万美元 -B轮 2024年3月 4000万美元 -C轮 2025年2月 7500万美元 8.25亿美元D轮 2025年9月 1.5亿美元 21.5亿美元E轮 2026年1月 3亿美元 50亿美元F轮 2026年6月 15亿美元 110-130亿美数据来源：Baseten官网智东西，擎与异构算力编排硅基流动是国内活跃的独立词元供应平台，定位更接近海外推理云一层：以自研推理引擎与异构算力编排，提供一站式大模型云服务与词元交付。20251.5%，在独立生态供应商中排名第一；前三名均为云厂商87%。2024-20252025-2030年638%，处于爆发扩容周期。独立平台的稀缺性在于承接不愿被大厂图20：硅基流动定位中立开放的独立AI词元供应平台资料来源：硅基流动招股书图：国内词元市场2024-2025年吞吐量增速1603%，预计年638% 数据来源：硅基流动