「Agent 工程化」方向-AI Gateway × To ken Key 企业 AI 规模化使用的新范式

AIGateway

×Token

Key企业

AI

规模化使用的新范式智能体即服务（Agent

as

a

Service）百应生态营销销售

客户服务产品开发

企业运营电商运营法律合规智能排产智能巡店···企业级可信安全数字角色伙伴百应智能体AI

能力一站交付数字角色一开即用丰富技能一键添加Harness层Agent核心

丨接入层

丨工具层

丨知识层词元中枢Token

Hub边侧词元（百应AI主机）AI

主机本地模型丨高效推理

丨边云混合智能调度词元即服务（Token

as

a

Service）

智能体驱动的AI原生平台边云协同混合调度全模态安全护栏

高可用守护Token

Plan词元宝（Token

Key）AI

主机

mini云端模型切换丨分层记忆

丨新进式检索AI主机

Pro多主机集联

丨异构算力云化词元服务交付伙伴专业场景通用场景技术伙伴AI运维Skill库Skill扫描AI原生设备内置百应Claw商用级安全可控全新生产力为智能体而生

边云混合架构联想百应AI主机软硬服三位一体的硅基员工解决方案联想百应AI主机mini

100联想百应AI主机Pro

700联想百应AI主机300「超级团队」高能利器「超级专家」全能首选「超级个体」轻量主力自动执行

自主进化专业能力精细权限通用能力内容安全Agent

内核能耗、

FLOPs、延迟、内存等作为一等约束上下文引擎实现用户及企业级别的本地算力场景更优的上下文引擎，做主动上下文管理，避免小模型上下文爆掉，进一步节省Token本地工具与沙箱工具数量及接入方式进一步优化

，按需动态加载；

沙箱隔离、权限分级、人工审批；解决

隐私和权限问题推理运行时层自研

+统一纳管，屏蔽CPU/GPU/NPU算力差异，支持模型热更新与多精度调度，本地算力更友好边云模型路由基于任务分级分类考虑执行模型，通过多目标优化进行模型切换接入层Agent核心模型&推理引擎工具层本地知识引擎百应自研Harness云化

Token（AI网关）

统一接入全链路观测权限管控智能路由账单用量支付订阅联想百应TaaS平台联想百应AI

主机MiniCenterPro

DeepSeek

Mini

Max

安全交付

Qwe

n

模型聚合

GLM

Kimi

技术承载设备绑定

，用量透明安全存储

，一键加密统一采购

，灵活分配即插即用

，一键配置Token服务Token

Key联想百应智能体网关MCP

Gateway调用方应用/团队/

租户AI网关——企业AI规模化使用核心枢纽模型

工具

Agent

Model

APIAgent

API用量难管体验难查接入分散授权不清AI单服务固定服务，模型名透传或改写单一业务先跑通按模型名请求中的

model

匹配服务同一入口开放多个模型按权重按配置比例分发请求多服务分流与灰度验证按观测指标响应时间、成功率等运行指标随服务状态调整流量智能路由请求特征

+能力

+优化目标按成本、速度或质量选模型AIG

ModelAPI：统一模型入口与路由https://api.baiying.lenovo.com/v

1•

Base

Path

+/chat/completions•

上游凭证由AI服务管理，

地址与模型仅作示意文本生成支持OpenAI兼容/Anthropic协议多模态按场景选择协议，具体能力需验证Model

API

五种路由方式路由方式model:Qwen-plus

应用接入与转发典型使用场景使用者API应用凭证模型选择访问地址分发依据Key消费者授权的API开放范围coding-api按模型名assistant-api指定问答模型按模型名partner-api约定的模型能力权限管控：以消费者为治理单元模型隔离需拆分

ModelAPI并分别授权；开启认证后

，未授权调用会被拒绝。两类凭证，分开管理

授权设计示例资源授权用量约束身份认证内容检测允许的代码模型04030102单服务服务是否稳定QPS、成功率、错误状态响应体验如何首包

RT、流式/非流式

RT用量花在哪里输入、

输出、总Token谁在使用哪个模型消费者、模型、供应商治理策略是否有效限流、

Fallback、错误、风险可观测：让体验和消耗有据可查

一次调用的观测维度关注问题用户开始收到响应前的等待从发出请求到完整响应结束发出请求

首包返回

响应完成

流式响应的两个时间关键指标/事件首包流式RTRT

备用模型

1稳定性：多级

Fallback与瞬时保护多级

Fallback保障可用性

备用模型2建议仅

Fallback后端服务错误周期配额瞬时限流主模型FinOps：

配额、用量管控与统计Credits配额Token配额用量统计用量管控联想百应词元宝：Token

Key04

,一人一

Key

，插入即授权，

拔出即失效词元宝已获13项国家发明专利

，

入选中国信通院“高质量词元服务标杆案例”并成为首批

“

企业级

Token

服务性能达标单位”。03

统一采购，按需分配，用量可查痛点&价值01

软硬服一体化能力AK本地加密存储，权益实体交付

，安全便携02

即插即用、

AI工具一键配置物理产品核心特性01

OPC

|

跨境电商非技术背景跨境电商从业者需要独立完成商品推广与营销物料设计

如何使用Mini

100开箱即用，常用AI工具词元宝一键配置多语种素材02

企业团队｜多岗协作企业管理员面对研发、运营、行政的Token需求需要让不同岗位用好AI，并管住使用权限如何使用共同方案AI主机

Mini

100开箱即用百应词元宝一键配置设备绑定

联想百应Token

Plan百应

Harness模型与额度难分配

，API

Key下发后易外传 遇到的困难卡在起步

：模型不会接，工具不会配

带来的改变

从分散使用，到权限可控、用量可见

百应词元宝：从一人经营到团队协作从不会配置，到独立完成营销物料统一采购→