2025联想算力基础设施非凡箓-AI大模型算力解决方案手册-联想

AI大模型算力解决方案手册卷首语第一章AI战略制胜法则：智算基础设施重构商业价值3第二章企业AI大模型应用：从试水到规模化落地的全新挑战9第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代3.3九大差异化技术，突破智算效率极限3.6场景化方案推荐，个性化解决业务需求第四章技术突破与商业价值双轮驱动404.3“可用”到“好用”，让创新技术紧贴业务需求4.4一站式解决方案，全周期护航第五章联想AI基础架构赋能不同产业’实现商业价值飞跃515.1联想赋能联宝科技，驱动制造全链效能与成本双优化5.2金融企业基于全栈方案简化运维流程，推动智能化转型第六章未来征程：联想AI生态的全景蓝图与使命承诺56CONTENTS以Γ智」筑基，以Γ算」赋实――迎接AI价值普惠的新纪元算力为舟济沧海，智能作翼破长空。当AI大模型以70%的年增速重塑千行百业，当单月亿级用户涌入AI应用洪流，企业正面临算力效能与落地成本的双重考验。这场由DeepSeek等大模型驱动的技术革命，既需万卡集群的磅礴之力，更求单机部署的绣花功夫――唯有筑牢"算-存-联想以混合式基础设施为支点，撬动AI全场景落地：万全异构智算平台3.0携四大技术创新破局――AI推理加速算法集实现5-10倍性能跃升，编译优化器降低15%训练成本，慢节点自愈系统达成万卡十分钟级故障恢复，专家并行算法削减3倍推理延迟。这一技术底座更通过联想万全AI一体机实现端到端落地：基于联想自研的联想万全异构智算平台管理推理引擎层三级调优技术，将异构算力利用率提供“开箱即用”的本地化AI解决方案，真正实现从技术突破到产业普惠1联想算力基础设施非凡箓—Al大模型算力解决方案手册11联想算力基础设施非凡箓—Al大模型算力解决方案手册本册《非凡箓》浓缩联想智算实践精华：首章揭示DeepSeek技术矩阵如何重构企业竞争力；中篇以多维智能算力匹配、GPU内核态虚拟化、集合通信算法库、AI高效断点续训、AI与HPC异构集群调度等九大差异化技术拆解规模化落地密码，完整诠释联想在异构智算领域的创新成果；终章通过制造、金融等领域的成功案例，诠释软硬协同如何让AI从"可用"到"好用"。这既是技术手册，更是产业跃迁的路线图――以九层之台起于垒土的坚韧，成鲲鹏击浪从兹始的"浩渺行无极，扬帆但信风。"面对AI服务器增速蓝海，联想愿与业界同仁共执算力之楫，在智能时代的沧海中直挂云帆。让我们以这本《非凡箓》为契，共赴"大模型赋实千行，新基建智领万业"的星辰3联想算力基础设施非凡箓—Al大模型算力解决方案手册推动AI普惠并抢占战略制高点在全球数字经济加速向智能化转型的浪潮中，生成式AI技术突破、大模型生态爆发与数据量指数级增长，正重塑企业竞争格局，使得算力需求呈现前站在从传统IT架构向智能决策体系转型的战略窗口。在这场智能革命中，算力集群的弹性扩展能力、算法框架的优化及数据资产的跨域融合，共同构成了数字化转型的坚实迫切需要突破算力孤岛、算法碎片化和数据质量瓶颈。构建全栈协同在此背景下，DeepSeek以“技术普惠+生态开放”为核心，成为推动AI产业变重要力量。随着市场需求的持续攀升，DeepSeek不仅实现了市场空间的显著扩张，积极促进了AI技术的广泛普及，更在深层次上推动了企业对AI大模型应用需求的激增，将智能体平台和生态从“封闭孤立”转变为“开放协同”，惠的AI生态系统。通过这一生态系统，企业能够以较低的成本构建专属的智能中枢，推第一章AI战略制胜法则：智算基础设施重构商业价值4此外，DeepSeek还通过全球化生态布局、开放API与工具等方式，不断降低成本和技术门槛，促进AI技术的广泛应用。值得一提的是，DeepSeek以较低成本训练出效果卓越的V3版本，并免费开放模型结构和权重，实现了技术和价格的双重普惠。这一进展不仅彰显了大模型发展的潜力，也强调了算法、系统化工程、芯片算力和软件栈深度融合的•在模型层面，强化学习和蒸馏技术的使用将进一步推动性能提升。•同时，AI算力基础设施优化和底层优化也至关重要，包括验证FP8精度的有效性、•此外，CUDA底层的PTX虚拟汇编重构和DualPipe算法也将受到重视。5联想算力基础设施非凡箓—Al大模型算力解决方案手册DeepSeek技术矩阵：重构AI时代核心竞争力※从算法优化到架构迭代：DeepSeekV3与R1的技术突围第一章AI战略制胜法则：智算基础设施重构商业价值6算法模型与AI算力基础设施充分融合的工程化范例模型层模型层强化学习RL小模型蒸馏新型强化学习RL小模型蒸馏MOE框架AIAI算力基础设施优化FP8PD分离EP并行PD分离EP并行推理框架底层优化底层优化FlashMLAPTX重构FlashMLAGEMM算子优化DualGEMM算子优化7联想算力基础设施非凡箓—Al大模型算力解决方案手册※AI基础设施建设，迈向高效低成本新时代DeepSeek为AI基础设施建设带来了显著变化：受到更多关注。推理模型能够与智能体直接结合，在业务场景AIAI基础设施建设成本大幅降低，AI智算中心的建设规模缩小，从成百上千节点变为仅需单个或几个节点即可部署相关业务，同时对配套设备和系统环境的要求也降低，减少了技术人员专AIAI基础设施建设更趋于精细化管理，DeepSeek的特性决定了需要精细化管理资源，基础架构层也提供了更开放的管理和调尽管DeepSeek通过技术创新大幅降低了AI应用门槛，但企业在实际落地过程中仍面临诸多挑战。从算力供给与需求的动态失衡，到技术架构与现有IT生态的兼容难题，再到模型性能与工程效率的权衡困境，这些矛盾成为阻碍AI规模化应用的关键瓶颈。在下第一章AI战略制胜法则：智算基础设施重构商业价值8在第一章我们探讨了DeepSeek技术矩阵如何通过算法创新与架构优化（如MoE动态路由、FP8全栈支持等）降低AI应用门槛，但技术的理论优势与企业实际落地效果之间仍存在巨大鸿沟。2024年中国企业AI大模型落地应用现状调研报告显示，AI大9联想算力基础设施非凡箓—Al大模型算力解决方案手册DeepSeek普及阶段的落差背后折射出三大核心矛盾：算力供给与业务需求的动态失衡、技术架构与IT生态的兼容鸿沟，以及模型性能与工程效率的此消彼长。这些矛盾在企业落地DeepSeek技术企业在应用DeepSeek技术时，需根据不同模型应用场景定制方案，然而计算资源短缺运维成本高昂，资源动态分配与调度逻辑复杂，且模型开第二章企业AI大模型应用：从试水到规模化落地的全新挑战10在网络/存储资源方面，为配合DeepSeek的高效传输需求，企业需要设计IB网络与RDMA网络，解决拥塞带宽问题，实现路径优化。在管理平台方面，为更好地融入DeepSeek的生态系统，企业需统一部署平台，构建异构GPU卡管理平台，开发可视化※部署与算力挑战，亟需高效整合并打破性能瓶颈DeepSeek模型在通用基础架构平台中快速部署仍有较高门DeepSeek在国产化环境中需进行性能调优，客户还需探索如何在模型推理或后训练过程中有效提升单节点算力效率，在集DeepSeek一体化平台快速搭建DeepSeek一体化平台也是企业关注的重点，企业希望在最短时间内实现业务响应，让DeepSeek与智能体快础算力平台如何与用户现有模型开发平台适配兼容，实现模型11联想算力基础设施非凡箓—Al大模型算力解决方案手册※DeepSeek一体机性能考量：选型背后的多维博弈看待DeepSeek一体机的性能，需从用户和技术两个维度分析。从用户角度，DeepSeek一体机主要承载智能知识库、翻译、材料总结等应用，企业可根据自身场景需求选择满血版或蒸馏版，其输入/输出能力分别为输入128ktokens/输出512ktokens或输入2ktokens/输出256ktokens，文档处理上下文大小也可按需选择。从技术角度，需评估企业高峰时段的并发访问量，以100人为单位估算，通常同一时间提问的人数（并发）在10-20人左右。此外，未来若需微调，则需更第二章企业AI大模型应用：从试水到规模化落地的全2.2场景化应用实践：明确DeepSeek普及阶段多元挑战后，如何让DeepSeek技术真正落地，转化为实际业13联想算力基础设施非凡箓—Al大模型算力解决方案手册※应用模式1：DeepSeek+知识库—模型能力外挂专业知识库对应场景：通用知识处理—高效完成日常任务对应场景：通用知识处理—高效完成日常任务模型结合RAG（检索增强生成）模式，通过整合大语言模型（LLM）与外部知识库的动态检索能力，RAG通过实时检索权威知识库（如行业文档、实时数据库）为模型提供事实依据，大幅减少LLM因训传统LLM依赖静态训练数据，而RAG允许通过更新外部知识库即时整合新信息（如政），通用大模型缺乏垂直领域知识，RAG通过对接企业私有知识图谱，使模型在特定任务中的准确率提升50%-70%。该模式无需从头训练行业专用模型，通过复用现有数据完成领域适配，开发成本可缩减60%以上，同时敏感数据存储在本地知识库，生成过程仅调用脱敏信息，有效避免企业第二章企业AI大模型应用：从试水到规模化落地的全新挑战14 ※应用模式2：DeepSeek+微调/强化学习—对模型进行特定任务能力增强对应场景：特定任务分析—精准研判复杂问题对应场景：特定任务分析—精准研判复杂问题（ReinforcementLearning）进行特定任务能力增强，两者的协同优化显著提升了模型性能。微调以低成本、高效率实现任务适配，适合数据有限但需快速落地的场景（如企业知识库更新）；强化学习优化复杂目标与长期规划，适合需动态交互和人类偏好对齐的任务（如客服对话、创意写作二者结合（如SFT+RLHF）已成为大模型落地的黄微调仅需少量高质量标注数据即可适配任务，强化学习通过奖励函数替代人工标注减少数据需求，实现了低数据依赖；微调采用参数高效微调技术冻结大部分参数，训练资源需求仅为全参数微调的10%-30%，强化学习利用分布式训练框架结合GPU加速，使大规模模型训练时间缩短50%以上，有效优化了计算成本。同时，强化学习通过奖励函数抑制错误生成，微调结合检索增强生成技术进一步提升生成准确性，实现了人该模式通过微调的高效参数调整和强化学习的策略优化，能够快速适配特定任务，在数据有限的情况下实现高性能表现，同时降低计算成本，提升模型的可控性和领域定制化能力，为企业精准研判复杂问题提供了有力支持，助力企业在特定业务场景中取得更好15联想算力基础设施非凡箓—Al大模型算力解决方案手册※应用模式3：DeepSeek+蒸馏—增强小参数模型推理能力对应场景：小参数模型推理—轻量部署快速响应对应场景：小参数模型推理—轻量部署快速响应DeepSeek的蒸馏技术通过知识高效迁移与多层级参数适配，解决了大模型部署成本高、垂直领域适配难的痛点。其核心价值在于：对1.5B-70B模型实现性能与效率的阶梯式平衡，通过动态知识注入突破训练数据时效限制，构建从边缘到云端的全栈行业解决方案。这一技术路径已推动金融、医疗、智能制造等领域的低成本AI落地，成为企业数字化转计算成本大幅降低，参数量从671B压缩至7B，推理速度提升3-5倍，内存占用减少90%以上，1.5B模型可在消费级GPU（如RTX3090）上运行，云端推理成本仅为大模型的1/10；硬件适配灵活，小模型支持边缘部署，1.5B适配智能手表/摄像头，7B满足本地AI助手需求，70B则专用于云端复杂计算。减少内存占用，同时具备灵活的硬件适配性，能够在边缘设备和云端实现高效部署，满足不同场景的需求，为企业在轻量部署和快速响应方面提供了有效的解决方案，推动AI在第二章企业AI大模型应用：从试水到规模化落地的全新挑战※应用模式4：DeepSeek+二次训练—对模型进行行业能力增强对应场景：行业能力增强—深度赋能专业领域对应场景：行业能力增强—深度赋能专业领域在大型语言模型（LLM）的应用中，二次预训练至关重要。它基于已有的大规模预训练模型，利用行业特定数据和领域知识进行针对性训练，使模型更精准地理解垂直领域的专业内容。支持基于开源框架定制开发、企业私有化部署，可动态调整训练参数与模型架构，适配不同行业需求，精准适配行业知识：让模型深入学习行业专业术语、规范和流程，如提升模型泛化能力：学习多样化行业数据特征，增强模型在不同行业场灵活优化模型性能：根据行业需求调整训练参数和模型结构，在精度和该模式通过二次训练使模型深度适配行业需求，能够理解专业术逻辑，同时支持定制化开发和私有化部署，满足企业个性化需求，17联想算力基础设施非凡箓—Al大模型算力解决方案手册全面拥抱大模型2.0时代联想DeepSeekAI解决方案凭借多层协同架构构建坚实支撑，依托全栈技术体系形成核心驱动，为企业打造覆盖底层算力基础设施到上层业务应用的全链路智能生态，助力企业多层协同架构，筑牢AI运行基石联想的DeepSeekAI解决方案通过分层架构实现各模块的深度协同。该方案具备全面的AI系统设计和部署方式，涵盖从AI管理系统、AI算力集群系统到AI网络系统和存储系※核心管理层：智能中枢，统一指挥AI管理系统如同“数字大脑”，通过管理节点与登录节点对整个系统依托多台大模型训练与大模型推理服务器，通过高速网络连接，共同提※AI算力层：强劲动力，驱动智能AI算力集群系统是解决方案的“动力源泉”，由多台大模型训练与推理AI服务器通过高速网络连接构成。训练服务器擅长处理海量数据下的模型训练任务，提升模型性能；推理服务器则专注于将训练好的模型应用于实际场景，快速响应推理请求，输出准确结果。二者协同，为AI19联想算力基础设施非凡箓—Al大模型算力解决方案手册在AI系统内部的高效传输与管理，为系统的稳定运行提供有力保障。※数据存储层：安全高效的数据仓库该层采用高速分层存储系统与AI存储系统相结合的方式，既满足数据的快速读写需求，又保障不同场景下数据存储的安全性与可靠性，形成第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代203.2全栈技术体系，构建企业级AI技术底座基于多层协同架构的坚实支撑，联想进一步构建了全栈技术体系，打通从算力基础设施到AI开发平台的全链路技术闭环。联想万全异构智算平台通过算力层、平台层、开发层与管理层的垂直整合，不仅实现了异构算力的高效调度，还提供标准化工具链和开放生态，既方便企业开展模型训练，也能支撑业务落地，同时具备可扩展性，满足企业在不同阶段作为联想DeepSeekAI解决方案的核心支撑，联想万全异构智算平台的系统架构自下而21联想算力基础设施非凡箓—Al大模型算力解决方案手册涵盖AI服务器、网络设备以及存储设备。AI服务器通常配置高性能的CP其中GPU凭借强大的并行处理能力，在深度学习等AI应用中发挥着关键作用；网络设备包括IB网络或高速以太网络交换机，它们构建了数据中心内部及数据中心之间的通信基石，确保数据能够快速、高效地传输；存储设备则包含硬盘驱动器（HDD）、固态驱包含调度器与AI算力优化两大模块。调度器包括k8s容器平台和slurm调度平台；AI※AI开发平台该层次集成了各类库和框架，为上层应用程序提供有力支持。例如，AI算法库（如TensorFlow和PyTorch）用于模型的训练与部署；视频编解码器用于处理视频数据；GPU加速库（如CUDA）则用于借助图形处涵盖用户管理、项目管理、资源管理、审批计费、性能监控、报警日个方面。通过精细化的管理运营，确保平台的稳定运行与高效管理，为整个AI开发与应总体而言，联想万全异构智算平台全面展示了从用户界面到硬件资源的整个软件系统堆栈，每个层次都为上一层提供了不可或缺的支持与服务。这种分层设计不仅有助于实现系统的模块化与可扩展性，更使得系统能够灵活应对需求变化与规模增长，为企业的AI发第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代223.33.3GPU内核态虚拟化、联想集合通信算法库、AI高效断点续训技术、AI与HPC异构集群超级调度器等差异化技术，更实现了全面升级，包含AI推理加速算法集，可帮助AI推理性能提升5-10倍；AI编译优化器，使得训练和推理计算成本至少降低15%；AI训推慢节点故障预测与自愈系统，实现百卡秒级、千卡分钟级、万卡十分钟级故障自愈※多维智能算力匹配技术构建算力魔方知识库，集成海量硬件评测与AI算子算法，标识AI场景、算法与集群配置的匹配关系。用户输入场景和数据，系统自动规划调度最※GPU内核态虚拟化技术02针对AI推理和中小训练，联想采用GPU内核态虚拟化算法，突破操作系统层用户态虚拟化局限，深度控制GPU，提升vGP23联想算力基础设施非凡箓—Al大模型算力解决方案手册※集合通信算法库技术03联想万全异构智算平台自动感知集群网络拓扑，集成增强型集合通信算法，优化数据传输路径。千卡规模集群网络通信效率提升超10%，集群规模越大，效果越显著，突破集群※AI高效断点续训技术04※AI与HPC异构集群调度技术05第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代24※AI推理加速算法集06包含多项关键技术。INT8/FP16混合精度量化技术，在保证模型精度的同时降低计算量和存储需求；推测推理技术，提前预测并处理可能的计算分支，减少不必要的潜在注意力机制（MLA优化注意力计算过程，提升推理速度；分布式并行技术，将推理任务分配到多个计算节点并行处理，大幅提高推理效率。这些技术共同作用，显※AI编译优化器07通过多种技术手段降低训练和推理开销。操作融合（OperatorFusion）技术将多个相关操作合并为一个操作，减少内存访问和数据传输次数；操作替换（OperatorSubstitution）技术用更高效的实现替换低效操作，提高计算效率；路径优化（Path25联想算力基础设施非凡箓—Al大模型算力解决方案手册Optimization）技术对计算图的执行路径进行优化，选择最优执行顺序，减少计算时间和资源消耗。通过这些技术，AI编译优化器有效降低了训练和推理过程中的开销，提升※AI训推故障自愈系统08具备强大的实时监测和故障处理能力。通过异步实时状态监测与综合故障分析，系统能够及时发现训练和推理过程中的异常情况；异步备份与恢复功能确保在出现故障时能够快速恢复到正常状态；故障诊断与预测功能提前发现潜在故障隐患，实现系统有效解决了慢节点检测困难导致性能低下的问题，提高了集群效率，保障了训练和推第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代26※专家并行通信算法09针对专家模型架构进行深度优化。在专家模型训练中，存在AlltoAll和AllReduce等通信操作，该算法通过创新技术提高通信效率。例如，在专家并行架构中优化通减少通信延迟和数据传输量；采用高效的通信算法，确保各计算节点之确传输。通过这些优化，专家并行通信算法有效提升了专家模型的训练效率，加速了模型27联想算力基础设施非凡箓—Al大模型算力解决方案手册※两大创新新品赋能’拓展AI算力边界在上述差异化技术与全面升级的基础上，联想还推出了两款创新新品，进一步丰富和强化联想问天WA7880aG3是联想推出的一款面向大模型训练的AI服务器，它凝结了联想在服务器领域30多年的积累和对AI算力的深刻洞察，具备多元算力、灵活配置与节能高效等显著特点。这款服务器是国内首款支持OAM2.0模组的服务器。它可兼容国内主流GPU厂商的OAM标准AI加速芯片，提供灵活多样的算力选择，满足不同应用场景随着大模型参数规模的增长和数据量的增加，AI应用对计算资源的需求日益提高，组建AI服务器集群成为必然。联想问天WA7880aG3提供了充分的可扩展性，方便用户构建AI算力集群。同时，它还可通过部署联想问天海神液冷方案，结合独立风道设计，降低运行时的能耗与热量积聚，实现高效制冷。这一创新设计不仅为用户打造了环保高效的02训推一体革新’打造绿色AI02训推一体革新’打造绿色AI引擎生成式AI等前沿应用场景量身定制。它具备卓越的可扩展性、多样化的计算能力以及高此外，它支持国产品牌在内的多品牌AI加速卡，拥有丰富的AI生态。针对配备多张AI加速卡的高密度计算应用场景，联想问天WA5480G5还提供了CPU、GPU以及内存的液冷散热设计。这一设计不仅提升了系统的散热效率，也彰显了联想对于第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代283.4适配多场景的全周期方案，全栈技术体系的完备性，最终需通过场景化方案落地实现技术价值转化。联想基于对企业级AI需求的深度洞察，推出从集群部署到轻量化一体机的全周期方案矩阵。这些方案不仅覆盖高性能计算、模型训练等核心场景，更通过预置优化参数与行业模板，降低企业※集群部署场景全面优化计算、存储、网络和软件等各个层次，打造出一在满足高性能计算、大规模数据处理及复杂模型训练的需求，确保AI应用稳定运行且高效执行。这一方案特别适合需要处理海量数据、进行复杂模型训练的科研机构和企业级用29联想算力基础设施非凡箓—Al大模型算力解决方案手册此方案深度优化联想异构智算平台，实现硬件与软件的全面提升，不仅显著增强了AI应用的性能和效率，还构建了稳定、可靠、高效的AI软件生态。该方案更适合对AI应用性能和效率有较高要求的企业和个人开发者，以及需要快速部署和集成AI应用的企业用第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代303.5联想万全AI一体机产品,联想万全AI一体机，是基于联想自研的联想万全异构智算平台用户打造“开箱即用”的大模型推理落地方案。它深度适配联想问天AI联想问天WA7785aG3、联想问天WA5480G3/G5等)，通过三层深度调优技术(联想万全AI一体机集便捷交付、高效推理、灵活适配等优势于一身，预装DeepSeek大模型，支持可视化对话、Prompt定制等功能，软硬件深度定制，借助异构算力实现高效推理，还配备管理平台与评测工具，提供专业定制服务，支持金融31联想算力基础设施非凡箓—Al大模型算力解决方案手册•提供全面易用的可视化管理平台和性能评测工具，•支持多模型推理“新鲜”该一体机具有显著的亮点。首先是深度调优，最大化用户收益。针对国内主流AI大模型•提供全面易用的可视化管理平台和性能评测工具，•支持多模型推理“新鲜”tokens/秒AI应用高效落地•软硬件深度定制，支持国产硬件和•联想万全异构智算平台管理软件，深度适配联想问天AI服务器硬件Prompt定制、知识库挂载，•支持二次开发和API接口调用，开箱即用，无需复杂第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代32万全AI一体机具备丰富的应用场景，涵盖代码生成、问办助手等多领域。管理平台集成大模型及应用使能工具，支持模型开发。硬件和模型工具33联想算力基础设施非凡箓—Al大模型算力解决方案手册020304050607动态问数：实时响应各种数据查询需求，提供准确、及时的数据分析结果，帮品牌营销：大模型能够分析消费者心理和市场趋势，为品牌营销提供精准的策代码生成：精准理解复杂的编程逻辑和需求，自动生成高质量的代码应急方案：快速分析突发事件的影响和需求，生成有效的应急方案，降低风险财务报表：自动化处理和分析财务数据，生成准确、规范的财务报表，帮助企第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代34万全AI软件产品家族非常丰富，一体机管理平台有模型工具包、极速推理、微调优化等版本，适配不同用户规模与算力芯片；异构智算平台分标准版和高级35联想算力基础设施非凡箓—Al大模型算力解决方案手册下图展示的是万全AI一体机极速推理版的功能菜单。它以DeepSeek模型为支撑，具备模型优化、管理平台、测试工具等丰富功能，涵盖知识库创建、推理会话等应亮点优势亮点优势DeepSeek模型落地最小单元、支持商用&国产、私域推理、知识增强重点应用场景重点应用场景NoNo理解、知识抽取、函数调用、角色扮演……模型优化管理平台测试工具知识库创建知识库推理推理会话智能搜索智能体开发（AIForce）智能应用（应用一体机）硬件配套服务DeepSeekR1-671B(FP8)DeepSeek-R1-Distill-Qwen32B（*其他非优化模型可购买服务部署）模型吞吐性能测试,包括不限于inputlen，outputlen，并发数，TTFT，TPOT上传知识库、文本切分、文本块向量化、知识库管理的分级分权多模型选择、对话框支持的输入长度可配置、语音转文字、知识库支持多轮会话、知识库检索提供多种联网搜索扩展工具模板供，例如Bing以及博查等模型优化服务，升级服务，应用定制开发服务、知识库构建专家服务见硬件选型指导首次安装部署+1年软件技术支持联想万全AI一体机部署架构包含硬件层、OS操作系统、GPU运行时环境等，通过API第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代36在构建高效人工智能服务体系的过程中，实现大模通过简洁的操作系统安装、高效的模型部署与启动、细致的配置与四步二小时，大模型服务开箱即用操作系统安装操作系统安装1.安装插座系统2.安装docker启动和配置环境部署和启动模型部署和启动模型1.安装模型镜像2.安装推理引擎镜像3.注册软件授权配置和测试配置和测试2.启动模型服务并连3.运行测试任务或脚本模型体验和测试模型体验和测试1.配置应用工具2.体验大模型应用一键部署和启动模型服务，为企业已提供开箱即用的部署体验，快速体验模型应用。一键部署和启动模型服务，为企业已提供开箱即用的部署体验，快速体验模型应用。37联想算力基础设施非凡箓—Al大模型算力解决方案手册3.63.6联想DeepSeekAI解决方案依托创新架构与万全异构智算平台的算力支撑，通过融合专业知识库、定制化微调、轻量化蒸馏等技术，在通用知识处理增强、小参数模型推理等场景中可实现高效智能服务。围绕这些典型的业务场景，联想提DeepSeek+DeepSeek+微调/强化学习DeepSeek+二第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代38/AMDMI308x192GB*1.WA7785aG3MI308x192GB*61.WA5480G3L2048GB*21.WA7785aG3MI308x192GB*25012.WR5220G3*22.WR5220G3*62.WR5220G3*13.IB/ROCE交换机2.WR5220G3*13.IB/ROCE交换机*964.网络交换机*303.DM7000*1DSS-G100*1台DSS-G210-Gen3*1DSS-G280*11.WA5480G3沐曦C55064GB*41.WA5480G3沐曦C55064GB*26WA5480G3沐曦C55064GB/2.WR5220G3*22.WR5220G3*12.WR5220G3*13.S698064口400G交换机*14.DM7000*1想DSS-G100*1台联想DSS-G210-Gen3*1台39联想算力基础设施非凡箓—Al大模型算力解决方案手册首波适配DeepSeek的硬核实力DeepSeek的本地化部署和微调，正成为国内企业级AI应用落地的首选方案。早在DeepSeek推出一个月后，联想便率先对大模型推理AI算力平台联想问天WA7785a展现出联想在AI算力领域的前瞻性布41联想算力基础设施非凡箓—Al大模型算力解决方案手册联想万全异构智算平台在大模型推理优化领域已实现性能突破，后集群训练MFU（计算利用率）从30%提升至60%（行业里程碑式突破，以东数西算第一智算枢纽为标杆），推理场景下极限吞吐量达12,000tokens/s（全速运平台支持通用计算、科学计算与AI算力集群的统一管理，通过异构资源调度技术，实现对CPU、GPU、DPU等多元处理器的高效协同。这种灵活架构精准匹配国内DeepSeek平台支持通用计算、科学计算与AI算力集群的统一管理，通过异构资源调度技术，实现对CPU、GPU、DPU等多元处理器的高效协同。这种灵活架构精准匹配国内DeepSeek应用场景的算力需求，为企业第四章技术突破与商业价值双轮驱动424.24.2破解AI落地最后一公里虽然联想在适配DeepSeek大模型时发现，实现了单机部署DeepSeek-R1满血版，但企业实际应用过程中仍面临显存不足、处理效率低等问题，成为阻碍AI应用规模化落地的“最后一公里”。针对这些技术难点，联想通过软硬件协同优化，提升模型性能，真首先，联想通过技术创新大幅提升了显存利用率，进而实现了性能的提升。以联想问天WA7785aG3为例，在768GBGPU显存条件下，即可部署DeepSeek671BR1和V3TTFT（首次响应时间）等关键指标，保障用户获得流畅高效的AI43联想算力基础设施非凡箓—Al大模型算力解决方案手册其次，联想问天WA7785aG3与DeepSeek-R1进行了深度适配调优。这款服务器内嵌TransfomerEngine，支持FP8优化。其显存超过1THBM3e，能够满足DeepSeek-R1在FP8精度下不低于800GB的显存容量需求，显存带宽高达4.9TB/s，可在推理解码阶段实现极致加速；GPUP2P通信带宽达900GB/s，单机提供3.2TB/s的高带宽低延迟网络扩展，能够有效降低通信延迟。显存带宽达5.3TB/s可加速训练过程，GPU聚合带宽达896GB/s，充分满足了DeepSeek-R1满血版大模型并行计算时跨节点的第四章技术突破与商业价值双轮驱动444.3“可用”到“好用”，当技术突破解决了AI落地的性能瓶颈，如何将技术能力转化为切实的商业价值，成为企业关注的核心命题。联想深知，算力效能的释放不仅需要技术支撑，更需要贴合业务场景的深度调优。基于在AI基础设施领域的深厚积累，联想从企业实际需求出发，通过专业的调优策略与资源调度，将技术性能转化为驱动业务增长的核心动能，实现从“可用”联想在AI基础设施领域拥有专业的调优实力，系统极限吞吐量可达12,000tokens/s。通过深度优化计算、存储、网络与软件全维度架构，联想已实现系统性能的全对不同企业特性，支持按最高并发量10%-20%进行弹性调优，确保系统在各种负载场景基于典型应用场景的实测数据显示，联想在智能对话、知识库译及文本解析等核心场景中，均能实现精准的性能适配。通过定制化调优策略与高效资源调度，方案不仅保障了系统的稳定性与可靠性，更实现了算力资源的智能化配置。这种"场景驱动+弹性适配"的双重优势，使企业级用户得以获得兼具性能与能效的AI基础设45联想算力基础设施非凡箓—Al大模型算力解决方案手册4.44.4当算力效能的提升与商业价值的释放为企业发展注入强劲与持续创新，成为构建智算生态的关键。企业对算力的需求不仅局限覆盖规划、部署、运维的全生命周期服务。因此，联想以万全异构智算平台为从硬件设施、软件服务到生态协同的一站式解决方案，为企业提供长效护航，助力其在智※万全异构智算平台：一站式“DeepSeek+”推理、微调方案第四章技术突破与商业价值双轮驱动46在DeepSeek本地化部署中，异构GPU适配是一大挑战，国产GPU性能差异大，对DeepSeek支持能力不同，评估难度高。联想万全异构智算平台具备多元异构管理功能，多元异构算力系统可实现软硬件融合设计，支持一键模型部署。通过该平台，企业能够有效应对异构GPU适配难题，为DeepSeek的本地化提供灵活且高效的硬件环境支持，更好地利用DeepSeekDeepSeek的推理和训练对算力需需要大量算力资源满足性能及并发需求；训练时，基于DeepSeek-R1的大模型微调环节多、算力需求大且故障率高。联想万全异构智算平台提供高效算力供给，凭借优化的硬件配置、卓越的算力调度性能和极致弹性架构，确保在推理和基于DeepSeek-R1进行大模型微调涉及诸多环节，开发环节多、工具复杂，微调过程中的故障和性能瓶颈会影响训练时长，需断点续训和性能调构智算平台提供稳定的开发全链路支撑，训练推任务运行稳定可靠，开易用，能够保障微调过程的顺利进行，助力企业快速构建基于DeepSeek的大模47联想算力基础设施非凡箓—Al大模型算力解决方案手册※智能部署体系，极速上线AI生产环境联想DeepSeek集群联想DeepSeek私有化部署应用接入层应用接入层70B32B满血671B236B智能体应用智能体应用智能体开发平台Token租赁平台微调+训推推理用户数WA5480G38xOAM/NVLink服务器WA54808xPCIeGPU服务器WR5220/WR52254xPCIeGPU服务器万级32台8台64台16台32台千级8台2台16台8台百级4台2台8台2台万全支持差异化技术调优·训练GPU卡时成本降30%·同等算力推理服务用户数增加，强于业界专家部署30%评测国产GPU厂商新训推DeepSeek私有部署一体机户并发场景，兼容主流GPU第四章技术突破与商业价值双轮驱动48深度评测国产GPU新训推技深度评测国产GPU新训推技本降低30%，推理服务用户私有化一体机实现开箱即用，深度联动联想异构平台算力资源，形成"硬※智算中心建设：持续盈利的算力方法论49联想算力基础设施非凡箓—Al大模型算力解决方案手册适配DeepSeek的技术突破，到破解AI落地难题的精准攻坚；从激活商业价值的专业全栈式AI生态闭环：从高性能工作站、服务器等硬件基石，到算力架构设计、模型开发部署的技术方案，再到覆盖前期规划、售后运维的全周期臻算服务，将技术创新深度融入每一个服务环节。这种全生命周期的赋能模式，不仅为企业提供性能卓越的算力产通过持续优化与价值深挖，助力企业高效整合算力资源，构建可迭代、可持续盈利的算力第四章技术突破与商业价值双轮驱动50联想AI基础架构赋能不同产业，从金融行业算力效率跃迁到制造全链效能重构，联想以全栈智算能力为支点，深度融合技术方案与业务场景，打通资源统筹、性能优化到商业价值的转化闭环，为产业智能化转型51联想算力基础设施非凡箓—Al大模型算力解决方案手册属于国家评定的智能制造示范基地、工业设计中心以及绿色工厂，全球每新售出8台笔※智算引擎激活全链潜能，动态适配应对复杂变量面对日益复杂的业务需求与行业竞争压力，联宝科技亟需构建一个强大的智算平台，深度优化公司研、产、供、销、服等各环节，为未来的制造业务提供更部署优化门槛：业界几乎没有DeepSeek满血版部署成功的案例，部署优化缺乏成熟的资源调度分配：除DeepSeek外，还需拟部署训练千问等其他模型，既面临各模型的技分期建设：分期建设一个千万级集群，面临数据迁移、集群扩展等问题，需要一个平滑且第五章联想AI基础架构赋能不同产业，实现商业价值飞跃52※从资源统筹到全链协同，智算底座释放制造新动能联想以万全异构智算平台为核心，为联宝科技量身定制了WA7785aG3集群+IB网络+通过早期多轮沟通精准规划，联想率先攻克满血版DeepSeek部署难题，确保集依托全球供应链体系锁定核心算力资源，联动技术团队完成部署调优，化解硬件兼提供从硬件交付到算法落地的端到端支持，兼容DeepSeek与千问等多模型并行训最终，联宝科技智算平台实现全链路效能跃升：通过DeepSeek等大模型的深度应用，生产流程优化效率显著提升，运营成本有效降低；多模型资源调度与集群扩展业自研制造行业大模型提供了坚实底座，推动研发、生产、供应链、销售与服同升级。同时，联想的全周期服务模式大幅缩短了技术落地周期，使IT团队得以聚焦业联宝科技的成功实践，不仅验证了联想在智算领域的深厚技术积淀与行业洞察能力，更彰显了“技术+场景”深度融合对制造业智能化转型的驱动价值。未来，联想将持续以客53联想算力基础设施非凡箓—Al大模型算力解决方案手册5.25.2某知名金融企业是国内15家银行系公募基金公司之一，高标准，融合了金融机构的品牌影响力、专业经验、优质资源及先进技术，形合优势。依托雄厚的资本实力，公司正稳步推动业务向多元化方向拓展，同时积极探索智※拥抱Deepseek模型应用热潮，个性化部署解决方案随着Deepseek大模型应用的爆发式增长，该企业的IT及业务团队面临多重挑战：在模团