大模型技术白皮书

大模型技术白皮书同方计算机有限公司01大模型行业发展分析02同方计算机大模型能力03大模型高阶实施策略与路径04大模型行业案例分享大模型行业应用发展：跨越拐点，加速进入大模型时代AI大模型技术快速成熟，AI算法与应用的开发、上线部署与业务发放等过程均大幅简化小模型时代大模型时代 翻译翻译外部开源可获取的约5个客户自定义算子数量可控334ChatGPT将加速行业向智能化发展，垂直领域大模型和场景深度融合客户需求基于客户需求基于AI引擎满足客户的需求1.某北京律师事务所2.某贵州电力集团3.某北京出版集团4.某国际银行科技部(广州)大模型重塑产业格局，行业核心场景，迎来生产力变革新机遇海量离散小模型向少数大模型汇聚少数大模型汇聚智能风控o金融o办公o办公智能对话o社交o编程智能对话o社交o编程短文创作短文创作AIGCAIGC大模型 模型基础能力模型能力开放营销行业知识结合o设计o消费55GG大模型产业链：大模型市场细分领域细分市场场景为王AI+SaaS服务应用模型微调训练底层数据基础服务巨头阵地产品涌现openAI文心一言通义千问大厂通用大模型产品云基础设施文本数据 算力算法音频视频图片细分市场场景为王AI+SaaS服务应用模型微调训练底层数据基础服务巨头阵地产品涌现openAI文心一言通义千问大厂通用大模型产品云基础设施文本数据 算力算法音频视频图片大模型产业链：下游发展方向专用大模型专用大模型通用预训练+专业领域训练=业务场景应用通用化向专用化演进反哺数据技术落地通用大模型统一架构、统一模态、统一任务通用化与专用化并进专业化令通用化增强通用化向专用化演进反哺数据技术落地通用大模型统一架构、统一模态、统一任务通用化与专用化并进专业化令通用化增强平台化与简易化并进平台化与简易化并进微微调工具大模型应用风险数据清洗能力不足数据整备性差鲁棒性不足。。。数据清洗能力不足数据整备性差鲁棒性不足。。。侵犯个人隐私诱发犯罪冲击教育体系。。。侵犯个人隐私诱发犯罪冲击教育体系。。。形成经济寡头垄断市场颠覆性革命。。。形成经济寡头垄断市场颠覆性革命。。。政治导向舆论引导监管失能。。。政治导向舆论引导监管失能。。。应对措施同方计算机大模型能力1.大模型研究能力2.大模型咨询规划能力3.应用方案落地能力4.算力基础设施能力5.数据服务能力6.安全服务能力技术深度研究已经在ChatGPT相关的大模型展开研究英×英×英×英×-√英√英-√速训练自有ChatGPT）英√StabilityAI英√英英行业应用研究银行、保险、电力、工业、文创、专业服务等行业行业服务•班组管理••班组管理•图谱检索•维修诊断•保险理赔•智能营销•接报案•车辆定损•智能问答•文本生成•代码生成•测试与运维企业管理••••••••写岗位需求提取岗位画像提取人才画像简历筛选自动化面试•各类公文撰写•政策法规解读•员工自动访谈•员工离职调研•人才画像总结•企业知识库•咨询问答•文案生成•图片生成•翻译•政策法规咨询•问题解决咨询•智能个人助理•工单自动提报•自动外呼通知专业服务•领域知识获取•分析框架提供•分析结果解读•报告附注生成•报告自动生成•法律知识查询•帮助合同起草•法律咨询服务•各类文书撰写•诉讼纠纷支持•市场调研报告•营销方案撰写•营销推广优化•客户分析报告•决策建议提供•自动化编程•代码翻译/检查•产品需求文档•测试用例编写•自动化测试I1.AI虚拟数字人场景应用展厅讲解员直接利用GPT强大的理解能力+知识库挂载+数字人形象，实现展厅数字人开发落地应用。GPT语音识别关键词提取知识库检索上下文构建答案及过滤AzureGPTl语义理解和对话技术TTS语音转唇形TTSAzure输出输出微表情控制I2.AI数字孪生建模和仿真引擎场景应用3D自动建模自动建模技术：基于语义分割照片阵列建模少量样本即可快速建模I3.AI咨询业务的应用资料采集、信息提炼、编写文档、资料整理、互动交流AIGC可以在收集资料、信息提炼、编制文档、互动交流、资料整理等五个方面辅助咨询业务。互动交流：在语音翻译、图像、视频等内容提高客户培训体验资料整理：对成果整理形成知识库，提高AI能力资料采集：收集相关的专业知识和法规标准。提高学习效率，扩展顾问的知识面，使能跨专业服务能力。信息提炼：1、对采集到的资料进行整理和提炼,1、对采集到的资料进行整理和提炼,形成纪要；2、协助顾问分析问题，提供通用解决方案、案例互动交流资料整理AIGC编制文档：1、协助顾问制定文档提纲和初稿2、生成图片、视频，把顾问的想法用多种媒体模态呈现出来互动交流资料整理AIGC编制文档：1、协助顾问制定文档提纲和初稿2、生成图片、视频，把顾问的想法用多种媒体模态呈现出来信息提炼编制文档协助顾问撰写解决方案文档。算力基础设施能力图应用场景人工智能实验室、实训平台模拟实验、药物研发模型应用层人工智能算力平台，引领城市智能变革图应用场景人工智能实验室、实训平台模拟实验、药物研发模型应用层平台组件层数据处理算法开发训练推理纳管调度用户管理基础设施层基础设施层标准规范体系安全保障体系标准规范体系安全保障体系（数字图像预处理器）集合通信库：（数字图像预处理器）集合通信库：ResNet50MobileNetV1视图分析、内容审核搜索NLP广告推荐昇腾910B支持4/8910训练服务器A100昇腾910注：模型精度FP16，静态Shape昇腾910B支持4/8910训练服务器基础设施层2：推理平台Atlas300IAtlas300IProAtlas300VProAtlas300T训练卡支持1~8张插卡卡式支持1或2张卡搜索推荐金融大脑语音识别内容审核超高能效领先业界主流产品超高能效领先业界主流产品20%安全启动领先业界主流产品提升50%平台组件：CANN，软硬协同充分释放澎湃算力加速模型训练计算机视觉ResNet-50CANN3.0自然语言处理BERT-LargeCANN3.0提升推理效率高性能推理引擎推理效率提升完善生态满足度全面覆盖典型场景应用测试基准:ResNet-50V1.5model,ImageNet-1kdataset平台组件：MindSpore及服务能力 支持全场景应用支持全场景部署模型跨平台免转换 学术生态开发者生态 学术生态开发者生态科研创新团队高校合作分子模拟套件咨询服务可行性分析可行性分析数据集管理数据集管理应用定制应用定制一站式AI开发平台数据处理、模型开发、模型优化、模型部署、推理高效低成本数据标注&低代码/无代码模型开发与优化&一键部署&丰富的预置模型与工原始数据模型部署模型开发原始数据模型部署推理服务推理服务模型优化数据标注AI开发平台，模型持续高效迭代，具有超高能效0离线数据采集数据集制作数据标注场景化模型大模型数据服务全景数据清洗向量数据库模型训练模型数据清洗向量数据库模型训练模型微调部署发布数据收集服务—基础建设数据集成数据服务数据服务数据应用数据应用数据分析数据分析数据治理数据治理数据湖数据湖BI分析、报表流式计算数据科学人工智能数据应用层多种负载查询优化层缓存加速索引加速数据管控层数据管理权限管理优化治理数据存储层统一存储多重副本多种类型对接国内各大公有云厂商，提供云采购的技术及商务支持，提高对公有云商务采购的便捷性，提升服务满意度多云厂商管理CMVM云产品配置推荐云产品转售技术咨询云集成采购厂商推荐云产品选型对接国内各大公有云厂商，提供云采购的技术及商务支持，提高对公有云商务采购的便捷性，提升服务满意度多云厂商管理CMVM云产品配置推荐云产品转售技术咨询云集成采购厂商推荐云产品选型服务—数据收集及清洗规范设计数据治理数据采集数据建模数据开发数据标注大模型与向量数据库协同流程大模型与向量数据库协同流程行业/企业数据收集数据清洗文件文件数据片段数据片段数据嵌入数据嵌入提问提问数据嵌入数据嵌入微调大模型微调大模型提示提示+上下文建立路线应用路线向量数据库(向量数据库(Vectordatabase)通用向量库通用向量库服务—模型训练专属向量数据库建立方法：GPT治理后数据GPT治理后数据分布式数据库（向量数据库）分布式数据库（向量数据库）①企业资料②专业知识③个人习惯提示词提示词模型企业级向量数据库企业级向量数据库……服务—模型训练及微调输入输入词向量词向量据库神经网络模块多头自注意力层归一化层归一化前向神经网络预测结果概率分布!神经网络模块神经网络模块输出结果生成神经网络模块多头自注意力层归一化层归一化前向神经网络预测结果概率分布!神经网络模块神经网络模块输出结果生成神经网络模块神经网络模块层归一化 适配层层归一化低秩层预测结果概率分布预测结果概率分布服务—模型训练及微调大模型企业应用建设示例：问题输入结果输出客户专属大模型应用前端平台能力客户专属大模型应用前端①嵌入解析程序②通用大模型③自建向量数据库①解析问题②解析向量云基础设施服务—模型训练及微调模型生态定制化模型训练预训练模型行业大模型场景大模型业务大模型细分小模型专业/私有语料向量数据库模型微调图库集研识验例术图库集研识验例术知经案学域业业业领行行行息息阵信信矩息例例力信案案能商售销发销•…ChatGLM-6B训练数据量：ChatGLM-6B训练数据量：1Ttokens模型参数量：6B语言支持：中英LLaMA训练数据量：1T/1模型参数量：7B、语言支持：英文.4Ttokens13B、.4Ttokens13B、33B、65B模型参数量：560M、1.1B、1.7B、3B、7.1B、176B语言支持：英文t! t! 通用语料 算力平台预训练模型（PLM）服务—数据质量管理 采集存储报警质量问题管理检查质量检测管理报警质量问题管理检查质量检测管理质量管理工具数据质量问题分析数据质量问题分析数据质量问题分析数据质量问题分析调度中心调度中心服务—数据安全及隐私数据安全平台类数据安全平台类数据安全能力类数据安全能力类数据资产发现与可视化数据资产发现与可视化数据全生命周期安全防护技术数据全生命周期安全防护技术传输存储传输存储处理交换大数据安全管控大数据安全管控可制计计敏可制计计敏许控审审脱权问全源据授访安溯数制计制密控审限加问全地据访安属数数据风险分析与可视化数据风险分析与可视化数据安全平台类数据安全平台类数据安全服务类数据安全服务类数据脱敏技术数据加密技术数据加密技术数据水印技术大模型安全服务能力大模型系统安全大模型传输安全大模型服务赋能l服务器安全加固l云计算安全防护l未知API识别l资产风险漏洞管理lAPI滥用识别l数据安全防护lAPI安全审计l全网威胁情报lAPI数据脱敏l安全运营中心守护lAPI零信任管理开源大模型安全赋能中心企业大模型实施方法论：以点带面推动企业智能升级23系统化推广•制定应用推广计划•23系统化推广•制定应用推广计划•系统化推动大模型应用实施•持续改进大模型应用“小试牛刀”•选择场景：劳动密集型、知识密集型、创意型•进行大模型训练并开发试点应用•衡量效果及经济价值企业大模型体系构建•识别和管理AI原始数据•开发和管理训练数据集•建设大模型训练、开发及部署环境•建设大模型专业团队高低企业定制程度高能够产生价值差异高低企业定制程度高能够产生价值差异，增强企业竞争力企业快速实现大模型与业务和管理的结合产品研发售后服务战略洞察产品销售生产制造供应链仓储物流市场营销行业基础模型产品研发售后服务战略洞察产品销售生产制造供应链仓储物流市场营销行业基础模型市场洞察市场洞察运营知识库税务招聘财务培训审计法务人力资源效率提升流程再造业务变革实现难度低高实现难度价值链大模型价值链大模型企业管理大模型数字化转数字化转型管理数字化AI+平台战略&供给侧战略优化自身，内部管理的自动化、平台化、智能化、生态化，加强供给侧能力和平台能力业务数字化AI+数字业务战略为客户提供数字化解决方案和数字化服务，推动产业链体验提升，从产业链中要效益价值链领域大模型价值链领域大模型企业管理领域大模型企业管理领域大模型数字新基建大模型底座云底座商业通用基础大模型商业行业基础大模型商业通用基础大模型商业行业基础大模型开源通用/行业基础大模型算力基础设施算力基础设施数据中台数据中台云原生基础设施/容器云原生基础设施/容器低代码平台低代码平台知识知识服务询价总体架构AI业务洽谈场景--机器人出单·客户服务客户询报价我的保单证照上传我的赔案自助缴费证照上传我的赔案业务员电子保单AI业务洽谈场景--维修前有选择，送车有引导。维修过程有提示。维修完成有提醒。维修服务可评价。维修引导任务结束过程协商维修引导任务结束过程协商完成通知维修完成提醒维修评价AI业务洽谈场景--以业务员为支撑点，实现家庭为中心方案推荐，实现交叉销售，客户服务与关怀。以营销推荐为驱动力，鼓励业务员不断完善客户家庭成员与财产信息，内外热数据循环。以业务秘书为纽带，实现系统赋能业务员的目标。我的营销消息中心客户画像&标识客户画像&标识AI测试数据管理平台创新融合技术元数据元数据其他公司不可模仿的创新点数据治理理念其他公司不可模仿的创新点数据治理理念---""测试要测试要--测试理念和要求--测试理念和要求数据产生机制数据产生机制AI大模型训练和AI大模型训练和产出`、`、AI大模AI大模高性能计算客户需求分析原需求1,2--法律法规、案例裁判文书检索解读：提升律师步骤3和步骤4工作效率原需求4--辅助起草法律文件：提升律师步骤5工作效率。原需求5--基于公众号的法律咨询助手：解决律所人效需求分析-案件访谈笔录分析GPT应用系统GPT应用系统案件访谈笔录分析结果l客户基本信息姓名、性别、年龄、职业、联系方式（电话、邮箱等）、l案件类型。l对方当事人信息l案件事实概述l案件争议焦点l证据材料l期望解决方案l案件进展l涉及的法律法规需求分析-基于公众号的法律自助咨询助手问答输出问答输出l抗拒识别劳动合同、工资待遇、社会保险、福利、解除与。l知识产权问题GPT应用系统lGPT应用系统l家庭法问题上下文mul上下文mull刑事辩护问题l公司法问题公司设立、变更、合并、分立、解散、清算、股权转让等l交通事故问题l个人债务问题l消费者权益保护问题l税务问题l知识产权侵权问题TONGFANG4TSINGHUATONGFANG4需求分析-法律法规、案例裁判文书问答检索检索输出检索输出GPT应用系统GPT应用