华为云盘古大模型AI工业化开发新模式

华为云盘古大模型华为云盘古大模型AI工业化开发新模式计算无边界，智心领未来作坊式的AI开发无法满足行业高效高质量数字化转型需求“2025年，企业对AI的采用率86%（当前4%）”“2025年，企业对AI的采用率86%（当前4%）”EIAI实践:600+项目,30%进入生产系统，但是AI进入千行百业面临诸多挑战投入人力多,周期长，性能很难做到极致•EI提供基于行业的场景化解决方案，同时配套简化AI应用开发、落地的资产或工具。•提供平台+生态类产品1.开放-引入大量生态伙伴2.AIGallery–开放订阅，吸引伙伴合作关键资产（大模型）+工具（流水线)+简化AIAPP华为盘古大模型推动人工智能开发从“作坊式”到“工厂式”升级推理模型1-n场景1推理模型1-n场景1色b工作流泛化复制场景2泛化复制场景2型1-n工作流型1-n行业预训练大模型场景3推理模行业预训练大模型工作流 型1-n工作流预训练微调&部署预训练微调&部署微调部署：更高，更强，更便捷•更高精度：微调部署：更高，更强，更便捷•更高精度：20+电力视觉检测任务，相比传统小模型平均精度提升5%~10%•更强泛化能力：适用80%以上分类、检测、分割、异常检测等AI任务•更便捷微调策略：少量1%-5%参数微调,达到算法专家水准预训练大模型：百亿参数，十亿数据参数数量传统小模型vs.大模型第一梯队模型参数量：Google150亿，微软30亿小样本学习能力传统小模型vs.大模型优秀的泛化能力充分挖掘数据内在联系，达到更高的泛化性能，对不同场景鲁棒性更强高效样本筛选能力海量无标注样本筛选，节省80%以上人力标注代价小样本/零样本能力自动化数据增强，数据挖掘算法，实现零训练样本下缺陷样本识别，较传统方法发现率提升2~3倍低门槛AI开发提供自动化工作流，自动数据处理，自动化调参，自动化生成模型，减少对AI开发工程师专业依赖工具链核心目标•落地：提供将盘古预训练模型落地到定制化场景的能力•资产管理：对盘古团队各种模型（结构、行业）进行资产管理，并根据用户需求自动选型•积累：利用用户的使用记录，优化选型策略和调优策略主要涉及的技术点和功能•超网训练+模型抽取：大模型抽取满足用户需求小模型的能力•模型蒸馏：大模型蒸馏超网训练•自动学习：盘古团队为每款模型积累了大量调优策略•知识积累：调优策略池根据用户使用，不断优化Ranking程，降低训练成本50%以上消除边际效应创新架构逻辑推理能力全栈AI开发流水线CloudEdgeComputing应用使能芯片使能IP和芯片框架独有先进的分层架构|辅助客服|案件复议|服装生成|辅助客服|案件复议|服装生成|窑炉优化|节电预测|空气监测|工业质检|仓库监控煤矿交通制造煤矿交通制造视觉大模型NLP大模型5金融广发证券异常财务检测精准提升20%零售米琪蛋糕无人门店金融广发证券异常财务检测精准提升20%零售米琪蛋糕无人门店结账成功率增加8%工业铁路故障检测故障误报率减少24.7%医疗尘肺检测病例识别准确率提升22%环境青海三江源野生动物保护无需定制识别100+类别动物物流浦发银行浦慧云仓单个模型处理科学计算实时预测海浪高度预测速度提升提升10000倍能源大金空调空气质量检测准确率提升15%业界挑战赛冠军40+申请专利•WebVision分类竞赛冠军最佳论文1创新团队1实现工业化AI开发新模式盘古视觉大模型：铁路XXX故障识别基于盘古行业预训练模型的智能故障识别•部分图片拍摄质量差•故障类型多：上百种故障•样本分布不均衡：部分故障类型稀缺（<10）•未知故障预测，要求高召回平均召回率25%异常检测漏报80%现场实测情况：郑州北车辆段5T检测车间集中作业分析的14条线路，在2021年9月19日至2021年10月20日期间，由5T检测车间动态检车员预报并经组长确认为提报故障的数据样本（故障图片）共计32007张。1模型工作流+算法工作流低成本+高效模型工作流+算法工作流低成本+高效+可靠<盘古预训练超网样本输入•全新类别•极少量样本部件输出•满足超高的召回、精度要求•满足模型耗时、大小要求盘古大模型：煤矿场景实际场景中的问题抽象出问题共性，实际场景中的问题综采场景综采场景人员安全场景人员安全场景掘进工作流数据标注模型训练模型评估结果反馈模型部署主运工作流数据标注模型训练模型评估结果反馈模型部署掘进工作流数据标注模型训练模型评估结果反馈模型部署主运工作流数据标注模型训练模型评估结果反馈模型部署综采工作流数据标注模型训练…人员安全工作流数据标注模型训练…基于工作流，场景化AI模型开发（L2）周期短，流程规范，单模型开发周由月级规范性强，统一的数据管理，统一的参数配置交互性强，可视化的开发过AI专家：不同场景基于需求对基础AI能力进行算法选择、模型参数调优等，开发出场景化的AI工作流（支持柔性制造的流水线）声音、震动对比学习模型蒸馏声音、震动对比学习模型蒸馏现状：正常样本滤除率已达到99.6%提升负样本筛选效率200倍以上 零样本精细分类行业Know-基于行业数据预训练的行业大模型（L1）创新预训练算法创新预训练算法对比式&生成式渐进优化创新模型结构海量行业数据创新模型结构海量行业数据•行业数据预训练作为底座，提供兼顾行业kn•异常检测、异常建模、目标检测、行业know-how方案冗余设计，提供性能最佳的综合解决方案非正常即异样本量样本量总量1080000-4109）/1080000=99.62%盘古大模型：良好的泛化性及高效性，提升算法通用性，实现AI快速应用新场景高效适配：大模型的算法准确率提升15%左右大模型全方位超过业界小模型，准确率普遍提升15%左右准确率综合评定通用性强：相似场景下，少量数据即可达到更高的准确率•在某矿上训练得到的皮带模型加入少量山东能源数据进行微调训练，相比业界小模型性能显著提升新增数量准确率综合评定原场景/新场景/新场景大模型的海量参数以及多种下游微调解决方案，支撑少样本数据的高效训练，以及对于同类场景下强适应性依托AITISA产业联盟，联合4伙伴成立大模型产业推进组大模型华为、鹏城实验室、中国科技大学、上海交通大学、厦门大学首期大模型专题技术沙龙盘古大模型产业发展联合专项工作组专题会议研讨大模型技术沙龙提升产业影响力大模型白皮书创新研究专题沙龙高校老师罗马广场大模型行业场景借助联盟