云边端一体化构建电力AI异构整体方案

云边端一体化构建电力AI异构整体方案AI从概念到落地一元数据图片分析单一数据分析单一场景交通互联网多元数据行业场景外围业务视频数据雷达数据语音数据电力能源交通工业制造核心业务AI从概念到落地-电力行业机器视觉发电 输电 变电售电 配电周界入侵车辆识别智能门禁设备防护故障诊断运维管理瑕疵检测单一场景行业定制化场景AI从概念到落地-电力行业视觉分析外业围务视觉分析核心业务嗅觉分析听觉分析触觉分析一元数据多元数据对算力算法的挑战概念低成本易部署可复制人工智能行业大规模落地从概念到大规模落地对算力算法的挑战算力人工智能行业大规模落地统一架构,分布式部署统一模型,灵活裁剪算法端云一体的必要性CPUGPUASICFPGAIoT边缘智能云端智能端云一体，全系列产品布局端云一体的两种布局流派前端边缘端云端自下而上自上而下端云一体产品线前端边缘端云端端云一体自下而上优势1.特定应用最成熟，效率最高；2.偏重数据的结构化处理；典型厂商摄像头类ISP芯片厂商统一架构，分布式部署实现端云一体的挑战：1.算法的广泛支持能力 （特定算法---》通用算法）2.软硬件体系架构升级 （小算力--》大算力）加法端云一体自上而下优势通用性好；算法易适配，精度高；典型厂商英伟达寒武纪统一架构，分布式部署实现端云一体的挑战：1.兼顾高性能与低功耗；2.轻量级网络运行效率；减法统一的处理器架构和指令集端云一体的布局策略MLEngine0 MLEngine1 MLEngine2MLEngine3VectorEngineGPR ALUDecoderiCacheNFUWRAMKernelLaunchBusAXIBusTensorBusNFUWRAMNFUWRAMNFUWRAMVectorProcessorNRAMDataBus/ControlBusDatacompression/decompressionDMAEngine统一的处理器架构和指令集端云一体的布局策略LPDDR4XPeripheralIOMultimediaCPUMLUCoreSharedmemoryMLUCoreMLUCoreMLUCoreGeneralPurposeIODDR4ControllerPCIeGen3.0HostInterfaceMLUCoreMLUCoreMLUCoreMLUCoreSharedmemory SharedmemoryMLU MLU MLU MLUCore Core Core CoreMLUCoreMLUCoreMLUCoreMLUCoreDDR4ControllerDDR4ControllerDDR4ControllerMLU22016TOPS@INT8Sharedmemory SharedmemoryMLU MLU MLU MLUCore Core Core CoreMultimedia CPUMLU270128TOPS@INT8HBM2PCIeGen4.0HostInterfaceDirectCV™AcceleratorsTaskschedulingL2sharedmemoryHBM2L2sharedmemoryL2sharedmemoryL2sharedmemoryL2sharedmemoryL2sharedmemoryL2sharedmemoryL2sharedmemoryL2sharedmemoryL2sharedmemoryL2sharedmemoryL2sharedmemoryL2sharedmemoryMLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcoreMLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcoreL2sharedmemoryMLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcoreMLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcoreL2sharedmemoryMLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcoreMLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcoreL2sharedmemoryMLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcoreMLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcore MLUcoreMLUcoreHBM2HBM2MLU-Link™Chip2ChipInterfaceMLU-Link™MLU290512TOPS@INT8统一的平台级基础系统软件端云一体的布局策略寒武纪云端训练布局领先技术打造高性能AI训练平台MLU290-M5MLU-X1000思元290芯片TSMC7nm工艺512TOPS(INT8)峰值性能1228GB/s内存带宽MLU-Link™多芯互联600GB/s双向总带宽寒武纪云端推理布局高效推理算力加速全场景应用MLU270-S4MLU270-F4思元270芯片思元270芯片及加速卡支持FP32、FP16、INT16、INT8INT4等多种精度128TOPS(INT8)峰值性能片内集成硬件编解码器多种产品形态，适用场景广寒武纪边缘端布局极致能效灵活部署思元220芯片16TOPS（INT8）AI算力10W芯片功耗集成LPDDR4/4X、PCIE、EMMC、Eth、SDIO等丰富接口MLU220-SOM模组16TOPS（INT8）AI算力15W整板功耗-40℃~105℃宽温支持MLU220-M2加速卡8TOPS（INT8）AI算力8.25W整卡功耗-20℃~80℃环境温度寒武纪的核心能力云边端一体训练推理融合统一的软件开发平台