英特尔AI实践案例集

英特尔AI实践案例集3第二代英特尔®

至强®

可扩展处理器的强劲算力及英特尔®

深度学习加速，让飞桨

INT8方案在不影响推理准确度的情况下，推理速度得以显著提升。高铁柱高级经理百度深度学习平台部智能图像分析深度学习推理为飞桨*

增添“加力推进器”百度*

飞桨*

INT8方案借英特尔®

深度学习加速技术提升推理效率在图像识别与分类等场景的深度学习中发挥INT8的优势基于MKL/MKL-DNN对不同深度学习模型进行特定优化利用第二代英特尔®

至强®

可扩展处理器集成的英特尔®

深度学习加速技术对INT8更优的支持FP32

和

INT8

推理准确度结果比较

FP32

和

INT8

推理吞吐量结果比较英特尔®

深度学习加速技术英特尔®

MKL 英特尔®

MKL-DNN能效更优提升推理效率、降低功耗和部署复杂度2-3倍使用INT8时的推理速度是FP32时的INT8与FP32的深度学习模型推理准确度差值1%以内12为AI训练和超算定制高性能存储百度智能云*

全闪对象存储方案导入QLC固态盘+傲腾TM

固态盘组合来自英特尔的全闪产品组合，及其与英特尔®

至强®

可扩展处理器的配合，帮助我们的方案在稳定性、IOPS等方面实现了更优表现，成为应对海量非结构化小文件的得力手段。百度智能云私有云存储团队高性能存储AI,

大数据，高性能计算可部署于私有云，专攻

AI

训练、大数据和高性能计算将久经考验的高性能对象存储引擎引入方案“全闪”

=傲腾TM

固态盘

+

QLC

3D

NAND固态盘由ABCStorage高性能存储解决方案支持的AI训练流程文件数据增加10倍时，QPS和延迟波动保持在以内TCO

降低60%用户业务效率提高5% 1-3倍

34 5实时弹屏显示的推理速度提升达涉黄内容检测的推理效率提升达面部识别应用的推理效率提升达引入OpenVINO™

工具套件，提升Jarvis*

平台的推理效率导入英特尔®

至强®

可扩展处理器，并使用MKL/MKL-DNN对云平台进行系统级优化将AI与云计算结合，构建基于云的深度学习平台Jarvis爱奇艺Jarvis*

深度学习云平台的架构图解智能视频服务英特尔®

至强®

可扩展处理器及英特尔®

OpenVINO™

工具套件不仅使我们的深度学习云平台获得了更强的算力，也使深度学习推理效率得到了显著的提升，进而让视频服务变得更为高效和智能。张磊研究员爱奇艺深度学习训练+推理基于英特尔®

OpenVINO™

工具套件的Jarvis平台推理优化过程5 4 6倍左右倍左右 倍左右11倍文本检测应用中的推理性能提升达让视频服务实现全流程智能化爱奇艺*

导入英特尔®

架构软硬件组合优化深度学习云平台Intel®MKLIntel®

MKL-DNN67895前沿研究冯霁博士LAMDA南京大学表现上佳10经海量样本训练对比验证，召回率、准确率深化合作成立面向AI领域的英特尔®

并行计算中心

深度森林更多是需要并行地在多棵树上进行决策计算，在这方面，GPGPU很难发挥其长处，而这恰恰是CPU，尤其是拥有多核、高频能力的英特尔®架构处理器所擅长的地方。深度学习非常显著至强®

处理器使决策树训练速度提升利用针对英特尔®

架构的优化，提升训练速度和质量基于英特尔®

架构硬件基础设施，优化算法与模型英特尔®

编译器深度森林与其他AI方法的PR曲线对比11获取白皮书AI≠深度神经网络南京大学LAMDA*

携手英特尔，推进深度森林的探索与应用观看视频6实践表明，我们工厂非常欢迎这种务实的工业视觉检测解决方案，它的部署速度快，对产线的生产影响非常低，未来我们会把它复制到我们所有的产线。黄姚根设备负责人美的微波炉工程部智能制造深度学习训练+推理基于

“大数据+AI”

端到端解决方案，打造工业视觉检测系统，实现敏捷、高性能通用化缺陷检测能力项目部署周期缩短 人工成本减少推理时间从2秒缩短至为制造增添“眼”和“脑”英特尔助力美的*构建工业视觉检测云平台57%12

70%13

124毫秒14

获取白皮书观看视频7李培吉韵达快递首席架构师韵达股份大规模部署京、沪、广、深等一线城市逐步展开未来合作更多AI

应用开发与部署

依托英特尔®

AI架构核心软硬件强大的算力和优化，韵达发挥数据优势，在三大关键业务环节构建AI应用，极大提升全产业链的效率，降低成本，推动行业智能化变革。行业智能化提升效率、优化资源、降低成本韵达物流快递三大关键业务环节加速快递行业智能化变革英特尔®

架构AI核心软硬件助力韵达*

提升物流系统运转效率深度学习训练+推理 智能物流运用英特尔®

架构软硬件产品组合，助力三大关键业务环节：在分拨中心实现大小件测量的全流程AI处理在资源配置上实施更精准的AI件量预测在数据中心内实现基于AI分析的数据中心异常检测获取白皮书8语音识别、自然语言处理AI云平台在至强®

可扩展平台上优化算法与应用第二代英特尔®

至强®

可扩展处理器集成的深度学习加速技术，对加速AI计算很有帮助，同时还有助于降低AI云的TCO。在讯飞AI云的真实环境测试中，它已经能让CPU达到甚至超过原来GPU的性能15。张致江云计算研究院副院长科大讯飞均衡提升计算和存储性能可替代GPGPU降低TCO导入第二代英特尔®

至强®

可扩展处理器、英特尔®

傲腾TM

数据中心级固态盘优化AI云，从至强开始科大讯飞*

采用英特尔核心计算和存储产品，升级AI云计算平台观看视频9企业级AI核心系统英特尔®

至强®

处理器、英特尔®

傲腾™

固态盘，以强劲的算力和可观的存储能力，有力支撑了

“范式先知”

平台高维深度模型的广泛应用，加速了人工智能落地。涂威威资深科学家第四范式*信用卡交易反欺诈识别准确率提升达糖尿病患病率预测准确率，相比“金标准”内就完成线上数据集成到评分，实现“事中反欺诈”完善封装新技术、新算法和可视化界面，降低AI应用门槛以标准化流程提供便捷、高效的开发工具和运行环境支持基于英特尔®

架构平台，突破机器学习效果瓶颈机器学习训练+推理>7倍

20毫秒

2-3倍“范式先知”平台为企业用户提供“所见即所得”的工作模式，能以“拖拉拽”的方式快速构建可视化的模型训练过程助更多传统企业拥抱AI范式先知*

平台采用英特尔技术，加速AI应用落地16 1718

获取白皮书10加速影像分析，提高诊断效率西安盈谷*

基于英特尔®

架构软硬件，打造医疗智能化辅助诊断系统医学影像分析深度学习推理原先的系统中，渲染和人工智能各用一种

GPU

，业务处理则用通用处理器，成本很高且维护复杂。我们正计划将这些任务全部迁移到英特尔®

架构平台，将其全部搞定。黄烨东创始人西安盈谷网络科技有限公司肺癌智能化辅助诊断定量的监测敏感度高达肺癌筛查时间由人工的10

多分钟缩短到采用MKL-DNN，进一步优化系统所用AI模型的性能利用针对英特尔®

架构优化的AI框架，提升铺助诊断系统功效导入至强®

平台，推进医真云*

上医学影像相关负载的整合

Intel®

MKL-DNN 针对英特尔®

架构优化的单幅胸部Dicom数据执行RFCN模型处理延时比较可将医技设备链接和聚合起来的医真云，相比主流GPGPU，RFCN模型推理耗时减少196 95%20

10%21秒内

是西安盈谷Cloud

IDT智能化辅助诊断服务的基石获取白皮书11应用英特尔®

架构产品，帮助我们成功地应对了在大数据集群上构建大规模深度学习应用的挑战，与运行独立的GPU集群比，提升了性能，降低了成本。汪振华京东高级软件工程师深度学习推理3.83倍智能零售Intel®

MKL在Spark*

集群上使用BigDL库运行现有Caffe*

模型可通过基于至强®

处理器的服务器进行横向扩展基于英特尔®

架构硬件基础设施，优化算法与模型横向扩展基于至强®

平台，技术设施更易扩展

更利于应用开发基于GPGPU的加速和生产部署则难以实现与GPGPU

相比，性能提升高达京东的特征提取工作流程，使用BigDL管理用于目标检测的

SSD

模型以及用于特征提取的

DeepBit

模型用CPU替代GPU，加速图像分析至强®

平台+BigDL助京东*

实现商品图像数据库高效扩展及分析22获取白皮书12英特尔为反欺诈模型提供了高性能处理器，为模型各层面提供了优化手段，帮助系统实现了高功效，为人工智能在该领域的应用提供了经验，为深度学习在金融领域场景的落地铺平了道路。中国银联电子商务与电子支付国家工程实验室机器学习训练intel®Python针对英特尔®

架构优化的GBDT→GRU→RF

三明治结构欺诈侦测模型的架构

GBDT→GRU→RF三明治结构欺诈侦测模型评估效果用“三明治”

来反欺诈英特尔助力中国银联*

电子商务与电子支付国家工程实验室*金融反欺诈模型研究与应用金融反欺诈创新的反欺诈模型，树立了行业标杆验证英特尔技术在金融行业的正向作用将引进更多英特尔技术和产品对模型中的三层方法分别提供针对性的技术和工具优化构建

GBDT→GRU→RF

三明治结构欺诈侦测模型获取白皮书13智能安防英特尔为前端推理和后端深度学习平台提供的高性能计算引擎，为我们全新的“深眸”全局摄像机输入了源源不断的处理能力。来自于用户的反馈显示，新系统能够很好地提高破案效率。沈林杰算法总监