PaddleDetection技术架构介绍

1、PaddleDetection技术架构介绍目录PaddlePaddle 简介PaddleDetection 介绍PaddleDetection 应用PaddleDetection YOLO v3Q&APaddlePaddle基本原理统一中间表达模型表达与优化中间表达优化模型Program组网模块Python API模型训练训练Runtime分布式策略预测预测库API（C+） 预测库Runtime底层Operator库（适配不同硬件的Kernel实现）PaddlePaddle基本原理Intermediate RepresentationTranspiler(Pass)Parallel Exe w

2、ith IR GraphPaddlePaddle全景图模型库开发动态图静态图训练大规模 分布式训练工业级 数据处理预测Paddle ServingPaddle MobilePaddleSlim安全与加密PaddleRecPaddleNLPPaddleCV核心框架工具组件Vi s u a l D L训练可视化工具 Pa d d l e H u b 迁移学习 PA R L强化学习 ED L弹性深度学习计算 Ea s y D L零基础定制化训练和服务平台 AI S t u d i o一站式实训开发平台 服务平台Ea s y Ed g e端计算模型生成平台 PG L图神经网络 Aut o D L De

3、s ig n 自动网络结构设计PaddleSpeechPaddlePaddle部署方案推 理 引 擎 底层硬件方案与服务工具 多 语 言 支 持 Paddle ServingPaddle Mobile硬件加速库软硬一体方案部署手册PaddleSlim安全与加密PythonC+Javascript服务端移动端GPUCPU新硬件GPUCPU新硬件NVAMDIntelhabanna寒武纪BitMai nMetalMaliAdrenoARMDSPCambricon华为BitMainPaddleSlim剪枝量化蒸馏SensitiveFilter Pruning多种模式 int8 量化训练多种 Loss

4、任意组合Auto Filter PruningLight-NAS精度无损搜索速度比同类产品快5倍支持分布式搜索MobileNet v2 on ImageNetFLOPSTop1 Accuracy- 17%71.9%（无损）Light-NAS百度业务验证速度精度OCR 识别+ 40.8%+ 7.8%人体检测+ 33.3%持平人脸关键点检测+ 35.9%持平PaddleDetection由来实验模型部署模型项目沉淀PaddleDetection组织结构PaddleDetectionconfigsdatasetppdetcoredatasourcetransfrommodelinganchor_he

5、adsarchitecturesbackbonesroi_extractorsutilstoolsroi_heads参考：/PaddlePaddle/models/tree/develop/PaddleCV/PaddleDetection建立一个全局的dict，将所有模块都注 册到这个dict里，然后在配置文件里， 通过模块的名称来建立建立相应模块。优点：便于现有模块的复用，让新模型 的搭建变得高效；PaddleDetection特点丰富的基础 模型正确的baseline丰富 性丰富的模块 组件合理的组织 结构易用 性高性能训练高性能推理高性 能PaddleDetection模型库ResNet

6、ResNet-vdResNeXt-vdSENetMobileNetDarkNetVGGFaster R-CNNFaster R- CNN+FPNMask R-CNNCascade R-CNNRetinaNetYoloV3SSD参考： /PaddlePaddle/models/blob/develop/PaddleCV/PaddleDetection/docs/MODEL_ZOO.mdPaddleDetection特色组件预处理mix-uprandom-shaperesizeNormalizeRandom-distortRandom-interp算子Sync Batch NormGroup No

7、rmDeformable ConvDeformable PSRoI Pooling网络模块Non-Local NetworkFPNCascade训练multi-scaleFP16训练multi-process readerPaddleDetection训练性能1600014000120001000080006000400020000Mask-RCNNYOLO-v3Mask-RCNNYOLO-v3PaddlePaddle竞品训练显存占用单卡(MB)八卡(MB)800.00%700.00%600.00%500.00%400.00%300.00%200.00%100.00%0.00%Mask-RCN

8、NYOLO-v3竞品训练GPU利用率Mask-RCNNYOLO-v3PaddlePaddle单卡八卡单进程八卡多进程PaddleDetection推理性能010205060708090SSD-VGG16-512 SSD-VGG16-300RetinaNet-R50-FPN Mask-X-101-64x4d-FPN(paddle-vd) Faster -X-101-64x4d-FPN(paddle-vd)Cascade-RCNN-R50-FPNMask-R5O-FPNMask-R50 Faster -R50-FPNFaster -R50推理速度(FPS)3040竞品Paddle FluidPad

9、dleDetection近期计划提高推理 性能完善FP16预测，提供完整的Becnmark丰富高速模型，方便一些前端应用场景落地打通PaddleSlim，加速模型推理完善端到 端部署打通LabeMe数据标注工具打通分布式训练PaddleDetection应用案例-小目标问题数据增强多尺寸旋转多长宽比裁剪2.设计Anchor统计数据中高尔夫球 场的面积、长宽比3.改善模型结构FPN、Cascade RCNN、 TridentNetPaddleDetection应用案例-遮挡问题Softer-NMS通过将大于阀值的bbox加权平均，然后通过KL 散度 来求lossPreciese RoI Pool

10、ing改善bbox偏移 量PaddleDetection应用案例PaddleDetection-YOLO v3优化Mix-up即引入了遮挡，自然 界常见的一种空间信 号干扰，在VOC上提 上3.4%其他（VOC）sync bn，提升0.56%cos lr，提升1.44%label smooth，提升1.89%Random shape，提升 0.98在COCO上整体提升4%PaddleDetection-YOLO v3推理速度020253*608*6083*416*4163*320*3203*608*6083*416*4163*320*3203*608*6083*416*4163*320*320

11、3*608*6083*416*4163*320*3203*608*6083*416*4163*320*3203*608*6083*416*4163*320*320MobileN MobileNet-V1et-V1 DarkNet5DarkNet5 ResN et3 ResN et3 CO COVOC3 COCO 3 VOC 4 COCO 4 VOCYOLO v3推理速度5v100-TRT-fp16(ms/im age)10v100-TRT-fp32(ms/im age)15v100-fluid(ms/image)PaddleDetection实验课下载paddledetection进行安装，并检查安装下载数据集训练export CUDA_VISIBLE_DEVICES=0 export PYTHONPATH=$PYTHONPATH:.python tools/train.py -c configs/faster_rcnn_r50_1x.yml测试export PYTHONPATH=pwd:$PYTHONPATHexport CUDA_VISIBLE_DEVICES=0python tools/infer.py -c configs/faster_rcnn_r50_1x.yml -