深度学习教学平台一体机解决方案

扬帆起航深度学习教学平台一体机解决方案2议程1.

NVIDIA

GPU虚拟化解决方案更新2.

构建深度学习教学平台一体机的背景NVIDIA深度学习教学平台解决方案介绍一体机解决方案优势3理解VGPU的工作原理Tesla

M60（单GPU8GB显存）

–

物理GPU2GB-

vGPU2GB-

vGPU2GB-

vGPU2GB-

vGPU虚拟机（Windows）虚拟机（Windows）虚拟机（Linux）虚拟机（Linux）License服务器中断CUDACUDACUDACUDACUDACUDACUDACUDACUDA……CUDACUDACUDACUDACUDACUDACUDACUDACUDA……NVIDIA

Virtual

GPU

平台提供图形、计算和人工智能特性支持、更新与维护NVIDIA

VirtualGPU

软件NVIDIA

Tesla

(数据中心

GPU)VIRTUAL

GPU

vGPU

7.X新特性UnprecedentedPerformance&

ManageabilityMulti-vGPU

SupportWorld’sMost

PowerfulQuadro

vDWSvMotionSupportfor

vGPULive

Migrationof

vGPU

enabled

VMsQuadrovDWS&

GRIDTeslaT4GPU

Support*LatestGenerationTuringQuadro

vDWSNGCwith

vGPUAvailablewith

vGPUQuadro

vDWSFPOFPO*TeslaT4supportcomingwithvGPUsoftware7.1

release什么是

MULTI-vGPU?DeliveringaMorePowerfulVirtual

WorkstationMultipleVM’sSharinga

GPUwithNVIDIAQuadro

vDWSVirtualWorkstationVirtualWorkstationVirtualWorkstationVirtual

Workstation6ASingleVMAccessingMultipleTesla

GPUswithNVIDIAQuadrovDWS

(7.0)Virtual

Workstation构建深度学习教学平台一体机的背景

背景人工智能已成为当前国际竞争的新焦点。2017年7月8日，国务院新签发的《新一代人工智能发展规划》正在全面影响教育改革。《规划》明确指出三个重点：1.在中小学阶段设置人工智能相关课程、逐步推广编程教育2.完善人工智能学科布局，设立人工智能专业，增加人工智能相关方向的博士、硕士招生名额3.培育高水平人工智能创新人才和团队同时，人工智能专业也成为求职“最强音“。7深度学校教学平台对高校职校的价值8响应国家战略国家战略（中小学设置人工智能相关课程、高校建立人工智能学科）提高学生就业竞争力为学生提供低成本的AI实验环境，将创新-实验-实训-实战的整个过程闭环，提高学生就业竞争力建立AI教学环境和师资力量，提升学校教学竞争力灵活的云实验环境，提供更多实践课堂V1.0 - NVIDIA深度学习教学平台91.基于NVIDIA

GPU虚拟化以及NVIDIADocker技术，再配合NVIDIA深度学习学院培训体系的一体化人工智能实验室解决方案。2.单服务器配合P40

GPU最大可以虚拟出24个vGPU，在vGPU上搭建深度学习教学环境，支持主流的深度学习框架。同时利用NVIDIA

Docker实现对GPU资源的调用和深度学习环境的快速搭建部署。3.当用深度学习环境关闭以后，GPU资源会自动释放。NVIDIA深度学习教学平台方案优势10V2.0–深度学习教学平台一体机方案组成：硬件：X86服务器+Tesla

GPU

T4软件：服务器虚拟化平台(建议：RHEL

7.6)NVIDIA

vGPU

（建议

7.1版本）vGPU

License组件镜像教学平台管理镜像课程环境镜像（数量基于学生数）方案特点：基于GPU虚拟化技术，资源分配灵活可以按照实际的课程需求进行调整部署快速简单，所有安装部署基于镜像导入的方式。满足学生教学和老师科研的双方面需求。11建议硬件配置12教学平台一体机建议配置：Tesla

T4*4，CPU（

2.6GHZ+

）*2

12核心以上，256GB内存，SSD磁盘1TB*4，双万兆网卡其中一片

T4

作为教师使用另外三片

T4按照2/4/8进行虚拟化切割切割，最大支持

24

学生，可以根据实际教学需求灵活修改。也就是说一台服务器支持

1个老师

+

6/12/24

（T4-2Q/4Q/8Q）个学生的教学环境。优势：实现教学环境的快速部署搭建-Ubuntu

系统安装、GPU驱动安装-Docker+NVdocker组件安装-下载相应的深度学习框架镜像-

课程环境搭建和配置-

环境配置完成开始教学传统的深度学习环境部署方式复杂度高传统构建深度学习环境如下如下步骤：-硬件环境

（服务器/PC

+

GPU卡）以主流的深度学习框架TensorFlow的搭建为例，很多用户通过付费的方式购买安装配置服务13优势：资源最大化利用，白天教学晚上科研按需分配GPU资源，满足各种教学需求教学vGPU教学vGPU教学vGPU教学vGPU教学vGPU教学vGPU教学vGPU教学vGPU教学vGPU教学vGPU教学vGPU教学vGPU