第6章 深度学习开源框架PPT课件VIP

,高级大数据人才培养丛书之一，大数据挖掘技术与应用,刘鹏主编赵海峰副主编,BIGDATA,刘鹏张燕总主编,深度学习,全国高校标准教材云计算姊妹篇，剖析大数据核心技术和实战应用,of,40,2,习题,6.1Caffe,第六章深度学习开源框架,of,40,3,Caffe是一个清晰、高效、开源的深度学习框架，很适合初学者。它由加州大学伯克利的PHD贾扬清开发是应用最广泛的深度学习框架之一。,6.1.1Caffe框架,贾扬清,6.1Caffe,第六章深度学习开源框架,of,40,4,Caffe是一个清晰、高效、开源的深度学习框架，很适合初学者。它由加州大学伯克利的PHD贾扬清开发是应用最广泛的深度学习框架之一。,6.1.1Caffe框架,多语言,速度快,易上手,社区好,代码组织好。可读性强，例子多。,采用MKL、OpenBLAS等计算库，支持GPU加速。,国内外都有较活跃的社区、且有很多衍生项目。,支持C+、Python和Matlab。,6.1Caffe,第六章深度学习开源框架,of,40,5,6.1.2安装Caffe,1、操作系统为centenos72、安装NvidiaGPU驱动（1）添加ELRepo源#rpm-import/RPM-GPG-KEY-#rpm-Uvh/elrepo-release-7.0-2.el7.elrepo.noarch.rpm,6.1Caffe,第六章深度学习开源框架,of,40,6,6.1.2安装Caffe,（2）安装显卡驱动#yuminstallnvidia-x11-drvnvidia-x11-drv-32bit,6.1Caffe,第六章深度学习开源框架,of,40,7,6.1.2安装Caffe,（3）重启#reboot（4）查看GPU信息#nvidia-smi,6.1Caffe,第六章深度学习开源框架,of,40,8,6.1.2安装Caffe,（5）安装CUDA7.5Toolkit：CUDA7.5Toolkit为Nvidia工具包。该工具包包括GPU加速库，调试和优化工具，C/C+编译器和运行库等。#cd/root/cDeep/Nvidia/#shcuda_7.5.18_linux.run,6.1Caffe,第六章深度学习开源框架,of,40,9,6.1.2安装Caffe,（6）安装cuDNNv4：针对深度学习框架的一套GPU加速方案#cd/root/cDeep/Nvidia/#tarxvzfcudnn-7.0-linux-x64-v4.0-prod.tgz#cpcuda/include/cudnn.h/usr/local/cuda-7.5/include#cpcuda/lib64/libcudnn*/usr/local/cuda-7.5/lib64#chmoda+r/usr/local/cuda-7.5/lib64/libcudnn*（7）配置环境变量#vim/etc/profile在文件最后添加exportLD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-7.5/lib64exportCUDA_HOME=/usr/local/cuda-7.5更新环境变量#source/etc/profile,6.1Caffe,第六章深度学习开源框架,of,40,10,6.1.2安装Caffe,3、Caffe安装（1）安装依赖库#source/etc/profile#yuminstallprotobuf-develsnappy-developencv-develboost-devel#cd/root/cDeep/Caffe/#unzipleveldb-master.zip#cdleveldb-master#./build_detect_platformbuild_config.mk./#make#cprinclude/leveldb/usr/local/include#cp/root/cDeep/Caffe/leveldb-master/out-static/libleveldb.a/usr/local/lib,6.1Caffe,第六章深度学习开源框架,of,40,11,6.1.2安装Caffe,（5）安装GFLAGS#cd/root/cDeep/Caffe/#unzipgflags-master.zip#cdgflags-master#mkdirbuild&cdbuild#exportCXXFLAGS=-fPIC&cmake.&makeVERBOSE=1#make&makeinstall（6）安装LMDB#cd/root/cDeep/Caffe/#unziplmdb.zip#cdlmdb-mdb.master/libraries/liblmdb#make&makeinstall,（2）安装GCC和GCC+#yum-yinstallgccgcc-c+（3）安装GIT和CMAKE#yum-yinstallgit#yum-yinstallcmake（4）安装GLOG#cd/root/cDeep/Caffe/#tarzxvfglog-0.3.3.tar.gz#cdglog-0.3.3#./configure#make#makeinstall,6.1Caffe,第六章深度学习开源框架,of,40,12,6.1.2安装Caffe,（7）安装HDF5#cd/root/cDeep/Caffe/#tarxfhdf5-1.8.17.tar#cdhdf5-1.8.17#./configure-prefix=/usr/local/hdf5#make&makeinstall（8）安装OpenBlas#cd/root/cDeep/Caffe/#unzipOpenBLAS.zip#cdxianyi-OpenBLAS-3f6398a#make#makePREFIX=/usr/local/openblasinstall,（9）安装OpenCV#cd/root/cDeep/Caffe/#unzipopencv-2.4.13.zip#cdopencv-2.4.13#mkdirrelease&cdrelease#cmake-DCMAKE_BUILD_TYPE=RELEASE-DCMAKE_INSTALL_PREFIX=/usr/local-DBUILD_PYTHON_SUPPORT=ON-DBUILD_EXAMPLES=ON.#make#makeinstall,6.1Caffe,第六章深度学习开源框架,of,40,13,6.1.2安装Caffe,（10）修改配置文件#cd/root/cDeep/Caffe/#unzipcaffe-master.zip&cdcaffe-master#cpMakefile.config.exampleMakefile.config#vimmakefile.config修改makefile.config文件里的信息1）USE_CUDNN:=1使用cuda进行加速2）OPENCV_VERSION:=2对应OpenCV版本是.133）CUDA_DIR:=/usr/local/cuda-7.5cuda头文件及库目录4）BLAS:=open使用openblasBLAS_INCLUDE:=/usr/local/openblas/include设置头文件路径BLAS_LIB:=/usr/local/openblas/lib设置动态库路径5）INCLUDE_DIRS:=/usr/local/include/usr/local/hdf5/include/usr/include/python2.76）设置其它依赖库头文件路径LIBRARY_DIRS:=/usr/local/lib/usr/lib/usr/local/hdf5/lib设置其它依赖库动态库路径,6.1Caffe,第六章深度学习开源框架,of,40,14,6.1.2安装Caffe,（11）Caffe编译#cd/root/cDeep/Caffe/#cdcaffe-master#makeallj4#maketest#makeruntest,6.1Caffe,第六章深度学习开源框架,of,40,15,6.1.3案例：基于Caffe的目标识别,1.获取数据集#cd./data/cifar10#./get_cifar10.sh,cifar10数据集文件示意图,Cifar10图像示意图,6.1Caffe,第六章深度学习开源框架,of,40,16,6.1.3案例：基于Caffe的目标识别,2.成训练及测试数据，将样本转为LMDB格式#cd./data/cifar10#./get_cifar10.sh3训练及测试#cd./examples/cifar10&./train_full.sh,全国高校标准教材云计算姊妹篇，剖析大数据核心技术和实战应用,of,40,17,习题,6.2TensorFlow,第六章深度学习开源框架,6.2.1TensorFlow框架,of,40,18,TensorFlow是Google开源的一个深度学习框架。实现了本地和分布式两种接口机制。本地实现机制的client端、master端和worker均运行在同一个机器中；分布式实现机制它与本地实现的代码基本相同，但是client端、master端和worker进程一般运行在不同的机器中，所包含的不同任务由一个集群调度系统进行管理。,具备如下优点：1.多样化部署；2.可被基于梯度的机器学习算法借鉴；3.灵活的Python接口；4.可映射到不同硬件平台；5.支持分布式训练。,6.2TensorFlow,第六章深度学习开源框架,6.2.2安装TensorFlow,of,40,19,1、安装pip#cd/root/cDeep/Tensorflow/#pythonget-pip.py,pip安装示意图,6.2TensorFlow,第六章深度学习开源框架,6.2.2安装TensorFlow,of,40,20,2安装TensorFlow#cd/root/cDeep/Tensorflow/#pipinstall-upgradetensorflow-0.8.0-cp27-none-linux_x86_64.gpu.whl,左图为tensorflow安装示意图,6.2TensorFlow,第六章深度学习开源框架,6.2.2安装TensorFlow,of,40,21,3安装测试#python.importtensorflowastfhello=tf.constant(Hello,TensorFlow!)sess=tf.Session()print(sess.run(hello)Hello,TensorFlow!sess.close()exit(),tensorflow测试示意图,6.2TensorFlow,第六章深度学习开源框架,6.2.3案例：基于TensorFlow的目标识别,of,40,22,1.下载Cifar10数据集#wget/kriz/cifar-10-binary.tar.gz#tar-xzfcifar-10-python.tar.gz,Cifar10数据集示意图,6.2TensorFlow,第六章深度学习开源框架,6.2.3案例：基于TensorFlow的目标识别,of,40,23,2.运行训练程序#cd/tensorflow/models/image/cifar10/#pythoncifar10_train.py3.运行测试程序#pythoncifar10_eval.py4.如图所示，资源消耗：CPU：41%GPU：42%耗时：50min,训练时资源消耗图,6.2TensorFlow,第六章深度学习开源框架,6.2.3案例：基于TensorFlow的目标识别,of,40,24,5.训练完成示意6.测试示意准确率：84.4%,全国高校标准教材云计算姊妹篇，剖析大数据核心技术和实战应用,of,40,25,习题,6.3其它开源框架,第六章深度学习开源框架,of,40,26,1.CNTK,2.MXNet,3.Theano,4.Torch,5.Deeplearning4j,6.3其它开源框架,第六章深度学习开源框架,6.3.1CNTK,of,40,27,CNTK的5个主要特点,E,对windows平台的支持更好。,6.3其它开源框架,第六章深度学习开源框架,6.3.2MXNet,of,40,28,MXNet的7个主要特点：,（1）其设计说明可以被重新应用到其他深度学习项目中。（2）任意计算图的灵活配置。（3）整合了各种编程方法的优势，最大限度地提高灵活性和效率。（4）轻量、高效的内存，以及支持便携式的智能设备，如手机等。（5）多GPU扩展和分布式的自动并行化设置。（6）支持Python、R、C+和Julia。（7）对云计算友好，直接兼容S3、HDFS和Azure。,6.3其它开源框架,第六章深度学习开源框架,6.3.3Theano,of,40,29,Theano的6个主要特点,6.3其它开源框架,第六章深度学习开源框架,6.3.4Torch,of,40,30,Torch的4个主要特点,采用Lua语言,6.3其它开源框架,第六章深度学习开源框架,6.3.5Deeplearning4j,of,40,31,Deepl