深度学习应用开发 课件 cha1 5-深度学习框架介绍

目录深度学习框架概念01任务主流的深度学习框架02任务TensorFlow基础框架03任务1深度学习框架概念1深度学习框架概念深度学习框架是一种为了降低深度学习开发门槛而开发的深度学习工具，框架包含库、数据集和预训练模型等资源。深度学习框架可以简化模型的开发过程，复杂深度学习模型开发被大大简化，成为AI开发者的必用利器。开发者不需要从复杂的神经网络开始编代码，可以依据需要调用框架内置的模型，也可以在已有模型的基础上增加layer，选择分类器。目前，TensorFlow和PyTorch框架为主力深度学习框架，其中TensorFlow市场需求最多，且部署能力强，在应用部署中使用较多。PyTorch在学术界、学术论文中使用较多。2主流的深度学习框架介绍2深度学习框架介绍Theano

最早的深度学习框架之一，是一个基于Python语言、定位底层运算的计算库，Theano同时支持GPU和CPU运算。缺点：Theano开发效率较低，模型编译时间较长，同时开发人员转投TensorFlow等原因，Theano目前已经停止维护。2深度学习框架介绍Scikit-learn一个完整的面向机器学习算法的计算库，内嵌了常见的传统机器学习算法支持，文档和案例也较为丰富。

缺点：但是Scikit-learn并不是专门面向神经网络而设计的，不支持GPU加速，对神经网络相关层实现也较欠缺。2深度学习框架介绍Caffe由华人博士贾扬清在2013年开发，主要面向使用卷积神经网络的应用场合，并不适合其他类型的神经网络的应用。Caffe的主要开发语言是C++，也提供Python语言等接口，支持GPU和CPU。开发时间早，知名度高，2017年Facebook推出了Caffe的升级版本Cafffe2，且Caffe2目前已经融入到PyTorch库中。2深度学习框架介绍Torch

是一个非常优秀的科学计算库，基于较冷门的编程语言Lua开发。Torch灵活性较高，容易实现自定义网络层，这也是PyTorch继承获得的优良基因。缺点：但是由于Lua语言使用人群较小，Torch一直未能获得广泛应用。2深度学习框架介绍MXNET由华人博士陈天奇和李沐等人开发，MXNET是亚马逊公司的官方深度学习框架，采用了命令式编程和符号式编程混合方式，灵活性高，运行速度快，文档和案例也较为丰富。PyTorch是Facebook基于原有的Torch框架推出的采用Python作为主要开发语言的深度学习框架。PyTorch借鉴了Chainer的设计风格，采用命令式编程，使得搭建网络和调试网络非常方便。尽管PyTorch在2017年才发布，但是由于精良紧凑的接口设计，PyTorch在学术界获得了广泛好评。在PyTorch1.0版本后，原来的PyTorch与Caffe2进行了合并，弥补了PyTorch在工业部署方面的不足。总的来说，PyTorch是一个非常优秀的深度学习框架。2深度学习框架介绍Keras

一个基于Theano和TensorFlow等框架提供的底层运算而实现的高层框架，提供了大量方便快速训练，测试的高层接口，对于常见应用来说，使用Keras开发效率非常高。缺点：但是由于没有底层实现，需要对底层框架进行抽象，运行效率不高，灵活性一般。TensorFlow由Google于2015年发布。由于TensorFlow接口设计频繁变动，功能设计重复冗余，符号式编程开发和调试非常困难等问题，TensorFlow1.x版本一度被业界诟病。2019年，Google推出TensorFlow2正式版本，能够避免TensorFlow1.x版本的诸多缺陷。3TensorFlow基础框架3TensorFlow基础框架系统框架Tensorflow系统框架分为三层，由上而下依次是应用层、接口层和Tensorflow核心层。TensorFlow系统框架3TensorFlow基础框架系统框架的六大特性深度灵活性（DeepFlexibility）真正的可移植性（TruePortability）连接研究与产品（ConnectResearchand