Python深度学习：基于TensorFlow

1、Python深度学习：基于TensorFlowPython深度学习：基于TensorFlow01.第一部分 Python及应用数学基础02.03.目录第二部分 深度学习理论与应用第三部分 扩展篇01.第一部分 Python及应用数学基础02.03.目录第第一部分 Python及应用数学基础第一部分 Python及应用数学基础第一部分 Python及应用数学基础1 NumPy常用操作1.1 生成ndarray的几种方式011.2 存取元素021.3 矩阵操作031.4 数据合并与展平041.5 通用函数051.6 广播机制06第一部分 Python及应用数学基础1 NumPy常用操作1第一部分

2、Python及应用数学基础1 NumPy常用操作1.7 小结第一部分 Python及应用数学基础1 NumPy常用操作12 Theano基础第一部分 Python及应用数学基础2.1 安装2.2 符号变量2.3 符号计算图模型2.6 共享变量2.5 条件与循环2.4 函数2 Theano基础第一部分 Python及应用数学基础2.第一部分 Python及应用数学基础2 Theano基础2.7 小结第一部分 Python及应用数学基础2 Theano基础2.3 线性代数第一部分 Python及应用数学基础0102030405063.1 标量、向量、矩阵和张量3.2 矩阵和向量运算3.3 特殊矩阵

3、与向量3.4 线性相关性及向量空间3.5 范数3.6 特征值分解3 线性代数第一部分 Python及应用数学基础0102033 线性代数第一部分 Python及应用数学基础3.7 奇异值分解3.8 迹运算3.9 实例：用Python实现主成分分析3.10 小结DCAB3 线性代数第一部分 Python及应用数学基础3.7 奇异4 概率与信息论4.1 为何要学概率、信息论4.2 样本空间与随机变量4.3 概率分布4.6 条件概率的链式法则4.5 条件概率4.4 边缘概率4 概率与信息论4.1 为何要学概率、信息论4.2 样本空间4 概率与信息论4.7 独立性及条件独立性4.8 期望、方差及协方差

4、4.11 小结4.10 信息论4.9 贝叶斯定理4 概率与信息论4.7 独立性及条件独立性4.8 期望、方差4 概率与信息论4.3 概率分布4.3.1 离散型随机变量4.3.2 连续型随机变量4 概率与信息论4.3 概率分布4.3.1 离散型随机变量5 概率图模型DCBA5.1 为何要引入概率图5.2 使用图描述模型结构5.3 贝叶斯网络5.4 马尔可夫网络E5.5 小结5 概率图模型DCBA5.1 为何要引入概率图5.2 使用图5 概率图模型5.3 贝叶斯网络5.3.1 隐马尔可夫模型简介5.3.2 隐马尔可夫模型三要素5.3.3 隐马尔可夫模型三个基本问题5.3.4 隐马尔可夫模型简单实例

5、5 概率图模型5.3 贝叶斯网络5.3.1 隐马尔可夫模型简5 概率图模型5.4 马尔可夫网络5.4.1 马尔可夫随机场5.4.2 条件随机场5.4.3 实例：用Tensorflow实现条件随机场5 概率图模型5.4 马尔可夫网络5.4.1 马尔可夫随机场第二部分 深度学习理论与应用第二部分 深度学习理论与应用6 机器学习基础6.2 无监督学习6.4 前馈神经网络6.6 小结6.1 监督学习6.3 梯度下降与优化6.5 实例：用Keras构建深度学习架构6 机器学习基础6.2 无监督学习6.4 前馈神经网络6.66 机器学习基础6.1 监督学习6.1.1 线性模型6.1.2 SVM6.1.3

6、贝叶斯分类器6.1.4 集成学习6 机器学习基础6.1 监督学习6.1.1 线性模型6 机器学习基础6.2 无监督学习6.2.1 主成分分析6.2.2 k-means聚类6 机器学习基础6.2 无监督学习6.2.1 主成分分析6 机器学习基础6.3 梯度下降与优化6.3.1 梯度下降简介6.3.2 梯度下降与数据集大小6.3.3 传统梯度优化的不足6.3.4 动量算法6.3.5 自适应算法6.3.6 有约束最优化6 机器学习基础6.3 梯度下降与优化6.3.1 梯度下降简6 机器学习基础6.4 前馈神经网络6.4.1 神经元结构6.4.2 感知机的局限6.4.3 多层神经网络6.4.4 实例：

7、用TensorFlow实现XOR6.4.5 反向传播算法6 机器学习基础6.4 前馈神经网络6.4.1 神经元结构7 深度学习挑战与策略7.1 正则化7.2 预处理7.3 批量化7.6 选择合适代价函数7.5 选择合适的激活函数7.4 并行化7 深度学习挑战与策略7.1 正则化7.2 预处理7.3 批7 深度学习挑战与策略7.8 小结7.7 选择合适的优化算法7 深度学习挑战与策略7.8 小结7.7 选择合适的优化算法7 深度学习挑战与策略7.1 正则化7.1.1 正则化参数7.1.2 增加数据量7.1.3 梯度裁剪7.1.4 提前终止7.1.5 共享参数7.1.6 Dropout7 深度学习

8、挑战与策略7.1 正则化7.1.1 正则化参数7 深度学习挑战与策略7.2 预处理7.2.1 初始化7.2.2 归一化7 深度学习挑战与策略7.2 预处理7.2.1 初始化7 深度学习挑战与策略7.3 批量化7.3.1 随机梯度下降法7.3.2 批标准化7 深度学习挑战与策略7.3 批量化7.3.1 随机梯度下降7 深度学习挑战与策略7.4 并行化7.4.1 TensorFlow利用GPU加速7.4.2 深度学习并行模式7 深度学习挑战与策略7.4 并行化7.4.1 Tensor第二部分 深度学习理论与应用8 安装TensorFlow8.1 TensorFlow CPU版的安装018.2 Te

9、nsorFlow GPU版的安装028.3 配置Jupyter Notebook038.4 实例：CPU与GPU性能比较048.5 实例：单GPU与多GPU性能比较058.6 小结06第二部分 深度学习理论与应用8 安装TensorFlow8.9 TensorFlow基础9.6 TensorFlow分布式9.5 可视化数据流图9.4 TensorFlow实现数据流图9.3 TensorFlow基本概念9.2 数据流图9.1 TensorFlow系统架构9 TensorFlow基础9.6 TensorFlow分布9 TensorFlow基础9.7 小结9 TensorFlow基础9.7 小结9

10、TensorFlow基础9.3 TensorFlow基本概念9.3.1 张量9.3.2 算子9.3.3 计算图9.3.4 会话9.3.5 常量9.3.6 变量9.3.7 占位符9.3.8 实例：比较constant、variable和placeholder9 TensorFlow基础9.3 TensorFlow基本10 TensorFlow图像处理AEDFBC10.2 图像格式10.3 把图像转换为TFRecord文件10.5 图像处理实例10.4 读取TFRecord文件10.6 全新的数据读取方式Dataset API10.1 加载图像10 TensorFlow图像处理AEDFBC10.2

11、 图像10 TensorFlow图像处理10.7 小结10 TensorFlow图像处理10.7 小结10 TensorFlow图像处理10.6 全新的数据读取方式Dataset API10.6.1 Dataset API架构10.6.2 构建Dataset10.6.3 创建迭代器10.6.4 从迭代器中获取数据10.6.5 读入输入数据10.6.6 预处理数据10.6.7 批处理数据集元素10.6.8 使用高级API10 TensorFlow图像处理10.6 全新的数据读取方11 TensorFlow神经元函数11.1 激活函数11.2 代价函数11.3 小结11 TensorFlow神经元

12、函数11.1 激活函数11.11 TensorFlow神经元函数11.1 激活函数11.1.1 sigmoid函数11.1.2 tanh函数11.1.3 relu函数11.1.4 softplus函数11.1.5 dropout函数11 TensorFlow神经元函数11.1 激活函数11.11 TensorFlow神经元函数11.2 代价函数11.2.1 sigmoid_cross_entropy_with_logits函数11.2.2 softmax_cross_entropy_with_logits函数11.2.3 sparse_softmax_cross_entropy_with_lo

13、gits函数11.2.4 weighted_cross_entropy_with_logits函数11 TensorFlow神经元函数11.2 代价函数11.12 TensorFlow自编码器第二部分 深度学习理论与应用12.2 降噪自编码12.4 实例：用自编码预测信用卡欺诈12.1 自编码简介12.3 实例：TensorFlow实现自编码12.5 小结12 TensorFlow自编码器第二部分 深度学习理论与应13 TensorFlow实现Word2Vec13.1 词向量及其表达13.4 小结13.2 Word2Vec原理13.3 实例：TensorFlow实现Word2Vec68%44%

14、21%15% 13.2.1 CBOW模型13.2.2 Skim-gram模型 13 TensorFlow实现Word2Vec13.1 词向14 TensorFlow卷积神经网络114.1 卷积神经网络简介214.2 卷积层314.3 池化层414.4 归一化层514.5 TensorFlow实现简单卷积神经网络614.6 TensorFlow实现进阶卷积神经网络14 TensorFlow卷积神经网络114.1 卷积神经网14 TensorFlow卷积神经网络14.7 几种经典卷积神经网络14.8 小结14 TensorFlow卷积神经网络14.7 几种经典卷积14 TensorFlow卷积神经

15、网络14.2 卷积层14.2.1 卷积核14.2.2 步幅14.2.3 填充14.2.4 多通道上的卷积14.2.5 激活函数14.2.6 卷积函数14 TensorFlow卷积神经网络14.2 卷积层14.15 TensorFlow循环神经网络第二部分 深度学习理论与应用15.2 前向传播与随时间反向传播15.4 LSTM算法15.6 RNN应用场景15.1 循环神经网络简介15.3 梯度消失或爆炸15.5 RNN其他变种15 TensorFlow循环神经网络第二部分 深度学习理论LOGOM.94275.CN第二部分 深度学习理论与应用15 TensorFlow循环神经网络A15.7 实例：

16、用LSTM实现分类15.8 小结BLOGOM.94275.CN第二部分 深度学习理论与应用1516 TensorFlow高层封装16.2 Estimator简介16.4 实例：使用Estimator自定义模型16.6 实例：Keras实现序列式模型16.1 TensorFlow高层封装简介16.3 实例：使用Estimator预定义模型16.5 Keras简介16 TensorFlow高层封装16.2 Estimato16 TensorFlow高层封装16.7 TFLearn简介16.8 小结16 TensorFlow高层封装16.7 TFLearn简16 TensorFlow高层封装16.7

17、 TFLearn简介16.7.1 利用TFLearn解决线性回归问题16.7.2 利用TFLearn进行深度学习16 TensorFlow高层封装16.7 TFLearn简17 情感分析AEDFBC17.2 词向量简介17.3 循环神经网络17.5 实例：TensorFlow实现情感分析17.4 迁移学习简介17.6 小结17.1 深度学习与自然语言处理17 情感分析AEDFBC17.2 词向量简介17.3 循环17 情感分析17.5 实例：TensorFlow实现情感分析17.5.1 导入数据17.5.2 定义辅助函数17.5.3 构建RNN模型17.5.4 调优超参数17.5.5 训练模型

18、17 情感分析17.5 实例：TensorFlow实现情感分第二部分 深度学习理论与应用18 利用TensorFlow预测乳腺癌010318.1 数据说明18.2 数据预处理18.3 探索数据0204050618.4 构建神经网络18.5 训练并评估模型18.6 小结第二部分 深度学习理论与应用18 利用TensorFlow预19 聊天机器人19.4 小结19.3 用TensorFlow实现聊天机器人19.2 带注意力的框架19.1 聊天机器人原理 19.3.1 接口参数说明19.3.2 训练模型 19 聊天机器人19.4 小结19.3 用TensorFlo20 人脸识别20.3.1 数据准备20.3.2 预处理数据20.3.3 训练模型20.3.4 测试模型20.3 实施步骤 20.2 项目概况 20.