《深入浅出PyTorch 从模型到源码》读书笔记思维导图

PPT书籍导读最新版本读书笔记模板《深入浅出PyTorch从模型到源码》最新版读书笔记，下载可以直接修改模型神经网络数据模块深度过程函数量图像算法结构图机制框架基本概念训练机器计算机反向本书关键字分析思维导图01第1章深度学习概念简介第3章PyTorch计算机视觉模块第5章PyTorch自然语言处理模块第2章PyTorch深度学习框架简介第4章PyTorch机器视觉案例第6章PyTorch自然语言处理案例目录030502040607第7章其他重要模型第9章PyTorch源代码解析赞誉第8章PyTorch高级应用参考资料目录0901108010内容摘要本书从机器学习和深度学习的基础概念入手，由浅到深地详细介绍了PyTorch深度学习框架的知识，主要包含深度学习的基础知识，如神经网络的优化算法、神经网络的模块等；同时也包含了深度学习的进阶知识，如使用PyTorch构建复杂的深度学习模型，以及前沿的深度学习模型的介绍等。另外，为了加深读者对PyTorch深度学习框架的理解和掌握，本书还介绍了PyTorch的源代码结构，包括该框架的Python语言前端和C++语言后端的源代码结构。第1章深度学习概念简介按照PyTorch中的命名规则，如果张量方法后缀带下画线，则该方法会修改张量本身的数据，反之则会返回新的张量我们也可以把监督学习的机器学习模型分成两类：生成式模型（GenerativeModel）和判别式模型（DiscriminativeModel），前者基于的是联合概率分布，后者基于的是条件概率分布。1.1深度学习的历史1.2机器学习基本概念1.3深度学习基本概念1.4输入数据的表示方式第1章深度学习概念简介1.5线性变换和激活函数1.6链式求导法则和反向传播1.7损失函数和优化器1.8本章总结第1章深度学习概念简介第2章PyTorch深度学习框架简介给定在现实中获取的一系列数据来构建一个模型，用于描述数据的具体分布在较深的网络中使用反向传播算法会导致梯度消失（GradientVanish）和梯度爆炸（GradientExplode）由于图像像素值的分布多种多样，为了能够让数据的分布规整，从而有利于神经网络的训练，我们需要让一批图像的张量减去所有图像的平均值，除以所有图像的方差，这个过程称之为归一化动态计算图指的是在计算过程中逐渐构建计算图，最后得到神经网络的输出结果在进行深度学习过程中，我们经常会用到四维张量，增加的一个维数称为迷你批次（mini-batch）的大小，可以认为是每次输入深度学习神经网络的图片的数目。2.1深度学习框架简介2.2PyTorch框架历史和特性更迭2.3PyTorch的安装过程2.4PyTorch包的结构2.5PyTorch中张量的创建和维度...2.6PyTorch中张量的运算010302040506第2章PyTorch深度学习框架简介2.7PyTorch中的模块简介2.8PyTorch的计算图和自动求导...2.9PyTorch的损失函数和优化器2.10PyTorch中数据的输入和预...第2章PyTorch深度学习框架简介2.11PyTorch模型的保存和加载2.12PyTorch数据的可视化2.13PyTorch模型的并行化2.14本章总结第2章PyTorch深度学习框架简介第3章PyTorch计算机视觉模块我们把整体的求解最优参数θt的过程称之为极大似然估计（MaximumLikelihoodEstimation，MLE）。3.1计算机视觉基本概念3.2线性层3.3卷积层3.4归一化层3.5池化层3.6丢弃层010302040506第3章PyTorch计算机视觉模块3.7模块的组合3.8特征提取3.9模型初始化3.10常见模型结构3.11本章总结12345第3章PyTorch计算机视觉模块第4章PyTorch机器视觉案例torch.nn.init模块定义了神经网络权重的初始化一类是对于张量（包括向量和矩阵）的线性变换，另一类是张量的逐点（Point-wise）变换。4.1常见计算机视觉任务和数据集4.2手写数字识别：LeNet4.3图像分类：ResNet和Ince...4.4目标检测：SSD第4章PyTorch机器视觉案例4.5图像分割：FCN和U-Net4.6图像风格迁移4.7生成模型：VAE和GAN4.8本章总结第4章PyTorch机器视觉案例第5章PyTorch自然语言处理模块作为手册使用吧，也没有突出关键词查阅的功能，排版不够直观简洁。5.1自然语言处理基本概念5.2词嵌入层5.3循环神经网络层：GRU和LSTM5.4注意力机制5.5自注意力机制5.6本章总结010302040506第5章PyTorch自然语言处理模块第6章PyTorch自然语言处理案例真是对机器学习爱好者来说难得的一本好书，尤其一步一步详细解释了PyTorch的知识，引导初学者进入课堂。6.1word2vec算法训练词向量6.2基于循环神经网络的情感分析6.3基于循环神经网络的语言模型6.4Seq2Seq模型及其应用6.5BERT模型及其应用6.6本章总结010302040506第6章PyTorch自然语言处理案例第7章其他重要模型感觉这本书对新手来说并不是很友好，有些地方就是粗略讲讲，但基本的网络搭建等都涉及到了，可以当作一个工具书。7.1基于宽深模型的推荐系统7.2DeepSpeech模型和CTC...7.3使用Tacotron和WaveN...7.4基于DQN的强化学习算法7.5使用半精度浮点数训练模型7.6本章总结010302040506第7章其他重要模型第8章PyTorch高级应用的确是一本不错的书，看别人代码时有很多不理解的地方，比如cat，stack的区别，初始化为什么用super之类的，都提到了。8.1PyTorch自定义激活函数和梯...8.2在PyTorch中编写扩展8.3正向传播和反向传播的钩子8.4PyTorch的静态计算图8.5静态计算图模型的保存和使用8.6本章总结010302040506第8章PyTorch高级应用第9章PyTorch源代码解析做为用来了解pytorch框架的入门书还是挺不错的，讲得很简洁。9.1ATen张量计算库简介9.2C++的Python接口9.3csrc模块简介9.4autograd和自动求导机制