TensorFlow与神经网络PPT学习课件

1、Tensorflow和进一步研究；1，2020/7/4；课程第6天-神经网络；1，基于神经网络的2；人工神经网络(ANN)3；m NIST数据集浅神经网络分析4；卷积神经网络(CNN) 结果分析，8，2020/7/4， 演示：http:/playground . tensor flow . org/# activation=sigmoid regulation=L2 batch size=10 dataset=circlereg dataset=reg-planehlearningrate=0.03 regulation=true numid denl Ayers _ hide=true di

2、screetize _ hide=true activation _ hide=true problem _ hide=true netive ，神经网络的种类：基础神经网络：单层传感器、线性神经网络、BP神经网络、霍布斯菲尔德神经网络等高级神经网络：玻尔兹曼机器、受限玻尔兹曼机器、递归神经网络等深度神经网络：深度信任网络、卷积神经网络、循环神经网络、LSTM网络等，10，辛顿是反向传播算法的发明者之一，也是深化学习的积极推动者。11，2020/7/4，geoffreyhinton，yanlection，yoshuabngio，Andrew ng，12，2020/7/4，输出层构成了整个连接，

3、13，2020/7/4，N-1层的所有神经元和连接，也称为结构。例如，神经网络的变量可以是神经元连接的加权激励功能(ActivityRule)。大多数神经网络模型都有短时间尺度的动力学规则，定义神经元如何根据其他神经元的活动改变自身的激励值。学习规则学习规则指定网络的权重如何随时间调整。(反向传播算法)，神经网络配置，14，2020/7/4，15，2020/7/4，16，2020/7/4，浅人工神经网络模型，1 b，name=none) bias return :完整连接结果，不需要为交叉损失操作激活函数(因为这是最后的输出)，27，2020/7/4，如果想思考线性回归损失函数，如何测量神经网

4、络损失？28，2020/7/4，损失计算-交叉熵损失公式(理解)，公式：注意：神经网络结果，实际结果。每个类别的结果损失为29、2020/7/4，2、SoftMax计算、交叉熵、TF . nn . soft max _ cross _ entropy _ with _ log its(labels minimize(loss):最小化损失return: gradient drop op，32，2020/7/4，精度计算，1，equal _ list=tf 随着神经网络深度的增加，节点识别的特性也越来越复杂。35，2020/7/4，卷积神经网络，1，卷积神经网络与简单完全连接神经网络的比较2，卷

5、积神经网络的发展史3，卷积神经网络的结构分析4，卷积网络API简介，36，2020这是浪费，不使用像素之间的位置信息，为了进行图像识别操作，每个像素都与周围的像素连接得更紧密。层数限制，37，2020/7/4，卷积神经网络开发历史，38，2020/7/4，卷积神经网络错误率，39，2020/7/4，卷积神经网络的特点是，隐藏层分为卷积层和牵引层(也称为poolinglayer，子采样层)。卷积层：通过从原始图像转换提取特征，每个特征都是特征映射汇聚层。即，属性后，通过稀疏参数减少学习参数，降低网络的复杂性(池和池的最大数量)，41，2020/7/4，数据更改，42，2020/7/4，43，20

6、20/71、激活函数1、池化层2、整个连接层、44、2020/7/4、卷积层计算过程(在一个通道中一次Filter一步)、45、2020/7/4、SAME和VALIDSAME:在边缘以外进行采样的方法有两种，采样的区域与输入图像中的像素宽度匹配。VALID:采样区域小于输入者图像的像素宽度，47，2020/7/4，并且在卷积后需要输出大小：0填充的大小为2，48，2020/7/4，卷积网络API简介，卷积层给定输入张量、batch、heigth、width、channel、float32，64filter:给定滤镜的大小、filter _ height、filter _ width、filte

7、r其中，“VALID”表示放弃滑动超出部分，“SAME”表示填充。也就是说，它与更改后的高度和宽度一样大。49，2020/7/4，多通道图-周边补充和多过滤器，50，2020/7/4，新的激活函数-Relu，51，2020/7/4深度网络中，如果sigmoid函数反向传播时渐变消失(无权重和偏移)，则为53，2020/7/4，激活函数：tf.nn.relu(features，Name=None)featurePooling的方法很多，最常用的是MaxPooling。55，2020/7/4，池：tf.nn.max _ pool (value，k size=，strides=，padding=，name=最后