《机器学习》课件-第10章神经网络

第10章：神经网络内容提纲2

10.2卷积神经网络10.2.1卷积神经网络组成10.2.2卷积层10.2.3池化层10.2.4全连接层10.1.5应用案例

10.3

Transformer10.3.1位置编码10.3.2自注意力机制10.3.3多头注意力机制10.3.4应用案例全连接网络权重矩阵的参数非常多局部不变性特征自然图像中的物体都具有局部不变性特征尺度缩放、平移、旋转等操作不影响其语义信息。全连接前馈网络很难提取这些局部不变特征卷积神经网络出现原因3卷积神经网络4卷积神经网络（ConvolutionalNeuralNetworks，CNN）一种前馈神经网络受生物学上感受野（ReceptiveField）的机制而提出的在视觉神经系统中，一个神经元的感受野是指视网膜上的特定区域，只有这个区域内的刺激才能够激活该神经元。卷积神经网络有三个结构上的特性：局部连接权重共享池化卷积神经网络组成5卷积网络是由卷积层、汇聚层、全连接层交叉堆叠而成。趋向于小卷积、大深度典型结构一个卷积块为连续M个卷积层和b个汇聚层（M通常设置为2∼5，b为0或1）。一个卷积网络中可以堆叠N个连续的卷积块，然后在接着K个全连接层（N的取值区间比较大，比如1∼100或者更大；K一般为0∼2）。卷积神经网络组成6一维卷积7卷积经常用在信号处理中，用于计算信号的延迟累积。假设一个信号发生器每个时刻t产生一个信号xt

，其信息的衰减率为wk

，即在k−1个时间步长后，信息为原来的wk

倍假设w1=1,w2=1/2,w3=1/4时刻t收到的信号yt

为当前时刻产生的信息和以前时刻延迟信息的叠加。滤波器（filter）或卷积核（convolutionkernel）一维卷积8

Filter:[-1,0,1]

一维卷积9不同的滤波器来提取信号序列中的不同特征低频信息高频信息一维卷积引入滤波器的滑动步长S和零填充P。步长（Stride）是指卷积核在滑动时的时间间隔。零填充（ZeroPadding）是在输入向量两端进行补零。10步长S=2零填充P=1卷积类型卷积的结果按输出长度不同可以分为三类：窄卷积：步长𝑇=1，两端不补零𝑃=0，卷积后输出长度为𝑀−𝐾+1宽卷积：步长𝑇=1，两端补零𝑃=𝐾−1，卷积后输出长度𝑀+𝐾−1等宽卷积：步长𝑇=1，两端补零𝑃=(𝐾−1)/2，卷积后输出长度𝑀目前文献中的卷积一般指等宽卷积！11二维卷积12在图像处理中，图像是以二维矩阵的形式输入到神经网络中，因此我们需要二维卷积。二维卷积13二维卷积14步长1，零填充0步长2，零填充0步长1，零填充1步长2，零填充1卷积作为特征提取器15多个卷积核16

多通道17多通道18图10-14卷积计算示例：3个输入特征图、1个输出特征图多通道19图10-15卷积计算示例：3个输入特征图、2个输出特征图多通道20步长2

filter3*3*3

filter组数2零填充1池化/汇聚池化层（PoolingLayer）也叫子采样层(SubsamplingLayer)，其作用是进行特征选择，降低特征数量，从而减少参数数量。卷积层虽然可以显著减少网络中连接的数量，但特征映射组中的神经元个数并没有显著减少。如果后面接一个分类器，分类器的输入维数依然很高，很容易出现过拟合。为了解决这个问题，可以在卷积层之后加上一个池化层，从而降低特征维数，避免过拟合。21池化/汇聚22池化可以视为一种特殊的卷积操作，但两者在目的和实现方式上有显著差异。池化主要用于降维和特征压缩，而卷积则用于特征提取。2*2最大池化，步幅为2全连接层23应用案例VGG1624卷积核：3*3

最大池化：2*2，步幅2TransformerTransformer是一种深度学习模型，由Vaswani等人于2017年提出。它是一种基于自注意力机制（Self-Attention）的序列转换模型，旨在处理各种序列数据任务，如自然语言处理（NLP）、图像识别和音频处理等。Transformer模型的出现极大地推动了自然语言处理领域的发展，成为了许多NLP任务的核心架构。25TransformerTransformer结构26Transformer27自注意力机制是Transformer的核心组成部分。Transformer模型的另一个关键特性是位置编码（PositionalEncoding），它向模型提供了序列中各元素位置的信息。编码器由多个相同的层堆叠而成，每层包含两个主要组件：多头自注意力机制（Multi-HeadSelf-Attention）和前馈神经网络（Feed-ForwardNeuralNetwork）解码器的结构与编码器类似，但在每层中增加了一个额外的多头注意力机制，用于关注编码器的输出。Transformer结构Transformer模型主要由编码器（Encoder）和解码器（Decoder）两部分构成位置编码位置编码的目的是为序列中的每个元素生成一个唯一的位置向量，这个位置向量与元素的嵌入向量相加，从而使得模型能够根据元素的位置来调整其行为。在原始的Transformer模型中，位置编码是通过一种特定的函数来生成的，该函数使用正弦和余弦函数的组合来为每个位置生成唯一的向量：对于序列中的第个位置，其位置编码向量的第个元素定义如下：式中i是位置索引，j=2k或j=2k+1是向量维度的索引，d是嵌入向量的维度。28自注意力机制Transformer中的自注意力机制是一种在序列模型中捕获序列内部依赖关系的方法。它通过计算序列中每个元素对其他所有元素的注意力分数，来实现对序列的全局理解。这种机制使得Transformer能够在处理长距离依赖关系时表现出色，这在传统的循环神经网络（RNN）和长短时记忆网络（LSTM）中是一个挑战。29自注意力机制

30自注意力机制31

自注意力机制32

自注意力机制自注意力机制的一个重要特点是它的并行性。由于计算每个元素的注意力分数和新表示时，不需要考虑序列中其他元素的顺序，因此可以同时对序列中的所有元素进行处理。这使得自注意力机制在处理长序列时比传统的循环神经网络更加高效。自注意力机制还具有可解释性。通过分析注意力分数，我们可以了解序列中的哪些元素对当前元素的表示有更大的影响，从而更好地理解模型的决策过程。33多头注意力机制多头注意力机制是Transformer模型中的一个关键组件，它扩展了传统的自注意力机制，使模型能够同时从不同的表示子空间中捕获信息。这种机制使得Transformer能够更有效地处理复杂的序列依赖关系，并提高了模型的表达能力。34多头注意力机制在传统的自注意力机制中，每个元素的新表示是通过计算其与序列中其他所有元素的注意力分数，并使用这些分数进行加权求和得到的。然而，这种方式可能无法充分捕获序列中的多种依赖关系，因为它只使用了一个单一的表示空间。多头注意力机制通过将自注意力分解为多个“头”，来解决这个问题。每个头都有自己的一组权重矩阵（查询、键和值的权重矩阵），并独立地执行自注意力操作。这样，每个头可以专注于序列中的不同方面，从而捕获更丰富的信息。最后，所有头的输出被拼接在一起，并通过一个线性变换得到最终的输出。35多头注意力机制

36多头注意力机制的计算过程多头注意