《人工智能基础及应用（Python 微课版）》课件 第6.2 深度学习详解

深度学习自然语言处理中的深度学习：大型语言模型自然语言处理中的深度学习：大型语言模型与日俱增的模型规模：新的摩尔定律？大型语言模型（LLM）的参数规模走势与日俱增的数据量模型发布时间语料库规模GPT-12018年6月5GGPT-22019年2月40GGPT-32020年5月45GChatGPT2022年11月570G小结深度学习：深度学习模型+学习方法+数据+算力普遍且基础的神经网络结构卷积神经网络（CNN）循环神经网络（RNN）Transformer卷积神经网络（ConvolutionalNeuralNetwork,CNN）最初用于手写数字识别的LeNet-5的网络结构卷积的数学表达连续形式的卷积运算离散形式的卷积运算一维卷积一维卷积运算可理解为利用滤波器从信号序列中提取特征的过程不同滤波器提取到的特征不同：提取信号序列中的低频信息提取信号序列中的高频信息二维卷积

二维卷积

二维卷积

二维卷积

互相关运算与卷积互相关运算旋转180度卷积运算给定形状为的输入张量，形状为的卷积核，卷积运算输出的特征映射的形状为：特征映射的尺寸边界填充Padding步长步长Stride=2输入卷积核输出通过汇聚函数对特征映射实施下采样，将其划分矩形区域，并计算每个区域内的总体统计特征作为该区域的表示汇聚层典型卷积神经网络卷积神经网络的整体结构典型卷积神经网络AlexNet的网络结构典型卷积神经网络GoogLeNetRestNet小结卷积神经网络卷积层：卷积运算、填充、步长汇聚层：最大汇聚、均值汇聚整体结构及典型模型InceptionV1结构残差块循环神经网络（RecurrentNeuralNetwork,

RNN）RNN是比前馈神经网络更加符合生物神经网络的结构。使用带自反馈的神经元，实现对任意长度的时序数据的处理。机器翻译语音识别RNN的基本结构a)按时间步展开的RNN基本结构对于序列，在每个时间步

，按下式更新隐状态式（1）式（2）b)

RNN双向RNN包含单隐层的双向循环神经网络深层RNN包含3层隐藏层的深层RNN长短期记忆网络（LongShort-TermMemory,

LSTM）LSTM的循环单元结构输入门遗忘门输出门LSTM的工作过程遗忘门

控制上一个时间步的内部状态

需要遗忘多少信息输入门

控制当前时间步的候选状态有多少信息需要保存LSTM的工作过程遗忘部分上一步内部状态，并结合保留的当前步信息，得到新的内部状态结合输出门

，控制内部状态

要传递给外部隐状态的信息量门控循环单元（GatedRecurrentUnit，GRU）GRU的循环单元结构RNN的几种常见模式小结循环神经网络基础RNN、双向RNN、深层RNNLSTM、GRURNN的常见使用模式自注意力机制（Self-Attention）从信息中选择并聚焦到当前任务目标更关键的信息上在计算过程中不依赖于外部信息，更擅长捕捉数据自身内部的相关性自注意力机制计算过程示意图自注意力机制（Self-Attention）

n

n

QKV

X线性映射（式1）（式2）（式3）

自注意力机制（Self-Attention）n

n

QKVnn

X线性映射注意力权重缩放点积自注意力机制（Self-Attention）

n

n

QKVnnn

HX线性映射注意力权重加权求和多头注意力（Multi-headAttention）多头注意力第i个注意力头不同投影空间中提取到的交互信息往往不同，组合使用可能更加有益利用多组线性映射独立地对输入进行自注意力运算，然后拼接,Transformer模型编码器解码器三角函数固定位置编码逐位置前馈神经网络层多头自注意力层掩蔽多头自注意力层编码器-解码器注意力层基于Transformer的预训练模型编码器模式：仅利用编码器部分实施预训练；掩码语言建模。基于Transformer的预训练模型编码器模式：仅利用编码器部分实施预训练；掩码语言建模。基于Transformer的预训练模型编码器模式：仅利用编码器部分实施预训练；掩码语言建模。BERT输入的嵌入向量表示基于Transformer的预训练模型讯飞星火认知大模型解码器模式：仅利用解码器部分实施预训练；预测下一个单词。基于Transformer的预训练模型编码器-解码器模式：同时使用编码器