8.5 LSTM分类应用案例

高超

北京工商大学计算机与人工智能学院

神经网络理论及应用：LSTM分类应用案例LSTM分类应用案例2026/10/11BTBU-CIE2分类：假定LSTM最后一层有m个神经元，每个神经元输出一个标量，m个神经元的输出可以看作向量v，现将这m个神经元全部连接到N个线性神经元上，则有N组w、b值不同的wv+b，最后可以通过归一化函数（例如softmax）输出N个类上的概率p，该输出是一个离散值，因而可以处理分类问题LSTM分类应用案例2026/10/11BTBU-CIE3数据预处理构建训练LSTM模型评价LSTM模型LSTM分类应用案例2026/10/11BTBU-CIE41.图像识别问题2.文本分类问题图像识别问题2026/10/11BTBU-CIE5案例一：针对mnist手写数字数据库，建立LSTM模型对0~9之间的手写数字进行识别。[28,28]图像识别问题2026/10/11BTBU-CIE6解析mnist数据库：[images,labels]=load_mnist()images[70000,784]：其中行数代表样本数，列数代表特征数，该数据库总共有70000张图片，每张图片有784个像素点，每个像素点的灰度值在0~255之间labels[70000,10]：其中行数代表样本数，列数代表标签数，该数据库用1×10的行向量表示0~9中的10个标签，向量的非零位即为该向量对应的标签。例如：[1000000000]→0[0000001000]→6[0000000001]→9图像识别问题2026/10/11BTBU-CIE7数据预处理：数据归一化处理（0~1）数据集划分：前60000为训练集，后10000为测试集生成样本集：假定单个样本为[X，Y]，X为模型输入，大小为[28,28]，即时间步长和输入维度均为28；Y为模型输出，大小为[1,10]，即为当前输入图片对应的数字标签图像识别问题2026/10/11BTBU-CIE8多步长多维度LSTM：时间步长和输入维度为28，X[28,28]12…27282930…5556……………729730…755756757758…783784xt-27xt-26xt-1xtXt-27[1,28]：表示图片首行的行向量Xt[1,28]：表示图片末行的行向量X图像识别问题2026/10/11BTBU-CIE9构建和训练LSTM模型：图像识别问题2026/10/11BTBU-CIE10评价LSTM模型：28×28LSTM模型测试集分类准确率:98.56%28×42LSTM模型测试集分类准确率:98.39%文本分类问题2026/10/11BTBU-CIE11案例二：给定25000条英文电影评价，建立LSTM模型对所有影评进行3分类，分别为正面、中立和负面评价。数据预处理：文本序列的向量化：包括分词和词嵌入，英文一般先采用空格进行分词，再采用word2vec方法进行词嵌入，并生成词向量，最后由词向量构成句向量数据集划分：前20000条为训练集，后5000条为测试集生成样本集：假定单个样本为[X，Y]，X为模型输入，大小为[时间步长,输入维度]，Y为模型输出，大小为[1,3],[100]、[010]、[001]分别表示正面、中立和负面评价文本分类问题2026/10/11BTBU-CIE12多步长多维度LSTM：时间步长为文本序列的最大长度，或截取一个固定的长度，输入维度为词向量的维度ThisisagoodmovieThisisagoodmovie分词词嵌入xt-4=[0.98,0.54,…,0.78,0.69]xt-3=[0.37,0.21,…,0.93,0.16]xt-2=[0.08,0.96,…,0.66,0.58]xt-1=[0.19,0.32,…,0.56,0.61]xt=[0.78,0.61,…,0.91,0.16]word2vec词向量[1,128]X=[xt-4,xt-3,xt-2,xt-1,xt]T句向量[5,1]文本分类问题2026/10/11BTBU-CIE13多步长多维度LSTM：时间步长为5，输入维度为128，X[5,128]Thisisagoodmovie[100]正面评价文本分类问题2026/10/11BTBU-CIE14搭建和训练LSTM模型：文本分类问题2026/10/11BTBU-CIE15评价LSTM模型：多步长多维度LSTM模型测试集分类准确率:99.01%输入输出Thisisa

good

movie正面评价Whatabadmovie负面评价Justsoso中立评价小结2026/10/11BTBU-CIE