第6章 习题答案

PAGE第6章深度学习基础与应用习题与实验一、选择题1．下列关于深度学习的核心特征，错误的是（）。A．能够自动从数据中学习多层次的特征表示B．需要大量标注数据进行训练C．模型参数通常较少，计算成本低D．具有强大的函数逼近能力2．关于反向传播算法，错误的是（）。A．分为前向传播和反向传播两个阶段B．利用链式法则计算损失函数关于参数的梯度C．能够自动减少网络层数以降低计算成本D．是训练深度学习模型的核心技术3．对于一个图像识别问题(如在一张照片里找出一只猫)，可以更好地解决这个问题的神经网络是（）。A．BP神经网络B．感知机C．多层感知机D．卷积神经网络4．在卷积神经网络中，池化层的主要作用是（）。A．增加特征图的通道数B．减少特征图的空间尺寸C．引入非线性变换D．调整卷积核的大小5．关于LSTM网络，以下说法错误的是（）。A．通过遗忘门决定保留多少历史信息B．通过输入门决定更新多少新信息C．通过输出门决定输出多少信息D．比传统RNN更难以处理长序列依赖6．关于生成对抗网络，以下描述正确的是（）。A．由生成器和分类器组成B．生成器试图生成尽可能真实的数据C．判别器试图生成假数据D．训练过程非常稳定，不会出现模式崩溃7．下列关于神经元的描述中，错误的是（）。A．每个神经元可以有一个输入和一个输出 B．每个神经元可以有多个输入和一个输出C．每个神经元可以有0个输入和多个输出D．每个神经元可以有多个输入和多个输出8．输入图片大小为200×200，依次经过一层卷积（卷积核大小为5×5，输入矩阵周围填充圈数为1，步长为2），池化（卷积核大小为3×3，填充圈数为0，步长为1），又一层卷积（卷积核大小为3×3，填充圈数为1，步长为1）之后，输出特征图大小为（）。A．95×95B．96×96C．97×97D．98×98二、问答题1．简述深度学习与传统机器学习的主要区别。答：深度学习通过大规模数据和复杂模型实现了自动特征提取和强大性能，但牺牲了可解释性和训练效率；传统机器学习则依赖人工特征，在小规模数据和需要透明决策的场景中仍有优势。（1）数据依赖程度：传统机器学习在数据量有限时，可依靠先验知识和人工特征取得较好效果；而深度学习高度依赖海量数据，数据规模越大，其性能越强。（2）特征工程方式：传统机器学习需由领域专家手动设计特征，过程耗时且依赖经验；深度学习则具备自动特征学习能力，能从原始数据中逐层提取高层语义特征，极大减少人工干预。（3）模型结构与复杂度：传统模型结构简单、参数较少，可解释性强，但处理复杂非线性问题能力有限；深度学习模型包含多层神经网络，参数众多，能够拟合高度复杂的函数关系，但解释性较差。（4）学习方式与训练过程：传统学习采用确定性方式，训练快速且对计算资源要求低；深度学习通过随机梯度下降等算法动态优化，训练耗时且通常需要GPU集群等强大计算资源。（5）模型可解释性：传统模型透明性高（如决策树可直接展示规则）；深度学习则常被视为“黑箱”，内部特征交互机制难以理解，尽管部分可视化技术可提供一定线索。2．解释反向传播算法的工作原理。答：反向传播算法是一种监督学习算法，用于训练神经网络。其核心工作原理是通过两个阶段的交替迭代，不断优化网络参数（权重和偏置），使模型的预测输出逼近期望输出。前向传播：输入数据从输入层开始，逐层经过隐藏层的线性变换和激活函数处理，最终在输出层产生预测结果。反向传播：计算输出层的预测值与真实值之间的误差（损失），然后利用链式法则将误差从输出层反向传播至每一层，逐层求出损失函数对各层参数的梯度（即误差对各参数的偏导数）。参数更新：根据计算出的梯度，采用梯度下降等优化算法，沿梯度的反方向调整各层的权重和偏置，从而减小损失。重复这一过程，直到网络收敛。该算法依赖计算图来结构化表达前向计算与梯度传播，链式法则为梯度计算提供数学基础，梯度下降则负责利用梯度优化参数，三者共同实现了神经网络的高效训练。3．在人工神经元的设计过程中，为什么要加入激活函数？有哪些常用的激活函数？答：如果激活层只是采用线性激励函数，神经网络的每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的线性组合，与没有隐藏层效果相当，这种情况就是最原始的感知机。激活层只有引入非线性函数作为激励函数，这样深层神经网络不再是输入的线性组合，可以逼近任意函数，这种深层神经网络才具有意义。常用的激活函数有阶跃函数、符号函数、Sigmoid函数、双曲正切函数和ReLU函数。4．典型的卷积神经网络由哪些部分组成？卷积层和池化层的作是什么？答：卷积神经网络就是一种包含卷积和池化计算且具有深度结构的前馈神经网络。典型的卷积神经网络是由多个卷积层（convolutionallayer）和池化层（poolinglayer）叠加起来之后再加上全连接层（fullyconnectedlayer）构成的。卷积层的作用是通过卷积核对输入信息进行卷积运算，从而实现特征提取。池化层通过对特征图的局部区域进行统计汇总（如取最大值或平均值），实现特征降维、减少计算量，并增强模型对输入微小变化的鲁棒性（平移不变性）。5．对例6-4，如果采用平均池化，池化大小为2×2，步长为2的池化方式，池化后的特征图输出矩阵是什么？答：（1）因为池化大小为2×2，所以选取矩阵A[1:2,1:2]中平均数3作为特征图输出矩阵B[1][1]的值。（2）因为采用步长为2的池化方式，所以下面选取矩阵A[1:2,3:4]中平均数5作为特征图输出矩阵B[1][2]的值。（3）同理，可以求出特征图输出矩阵B[2][1]、B[2][2]的值分别为2、2。最后得到池化后的特征图输出矩阵为[[3,5],[2,2]]。三、实验题1．调整MLPClassifier类的solver参数，比较不同参数的模型在鸢尾花数据集上的分类性能。参考教材6.2.4小节。2．利用卷积神经网络进行图像分类。要求如下：（1）构建一个包含卷积层、池化层和全连接层的卷积神经网络模型。（2）对数据进行归一化。（3）使用CIFAR-10数据集进行训练和测试。（4）绘制训练过程中的损失和准确率曲线。（5）在测试集上评估模型性能。importnumpyasnpdefconv2d(image,kernel,stride=1,padding=0):#添加paddingifpadding>0:image=np.pad(image,((padding,padding),(padding,padding)),'constant')#获取输入和卷积核尺寸h,w=image.shapekh,kw=kernel.shape#计算输出尺寸out_h=(h-kh)//stride+1out_w=(w-kw)//stride+1#初始化输出output=np.zeros((out_h,out_w))#执行卷积foriinrange(0,out_h):forjinrange(0,out_w):#计算当前窗口位置h_start=i*strideh_end=h_start+khw_start=j*stridew_end=w_start+kw#提取当前窗口并计算点积window=image[h_start:h_end,w_start:w_end]output[i,j]=np.sum(window*kernel)returnoutput#测试image=np.random.rand(5,5)#5x5随机图像kernel=np.array([[1,0,-1],[1,0,-1],[1,0,-1]])#3x3边缘检测核result=conv2d(image,kernel,stride=1,padding=1)print(result)3．利用长短时记忆网络（LSTM）进行文本生成。要求如下：（1）使用PyTorch实现基于LSTM的字符级文本生成模型。（2）构建字符级的LSTM语言模型。（3）使用莎士比亚文本数据集进行训练。（4）实现文本生成功能。（5）观察不同温度参数对生成文本多样性的影响。importtorchimporttorch.nnasnnimporttorch.optimasoptimfromtorchvisionimportdatasets,transformsimportmatplotlib.pyplotasplt#生成器classGenerator(nn.Module):def__init__(self,latent_dim=100):super(Generator,self).__init__()self.model=nn.Sequential(nn.Linear(latent_dim,256),nn.LeakyReLU(0.2),nn.Linear(256,512),nn.LeakyReLU(0.2),nn.Linear(512,28*28),nn.Tanh())defforward(self,z):returnself.model(z).view(-1,1,28,28)#判别器classDiscriminator(nn.Module):def__init__(self):super(Discriminator,self).__init__()self.model=nn.Sequential(nn.Linear(28*28,512),nn.LeakyReLU(0.2),nn.Linear(512,256),nn.LeakyReLU(0.2),nn.Linear(256,1),nn.Sigmoid())defforward(self,img):img_flat=img.view(img.size(0),-1)returnself.model(img_flat)#训练设置device=torch.device("cuda"iftorch.cuda.is_available()else"cpu")generator=Generator().to(device)discriminator=Discriminator().to(device)#损失函数和优化器criterion=nn.BCELoss()lr=0.0002g_optimizer=optim.Adam(generator.parameters(),lr=lr)d_optimizer=optim.Adam(discriminator.parameters(),lr=lr)#训练循环deftrain_gan(num_epochs,dataloader):forepochinrange(num_epochs):fori,(real_imgs,_)inenumerate(dataloader):batch_size=real_imgs.size(0)real_imgs=real_imgs.to(device)#训练判别器d_optimizer.zero_grad()#真实图片的损失real_labels=torch.ones(batch_size,1).to(device)real_output=discriminator(real_imgs)d_loss_real=criterion(real_output,real_labels)#生成图片的损失z=torch.randn(batch_size,100).to(device)fake_imgs=generator(z)fake_labels=torch.zeros(batch_size,1).to(device)fake_output=discriminator(fake_imgs.detach())d_loss_fake=criterion(fake_output,fake_labels)#总判别器损失d_loss=d_loss_real+d_loss_faked_loss.backward()d_optimizer.step()#训练生成器g_optimizer.zero_grad()output=discriminator(fake_imgs)g_loss=criterion(output,real_labels)g_loss.backward()g_optimizer.step()ifi%100==0:print(f"Epoch[{epoch}/{num_epochs}],Batch[{i}/{len(dataloader)}],"f"D_loss:{d_loss.item():.4f},G_loss:{g_loss.item():.4f}")#保存模型和生成示例torch.save(gener