PyTorch的试卷及解析

PyTorch试卷及解析一、单项选择题（共10题，每题1分，共10分）以下哪个是PyTorch中表示核心多维数组数据结构的类？A.numpy.ndarrayB.torch.TensorC.tf.TensorD.Python原生list答案：B解析：选项A是NumPy库的多维数组类，不属于PyTorch；选项C是另一个深度学习框架TensorFlow的核心张量类；选项D是Python原生列表，不属于PyTorch的核心数据结构，只有选项B是PyTorch官方定义的核心多维数组数据结构。创建一个所有元素都为0的3行2列张量的正确方法是？A.torch.zeros(3,2)B.torch.ones(3,2)C.torch.full(3,2,0)D.torch.zeros([2,3])答案：A解析：选项B生成的是所有元素为1的3行2列张量，不符合要求；选项C的torch.full方法第一个参数需要传入形状元组，此处参数写法错误；选项D生成的是2行3列的全零张量，形状不符合要求，只有选项A的写法能正确生成指定形状的全零张量。PyTorch中开启张量自动求导跟踪的参数是以下哪个？A.deviceB.dtypeC.requires_gradD.layout答案：C解析：选项A的device参数用于指定张量存储的设备，选项B的dtype参数用于指定张量的数据类型，选项D的layout参数用于指定张量的内存布局，三者都不控制自动求导跟踪功能，只有选项C的requires_grad参数设置为True时，张量才会被纳入自动求导的跟踪路径中。调用tensor.item()方法的正确前提是？A.张量元素总数为1B.张量是二维的C.张量必须存储在CPU设备上D.张量没有关联梯度答案：A解析：item()方法的作用是从单元素张量中提取Python原生标量，元素总数不为1时调用该方法会直接抛出报错，其余选项的条件都不是调用item()的必须前提：哪怕是GPU上的单元素张量也可以先隐式转移到CPU再提取标量，带梯度的单元素张量也可以正常调用item()方法。以下哪个模块是PyTorch中专门用于数据加载和预处理的核心模块？A.torch.nnB.torch.utils.dataC.torch.optimD.torchvision答案：B解析：选项A的torch.nn是PyTorch定义网络层和损失函数的核心模块，选项C的torch.optim是PyTorch封装优化器的模块，选项D的torchvision是针对计算机视觉场景的第三方扩展工具库，三者都不属于通用数据加载的核心模块，只有选项B是专门封装数据加载相关工具的官方核心模块。在模型推理阶段为了关闭自动求导的内存占用，常用的上下文管理器是？A.torch.no_grad()B.torch.enable_grad()C.torch.backends.cudnnD.torch.autograd答案：A解析：选项B的torch.enable_grad()是主动开启自动求导的上下文管理器，选项C是控制CUDA加速相关配置的模块，选项D是自动求导功能的总模块，三者都不符合推理阶段关闭求导的需求，只有选项A的上下文管理器可以临时关闭上下文内所有张量的求导跟踪逻辑，大幅降低推理阶段的内存占用。PyTorch中定义全连接层的类是以下哪个？A.torch.nn.Conv2dB.torch.nn.LinearC.torch.nn.MaxPool2dD.torch.nn.ReLU答案：B解析：选项A是二维卷积层的类，选项C是二维最大池化层的类，选项D是ReLU激活函数的类，都不属于全连接层的定义类，只有选项B的torch.nn.Linear是PyTorch官方实现的全连接层类。执行反向传播计算梯度的方法是以下哪个？A.tensor.backward()B.tensor.step()C.tensor.zero_grad()D.tensor.clip_grad()答案：A解析：选项B的step()方法是优化器的方法，不属于张量的方法，作用是更新参数；选项C的zero_grad()是优化器的梯度清零方法，也不属于张量方法；选项D的梯度裁剪是针对梯度的操作，不属于反向传播方法，只有选项A的backward()方法可以启动链式求导逻辑完成梯度的计算。把张量从CPU移动到GPU设备的正确方法是？A.tensor.to(‘cuda’)B.tensor.to(‘cpu’)C.tensor.gpu()D.tensor.device()答案：A解析：选项B的作用是把张量从GPU移动到CPU，和需求相反；选项C的gpu()方法不是PyTorch的官方合法API，不存在该方法；选项D的device()是获取张量设备属性的操作，不能执行张量的设备迁移，只有选项A的写法是通用且合法的张量迁移方法。以下哪个损失函数常用于二分类任务的交叉熵损失？A.torch.nn.CrossEntropyLossB.torch.nn.BCELossC.torch.nn.MSELossD.torch.nn.L1Loss答案：B解析：选项A的CrossEntropyLoss是用于多分类任务的内置交叉熵损失，已经自带Softmax计算，不适用于二分类的单输出场景；选项C的均方误差损失和选项D的L1损失都属于回归任务常用的损失函数，不是二分类交叉熵损失，只有选项B的BCELoss是专门针对二分类任务设计的二值交叉熵损失函数。二、多项选择题（共10题，每题2分，共20分）以下关于PyTorch张量的描述中，正确的有哪些？A.张量支持在CPU和GPU设备上部署运行B.张量可以直接和NumPy数组进行互转且在满足条件时共享内存C.张量的shape属性可以直接修改不需要调用view或者reshapeD.张量支持整数、浮点数、布尔值等多种数据类型答案：ABD解析：选项C的描述是错误的，张量的shape属性是只读属性，无法直接赋值修改，必须通过view、reshape等合法方法调整张量的形状，其余三个选项的描述完全符合PyTorch张量的特性。以下属于PyTorch中优化器的类有哪些？A.torch.optim.SGDB.torch.optim.AdamC.torch.optim.ReLUD.torch.optim.RMSprop答案：ABD解析：选项C的ReLU是激活函数类，定义在torch.nn模块下，不属于优化器家族，其余三个选项都是PyTorch官方提供的经典优化器实现类。在训练神经网络的循环流程中，通常需要执行以下哪些步骤？A.前向传播计算预测结果和损失值B.反向传播计算参数梯度C.调用优化器的step方法更新参数D.每次迭代前清空之前累加的梯度答案：ABCD解析：四个选项描述的步骤都是标准训练循环的必要流程：先清空历史梯度避免梯度累加，再前向传播计算损失，反向传播求梯度，最后用优化器更新参数，四步共同构成完整的单次迭代逻辑。以下哪些方法可以用来调整张量的形状且不改变元素总数和元素排列顺序？A.viewB.reshapeC.permuteD.flatten答案：ABD解析：选项C的permute方法的作用是交换张量不同维度的排列顺序，并不会修改张量的整体形状分配，不属于调整张量形状的操作，其余三个方法都可以在不改变元素总数量和元素排列顺序的前提下，调整张量的维度分布。以下属于PyTorch中容器类，可以用来堆叠多个网络层的有哪些？A.torch.nn.SequentialB.torch.nn.ModuleListC.torch.nn.ModuleDictD.torch.nn.Dropout答案：ABC解析：选项D的Dropout是独立的正则化层，不属于容器类，不能用来堆叠多个网络层，其余三个都是PyTorch官方提供的网络层容器，可以自动扫描内部的网络层完成参数注册和管理。调用model.eval()切换到评估模式之后，以下哪些层的行为会发生改变？A.torch.nn.BatchNorm2dB.torch.nn.DropoutC.torch.nn.LinearD.torch.nn.ReLU答案：AB解析：选项C的全连接层和选项D的ReLU激活函数属于无状态的层，运行逻辑不会受到训练/评估模式切换的影响，Dropout层会在评估模式下关闭神经元丢弃逻辑，BatchNorm层会切换到使用全局统计的均值方差计算，二者的行为会发生明显改变。以下关于PyTorch自动求导计算图的描述正确的有哪些？A.计算图是动态生成的，每次前向传播都会重新构建B.计算图中的叶子节点通常是用户手动创建的、需要更新的参数张量C.计算图在反向传播完成后会被自动释放节省内存D.所有参与计算的张量都会被自动加入求导跟踪不需要手动设置答案：ABC解析：选项D的描述错误，只有requires_grad属性设置为True的张量才会被纳入求导跟踪路径，普通的输入张量默认不会被跟踪，其余三个选项的描述完全符合PyTorch动态计算图的运行特性。以下哪些操作可以在不改变原始张量数据的前提下生成新的张量？A.tensor.clone()B.tensor.detach()C.tensor.to(torch.float32)D.tensor.add_(1)答案：ABC解析：选项D是带下划线后缀的原地操作，会直接修改原始张量的数值，不符合不修改原张量的要求，其余三个方法都会生成新的张量拷贝或者脱离求导路径的新张量，不会修改原始张量的内容。在自定义PyTorch数据集时，需要实现的核心魔法方法包括以下哪几个？A.lenB.getitemC.initD.call答案：AB解析：自定义数据集类继承torch.utils.data.Dataset时，必须实现返回数据集总长度的__len__方法，和根据索引返回对应样本的__getitem__方法，__init__方法可以直接复用父类的实现不需要重写，__call__方法也不属于数据集的必须实现方法。以下属于PyTorch中常用的防止模型过拟合的策略有哪些？A.添加Dropout层B.对权重施加L2正则化C.使用数据增强操作D.把训练迭代次数设置为无穷大答案：ABC解析：选项D的操作会让模型持续在训练集上拟合噪声，会大幅加剧过拟合问题，不属于防过拟合策略，其余三个选项都是工业界最常用的降低模型过拟合的有效手段。三、判断题（共10题，每题1分，共10分）PyTorch中所有带下划线后缀的张量操作都是原地操作，会直接修改当前张量的内容。答案：正确解析：这是PyTorch官方的统一设计规范，所有inplace原地操作都会以下划线作为方法名的后缀，不会生成新的张量对象，直接修改当前调用方法的张量的存储内容。torch.Tensor类型的张量和对应的NumPy数组永远共享同一块内存，修改其中一个另一个也会同步变化。答案：错误解析：只有存储在CPU设备上、数据类型完全兼容的张量和NumPy数组互转时才会共享底层内存，存储在GPU上的张量转NumPy数组时会执行显式数据拷贝，二者不会共享内存，修改其中一个不会同步到另一个。调用backward()方法求梯度时，如果标量损失值对应的张量没有设置retain_graph=True，反向传播完成后整个计算图会被自动释放。答案：正确解析：PyTorch默认反向传播完成后自动销毁整个计算图的中间节点，释放占用的显存资源，如果需要多次对同一个计算图执行反向传播操作，必须手动指定retain_graph参数为True，保留整个计算图不被销毁。定义网络层的时候，直接在__init__方法中定义普通Python列表存储多个网络层实例，PyTorch也能自动完成参数的注册和管理。答案：错误解析：普通Python列表不在PyTorch的自动扫描路径内，存储在普通列表中的网络层的参数不会被自动注册到模型的可训练参数列表中，优化器无法获取到这些参数完成更新，必须使用ModuleList、Sequential等官方容器才能实现自动参数注册。model.train()方法的作用是将模型切换到训练模式，仅对Dropout、BatchNorm等有状态的层生效，不会修改其他层的权重数值。答案：正确解析：train()方法仅仅是修改层内部的布尔型状态标志位，完全不会修改任何层的权重参数数值，只会影响层在前向传播过程中的计算逻辑选择。对一个非标量的张量直接调用backward()方法不需要传入任何额外参数也能正常执行。答案：错误解析：非标量张量无法直接完成链式求导得到完整的梯度矩阵，必须传入和张量形状一一对应的梯度权重向量，完成雅可比向量积的计算，否则会直接抛出运行时报错。PyTorch中的DataLoader默认会自动打乱所有传入的数据集样本顺序，不需要手动设置shuffle参数。答案：错误解析：DataLoader的shuffle参数默认值为False，只有手动将shuffle参数设置为True之后，才会在每个epoch开始前随机打乱所有样本的加载顺序。torch.nn.CrossEntropyLoss已经内置了LogSoftmax和NLLLoss的计算逻辑，传入该损失函数的预测结果不需要提前添加softmax激活。答案：正确解析：如果传入CrossEntropyLoss的预测值已经提前经过Softmax处理，相当于做了两次归一化，会压缩梯度数值，影响模型的收敛效果，官方设计上就要求传入的是未经过Softmax的原始预测分数。张量的requires_grad属性一旦设置为True就不能再修改为False。答案：错误解析：可以随时手动为张量的requires_grad属性赋值为False，将该张量从后续的求导跟踪路径中剥离出来，节省不必要的显存占用。使用torch.save保存模型参数的时候，官方推荐直接保存整个模型对象，而不是仅保存state_dict字典。答案：错误解析：官方明确推荐仅保存模型的state_dict字典，该字典仅存储权重参数，体积小、兼容性高，跨环境跨版本加载几乎不会出问题，直接保存整个模型对象会附带大量额外的上下文信息，环境依赖强，跨版本加载极易出现兼容性报错。四、简答题（共5题，每题6分，共30分）请简述PyTorch中torch.Tensor和NumPy数组互转的核心要点。答案：第一，CPU上的PyTorch张量调用.numpy()方法即可转换为NumPy数组，当二者数据类型完全兼容时，会共享同一块底层内存，修改其中一个的数值另一个也会同步变化；第二，普通的NumPy数组调用torch.from_numpy()方法即可转换为PyTorch张量，同样默认共享底层内存；第三，存储在GPU设备上的张量无法直接转换为NumPy数组，必须先调用.cpu()方法转移到CPU内存之后再执行转换，这一过程会产生显式的数据拷贝，二者不再共享内存；第四，转换过程中需要手动对齐PyTorch张量和NumPy数组的数据类型，避免出现隐式类型转换带来的精度损失或者类型报错问题。解析：本题覆盖张量和NumPy互转过程中的共享内存规则、设备限制、类型要求三个核心考点，掌握这些要点可以帮助开发者避免开发中出现的意外修改张量内容、转换报错等常见问题。请简述PyTorch中optimizer.zero_grad()方法的作用，以及为什么需要在每次迭代的开始调用该方法。答案：第一，zero_grad()方法的核心作用是清空优化器所管理的所有可训练参数上之前累加存储的梯度数值，避免历史梯度残留；第二，PyTorch的梯度在调用backward()时默认采用累加策略，而不是直接覆盖旧的梯度值，如果不清空梯度，上一次迭代计算得到的梯度会和当前迭代的梯度直接叠加，导致梯度数值偏大，参数更新的方向和步长完全不符合预期；第三，在部分特殊场景下，比如显存不足需要累积多个小批次的梯度等效实现大批次训练效果，可以选择不立即调用zero_grad()，等待累计N个批次的梯度之后再统一完成参数更新，能够在不损失模型精度的前提下大幅降低显存占用。解析：本题不仅覆盖默认场景下梯度清零的必要性，还延伸了梯度累加的高级用法，帮助开发者灵活调整训练流程，适配不同的硬件资源条件。请简述PyTorch中model.train()和model.eval()两种模式的核心差异和适用场景。答案：第一，train()模式是模型的训练专属模式，该模式下Dropout层会按照预设的丢弃概率随机屏蔽部分神经元，BatchNorm层会使用当前批次的均值和方差完成计算，同时统计更新全局的运行均值和方差用于后续的推理阶段；第二，eval()模式是模型的评估推理专属模式，该模式下Dropout层会完全关闭神经元丢弃逻辑，所有神经元都参与计算，BatchNorm层会直接使用训练阶段已经统计完成的全局运行均值和方差，不再基于当前批次做任何统计更新；第三，train模式仅适用于模型的参数更新训练阶段，eval模式适用于验证集评估、测试集推理、线上生产部署等所有不需要更新参数的场景，切换到eval模式还能关闭不必要的求导逻辑，大幅降低推理阶段的内存占用，提升运行速度。解析：本题覆盖了模式切换的核心细节，帮助开发者理解训练和推理阶段的行为差异，避免出现训练阶段精度正常但推理阶段结果偏差极大的常见开发坑点。请简述PyTorch中torch.utils.data.DataLoader的主要作用和核心配置参数的功能。答案：第一，DataLoader的核心作用是基于传入的自定义Dataset类，自动完成批量样本的组装、并行加载、顺序打乱等操作，开发者不需要手动实现批量采样、多进程读数据的复杂逻辑，大幅简化批量训练的代码实现；第二，batch_size参数用于指定每个批次加载的样本总数量，直接决定训练过程中单次前向传播的计算规模，是显存占用最直接的影响因素之一；第三，shuffle参数用于指定是否在每个训练epoch开始前打乱全部样本的加载顺序，避免模型学习到样本排列顺序带来的虚假规律，提升模型的泛化能力；第四，num_workers参数用于指定使用多少个子进程并行加载数据，合理设置该参数可以充分利用CPU的多核性能，加快数据读取速度，避免数据IO瓶颈拖慢GPU的训练效率。解析：本题覆盖数据加载核心组件的核心功能，帮助开发者快速配置出高效稳定的数据加载管线，解决工业界训练过程中常见的CPU数据加载速度跟不上GPU计算速度的瓶颈问题。请简述PyTorch中在GPU上训练模型时常见的设备不匹配报错的主要原因。答案：第一，模型实例本身没有调用to(‘cuda’)方法移动到GPU设备上，输入张量已经在GPU上但模型的权重参数还存储在CPU上，计算时就会报设备不匹配的错误；第二，部分开发者手动定义的辅助张量比如掩码张量、偏置常量张量没有随着模型和输入一起移动到GPU设备上，参与运算时和其他GPU上的张量出现设备不一致；第三，加载预训练权重文件的时候，权重文件中存储的原始设备信息是其他环境的GPU设备号，和当前运行环境的设备配置不匹配，导致加载时出现设备冲突报错；第四，定义损失函数之后没有将损失函数关联的自定义参数同步移动到GPU设备上，调用损失函数计算的时候同样会触发设备不匹配错误。解析：本题覆盖GPU训练场景下90%以上的设备不匹配报错的诱因，帮助开发者快速定位和解决这类高频问题，提升开发调试的效率。五、论述题（共3题，每题10分，共30分）请结合实际代码场景，论述PyTorch动态计算图自动求导机制的实现逻辑、优势和常见使用注意事项。答案：本论述分为三个核心部分展开，第一部分是动态计算图的实现逻辑：PyTorch的计算图是完全动态生成的，在每一次前向传播的过程中边执行计算边构建计算图，开发者定义的张量在参与运算时，PyTorch会自动记录每一步的运算操作、输入输出张量的依赖关系，当调用最终损失张量的backward()方法时，PyTorch会从损失标量节点出发，沿着已经构建完成的计算图的反向路径，依次执行链式求导，自动计算所有requires_grad为True的叶子节点张量的梯度，举一个非常简单的实例，当我们定义x=torch.tensor(2.0,requires_grad=True)，后续依次计算y=x2，z=3*y，执行z.backward()之后，PyTorch会自动沿着路径反向推导，最终得到x的梯度数值为12，开发者完全不需要手动推导和实现复杂的求导公式。第二部分是动态计算图的核心优势：相比于早期深度学习框架使用的静态图”先固化计算图再运行”的模式，PyTorch的动态图可以原生支持所有Python原生的控制流语法，if判断、for循环、自定义分支逻辑都可以直接写在前向传播的forward方法中，开发者可以像编写普通Python业务代码一样定义结构完全动态的网络，比如动态不同分支的循环神经网络、根据输入内容调整结构的自适应网络，都可以非常简单地实现，开发和调试的难度大幅降低，开发效率远高于传统的静态图框架。第三部分是常见的使用注意事项：首先是反向传播完成之后计算图会被默认自动销毁，如果需要多次对同一个计算图执行反向传播计算梯度，必须手动设置retain_graph参数为True，否则第二次调用backward方法会直接抛出运行错误；其次是所有不需要更新参数的推理场景，都要把计算逻辑包裹在torch.no_grad()上下文管理器中，避免生成不必要的中间计算图占用大量显存，比如在验证阶段计算验证集损失时如果不关闭求导跟踪，显存占用会达到训练阶段的数倍，非常容易触发显存溢出报错；最后是开发过程中要尽量避免对参与求导的叶子张量执行原地操作，这类操作非常容易破坏计算图的反向依赖路径，触发隐式的求导报错，增加调试的成本。整个论述从底层原理、框架优势到工程避坑三个维度展开，结合实际的小代码示例可以帮助开发者跳出仅调用API的层面，从底层理解PyTorch的运行逻辑。解析：本题考察开发者对PyTorch最核心的动态求导机制的深度理解，覆盖从理论原理到实际开发的全链路要点，符合中高级开发者的能力考察要求。请结合图像分类任务的开发实例，论述使用PyTorch搭建一个完整训练管线的全流程实现要点。答案：本论述以工业界常用的图像分类任务为例，分五个完整环节展开论述：第一部分是数据处理和加载环节：首先继承torch.utils.data.Dataset类自定义图像分类数据集，实现__len__方法返回整个数据集的总样本数量，实现__getitem__方法根据传入的索引读取对应位置的图像文件和标注标签，同时在该方法中集成图像预处理逻辑，比如随机裁剪、随机翻转、归一化、色彩扰动等数据增强操作，之后用DataLoader封装自定义数据集，设置合适的batch_size、shuffle=True和符合硬件条件的num_workers参数，实现多进程并行的批量数据加载，解决IO瓶颈问题。第二部分是模型定义环节：继承torch.nn.Module类自定义图像分类网络，在__init__方法中依次定义所有的卷积层、池化层、激活函数层、全连接层等可训练的网络子模块，PyTorch会自动扫描该类下所有定义的网络层实例，自动完成参数的注册，不需要开发者手动维护参数列表，之后在forward前向传播方法中依次调用这些层完成输入图像的前向计算，返回最终的分类原始预测分数。第三部分是损失函数和优化器配置环节：对于多分类图像分类任务选择torch.nn.CrossEntropyLoss作为分类损失函数，选择Adam或者SGD优化器，将模型的所有可训练参数传入优化器完成初始化，同时可以搭配官方提供的学习率调整策略，在训练过程中按照预设规则逐步降低学习率，帮助模型收敛到泛化能力更好的局部最优点。第四部分是迭代训练循环环节：外层循环遍历所有的训练epoch，内层循环遍历训练集的每一个批次，每次循环首先调用optimizer.zero_grad()清空历史梯度，输入批次图像完成前向传播得到预测结果，结合标注标签计算出批次损失，调用loss.backward()反向传播计算所有参数的梯度，最后调用optimizer.step()完成一次参数更新。每训练若干个epoch之后，将模型切换到model.eval()模式，在torch.no_grad()上下文管理器中完成验证集的全量评估，计算验证集的分类准确率和平均损失值，监控模型的训练状态和过拟合情况。第五部分是模型保存和导出环节：训练完成后调用torch.save保存模型的state_dict参数字典，后续需要推理部署时，直接将参数字典加载到提前定义好的模型实例中，即可得到完整的可运行推理模型。这套全流程的图像分类训练管线是工业界最通用的PyTorch开发范式，稳定性高、可复现性强，能够适配绝大多数计算机视觉任务的开发需求。解析