AI 模型量化工程师考试试卷及答案

AI模型量化工程师考试试卷及答案AI模型量化工程师考试试卷及答案一、填空题（共10题，每题1分）1.模型量化中，将连续的浮点数值映射到离散整数的过程称为______。2.INT8量化中，对称量化的缩放因子计算通常基于激活值的______。3.验证量化模型精度的常用指标包括Top-1准确率和______。4.TensorRT支持的量化方式包括在线量化和______。5.量化感知训练（QAT）需要______数据参与训练以适应量化误差。6.非对称量化中的“零点”用于将整数0映射到浮点的______。7.ONNXRuntime的量化工具是______。8.量化可减少模型的______大小和推理内存占用。9.量化模型速度提升得益于______运算的硬件加速。10.混合精度量化中，对______层保留浮点精度以减少损失。答案：1.量化映射2.绝对值最大值3.Top-5准确率4.离线量化5.少量标注6.零点7.ONNXQuantizer8.存储9.整数10.敏感二、单项选择题（共10题，每题2分）1.无需重新训练的量化方法是（）A.QATB.PTQC.混合精度量化D.动态量化2.对称量化的零点通常为（）A.0B.127C.-128D.2553.不属于量化工具的是（）A.TensorRTB.PyTorchQuantizationC.TensorFlowLiteD.PyTorchLightning4.QAT训练中加入的核心操作是（）A.量化/反量化模拟B.数据增强C.正则化D.Dropout5.非对称量化零点的作用是（）A.调整量化范围B.减少计算量C.提升精度D.以上都对6.量化模型推理主要使用的数据类型是（）A.FP32B.FP16C.INT8D.UINT87.不适合量化的场景是（）A.边缘设备部署B.低延迟要求C.医疗诊断高精度模型D.移动端应用8.TensorFlowLite不支持的量化方式是（）A.动态范围量化B.全整数量化C.浮点量化D.QAT9.非对称量化缩放因子公式是（）A.(max_val-min_val)/(2^bit-1)B.max_val/(2^bit-1)C.min_val/(2^bit-1)D.(max_val+min_val)/(2^bit)10.混合精度量化常结合的精度是（）A.FP32和INT8B.FP16和INT8C.FP32和FP16D.INT8和UINT8答案：1.B2.A3.D4.A5.A6.C7.C8.C9.A10.B三、多项选择题（共10题，每题2分）1.量化的主要目的包括（）A.减少模型大小B.提升推理速度C.降低内存占用D.提高精度2.PTQ的步骤包括（）A.收集校准数据B.计算量化参数C.替换量化层D.重新训练3.QAT的优势是（）A.精度损失小B.无需校准数据C.适合敏感模型D.训练时间短4.常用量化数据类型有（）A.INT4B.INT8C.FP16D.UINT85.TensorRT支持的量化方式（）A.动态量化B.静态量化C.QATD.混合精度6.精度损失的原因包括（）A.量化范围不当B.敏感层量化C.校准数据不足D.位数过低7.边缘设备常用量化方法（）A.PTQB.QATC.全整数量化D.动态范围量化8.ONNXRuntime量化支持的格式（）A.ONNXB.SavedModelC.PyTorchCheckpointD.ONNXIR9.校准的作用是（）A.确定量化范围B.计算缩放因子/零点C.验证精度D.优化结构10.不适合量化的层（）A.输出层B.注意力层C.归一化层D.卷积层答案：1.ABC2.ABC3.AC4.ABD5.AB6.ABCD7.ABCD8.AD9.AB10.ABC四、判断题（共10题，每题2分）1.QAT不需要真实数据。（）2.对称量化零点一定是0。（）3.量化后精度必然下降。（）4.TensorFlowLite支持全整数量化。（）5.PTQ训练时间比QAT长。（）6.量化可减少推理延迟。（）7.非对称量化需考虑最值计算缩放因子。（）8.ONNXQuantizer仅处理ONNX模型。（）9.混合精度同时用整数和浮点运算。（）10.量化模型无法在CPU运行。（）答案：1.错2.对3.错4.对5.错6.对7.对8.对9.对10.错五、简答题（共4题，每题5分）1.简述PTQ与QAT的主要区别。答案：PTQ无需重新训练，通过校准数据计算量化参数，步骤简单耗时短，但精度损失较大；QAT在训练中模拟量化/反量化，让模型适应误差，需少量标注数据和训练时间，精度损失更小。PTQ适用于快速部署、精度要求不高场景，QAT适合高精度需求。2.量化中的“校准”是什么？步骤有哪些？答案：校准是PTQ中确定量化参数的过程。步骤：1）选代表性校准数据；2）运行模型获取激活值分布；3）计算缩放因子和零点；4）验证参数合理性。校准质量直接影响量化精度。3.TensorRT静态量化流程是什么？答案：流程：1）准备校准数据集；2）用Int8Calibrator收集激活统计；3）计算量化参数；4）转换浮点模型为INT8；5）优化模型（层融合）；6）测试精度和性能，调整参数。4.量化后精度优化方法有哪些？答案：优化方法：1）选QAT替代PTQ；2）增加校准数据多样性；3）敏感层保留浮点；4）优化量化参数；5）逐通道量化；6）微调量化模型。这些方法有效减少精度损失。六、讨论题（共2题，每题5分）1.分析量化在边缘设备部署的优势与挑战。答案：优势：边缘设备资源有限，量化减少存储（INT8比FP32小4倍）、降低内存、提升速度（INT8指令集），适合实时应用（人脸识别、物联网）。挑战：精度损失影响医疗等场景；硬件适配复杂；校准数据选择难；敏感层量化需平衡精度与性能。需根据场景选方法，如PTQ快速部署，QAT高精度需求。2.QAT中如何平