2025年自然语言处理工程师招聘题库及答案

2025年自然语言处理工程师招聘题库及答案一、单项选择题（每题2分，共20分）1.下列哪项不属于词法分析的任务？A.分词B.词性标注C.句法分析D.命名实体识别答案：C解析：句法分析属于句子级语法结构分析，通常不作为词法分析任务。分词、词性标注和命名实体识别均可归为词法或序列标注层面的任务。2.语言模型P(A.N-gram模型B.马尔可夫假设C.概率链式法则D.条件随机场答案：C解析：该式是概率论中链式法则的直接展开，未引入任何独立性假设。N-gram模型在此基础上使用马尔可夫假设简化条件概率。3.在TF-IDF中，IDF的主要作用是：A.降低常见词的权重B.降低生僻词的权重C.提高高频词的权重D.提高所有词的权重答案：A解析：IDF即逆文档频率，文档频率越高的词IDF越小，从而降低常见词在文本表示中的权重，突出区分性较强的词。4.Word2Vec中Skip-gram模型的训练目标是：A.用中心词预测上下文词B.用上下文词预测中心词C.用前n−1个词预测第D.用词向量预测文档主题答案：A解析：Skip-gram以中心词为输入，预测其上下文词；CBOW则相反，以上下文词预测中心词。5.下列哪个模型不属于预训练语言模型？A.BERTB.GPTC.Word2VecD.ELMo答案：C解析：BERT、GPT、ELMo均建模单词或序列的概率分布，属于预训练语言模型。Word2Vec主要学习静态词向量，不建模完整语言序列概率，通常不视为语言模型。6.Transformer中ScaledDot-ProductAttention所使用的缩放因子是：A.dB.dC.1D.1答案：C解析：注意力计算为softmaxQKT7.BERT预训练阶段使用的两个任务是：A.机器翻译和文本摘要B.掩码语言模型和下一句预测C.主题模型和词性标注D.自回归语言建模和对比学习答案：B解析：BERT使用MaskedLanguageModel和NextSentencePrediction进行预训练。8.以下哪项任务属于序列标注任务？A.文本分类B.机器阅读理解C.命名实体识别D.文本摘要答案：C解析：序列标注要求对输入序列中的每个token输出一个标签。命名实体识别需要对每个词标注是否为实体以及实体类别，是典型的序列标注任务。9.在序列标注中引入CRF层的主要作用是：A.自动提取特征B.为每个词独立输出标签概率C.对标签序列进行全局归一化并建模标签间转移约束D.生成词向量答案：C解析：CRF对当前token的标签预测不仅考虑发射概率，还考虑相邻标签之间的转移概率，能够建模如BIO标签顺序等结构化约束。10.关于循环神经网络RNN的梯度消失问题，以下说法正确的是：A.只能通过降低学习率解决B.会使得模型难以学习长距离依赖C.会导致模型完全无法训练D.可以通过增加隐藏层数量解决答案：B解析：RNN在处理长序列时，梯度会随反向传播连乘而指数衰减，导致较早时间步的信息难以传递，也就是长距离依赖学习困难。二、多项选择题（每题3分，共15分）1.下列哪些属于文本预处理步骤？A.分词B.去除停用词C.词形还原D.反向传播答案：ABC解析：反向传播属于神经网络训练中的优化步骤，不是文本预处理步骤。2.下列关于Transformer多头自注意力的说法正确的有：A.每个注意力头使用不同的线性投影矩阵B.可以使模型关注不同子空间中的信息C.注意力头数量越多，效果一定越好D.多头输出需要拼接后再进行线性变换答案：ABD解析：多头注意力通过不同投影矩阵让不同头关注不同表示子空间，最后将各头输出拼接并线性映射。头数并非越多越好，头数过多可能增加计算量并导致过拟合或性能下降。3.以下哪些方法有助于缓解模型过拟合？A.使用DropoutB.增加训练数据C.增加模型参数数量D.使用权重正则化答案：ABD解析：增加模型参数数量通常会提升模型容量，更容易导致过拟合，而不是缓解过拟合。4.在命名实体识别的BIO标注体系中，下列说法正确的有：A.B表示某个实体的开始B.I表示某个实体的内部C.O表示非实体D.I可以出现在B之前答案：ABC解析：BIO中，B表示实体首词，I表示实体内部词，O表示非实体。按照约束，I不能出现在B之前，否则属于非法标签序列。5.关于BERT与GPT的区别，下列说法正确的有：A.BERT使用双向Transformer编码器B.GPT使用单向Transformer解码器C.BERT使用掩码语言模型进行预训练D.GPT使用下一句预测进行预训练答案：ABC解析：GPT使用自回归语言模型进行预训练，即根据前文预测下一个词；下一句预测是BERT的预训练任务之一。三、判断题（每题2分，共10分）1.N-gram语言模型中的n越大，模型参数空间越小。答案：错误解析：n越大，可能的N-gram组合数量越多，参数空间通常越大，同时数据稀疏问题更严重。2.交叉熵损失函数既可以用于二分类，也可以用于多分类任务。答案：正确解析：二分类交叉熵和多分类交叉熵都是交叉熵损失函数的不同形式。3.词嵌入维度越高，模型效果一定越好。答案：错误解析：词嵌入维度过高可能引入噪声并增加计算成本，效果不一定提升，甚至可能过拟合。4.Transformer完全摒弃了循环结构，因此可以并行训练序列数据。答案：正确解析：Transformer使用自注意力机制替代RNN的顺序计算，序列位置可以并行计算，训练速度更快。5.BLEU是文本分类任务中常用的评价指标。答案：错误解析：BLEU主要用于机器翻译、文本生成等任务中评价生成文本与参考文本的匹配程度，不是文本分类常用指标。四、简答题（每题10分，共30分）1.简述Word2Vec中CBOW与Skip-gram的区别及各自适用场景。答案：CBOW使用上下文词预测中心词，训练速度较快，适合高频词较多的场景；Skip-gram使用中心词预测上下文词，对低频词和生僻词效果更好，训练速度相对较慢。实际中，若数据量较大且低频词重要，常选择Skip-gram；若关注训练效率可优先考虑CBOW。2.简述Transformer中位置编码为什么需要，以及常见实现方式。答案：Transformer的自注意力机制本身不包含序列顺序信息，需要额外注入位置信息。常见实现方式包括：一是固定正弦余弦位置编码：PP其中pos为位置，i为维度索引，3.简述BERT的掩码语言模型预训练任务，并说明其与标准语言模型的主要差异。答案：BERT在预训练时随机选择输入文本中约15%的token，其中80%替换为[MASK]，10%保持原词，10%替换为随机词，然后利用双向上下文预测这些被处理token的原始词。与标准语言模型的主要差异在于：标准语言模型通常是自回归的，利用前文预测下一个词，只能看到单向信息；MLM使用双向上下文进行预测，能够同时利用左右信息，但会引入[MASK]与微调阶段不匹配的问题。五、计算与综合分析题（第1题10分，第2题15分，共25分）1.给定如下语料库：<s>我爱自然语言处理</s>

<s>我爱机器学习</s>

<s>自然语言处理很有趣</s>使用极大似然估计训练二元语言模型，请计算：P(处理|语言)答案：统计二元组频次：C(<s>我)=2，C(<s>自然)=1，C(我爱)因此：PP句子<s>我爱自然语言处理</s>的概率为：P其中：PPPPPP所以：P解析：二元语言模型使用极大似然估计，每个转移概率等于对应二元组频次除以前一个词的总频次。计算句子概率时需将各步转移概率连乘。2.给定一个长度为3的序列，设dk