2026年大模型应用开发工程师（校招）高频面试题及解答

大模型应用开发工程师（校招）高频面试题

精选100道·含详细解答

面试前刷一遍，心中更有底

★表示出题频率：★★★较高★★★★很高★★★★★最高

一、计算机基础与编程语言（15道）

1.Python中深拷贝与浅拷贝的区别是什么？底层是如何实现的？★★★★★（考察Python基

础知识）

2.请简述Python的GIL（全局解释器锁）机制，以及它对多线程编程的影响。★★★★★（考

察并发编程与底层逻辑）

3.在Python中，垃圾回收机制是如何工作的？请说明引用计数和标记清除。★★★★★（考

察内存管理原理）

4.常见的排序算法有哪些？请手写或描述快速排序的核心思想及时间复杂度。★★★★★

（考察算法基础与代码能力）

5.什么是哈希冲突？在工程中常见的解决哈希冲突的方法有哪些？★★★★★（考察数据结

构基础）

6.简述进程、线程与协程的区别，在大模型API调用场景下你会优先选择哪种？★★★★★

（考察操作系统基础与场景应用）

7.计算机网络中，TCP三次握手和四次挥手的过程是怎样的？为什么挥手需要四次？

★★★★★（考察计算机网络基础）

8.请解释什么是死锁，以及在编程中如何预防和避免死锁的发生。★★★★★（考察操作系

统并发控制）

9.Python中的装饰器是如何工作的？请举一个你实际应用过的场景。★★★★★（考察

Python高级特性）

10.链表和数组在内存分配、插入、删除和查找效率上有什么区别？★★★★★（考察基础数

据结构）

11.C++中指针和引用的主要区别是什么？在什么场景下必须使用指针？★★★★（考察

C++语言特性理解）

12.RESTfulAPI设计的基本原则是什么？GET和POST请求在本质上有何区别？★★★★（考

察网络协议与接口设计）

13.Linux系统中，如何使用命令行快速查找包含特定关键字的日志文件并统计行数？★★★★

（考察Linux常用操作）

14.数据库索引的底层数据结构通常是什么（如B+树）？为什么不用红黑树？★★★★（考察

数据库底层原理）

15.如果让你设计一个支持高并发的计数器（如点赞功能），你会如何设计？★★★（考察系

统设计脑洞与拓展）

二、机器学习与深度学习理论基础（20道）

16.什么是过拟合与欠拟合？在深度学习中常见的缓解过拟合的手段有哪些？★★★★★（考

察深度学习基础理论）

17.请详细推导并解释梯度下降算法，以及SGD、Momentum、Adam等优化器的区别。

★★★★★（考察优化算法底层逻辑）

18.神经网络中为什么要引入激活函数？如果不用激活函数会怎样？★★★★★（考察神经网

络基本原理）

19.请简述Softmax函数的数学表达式及其在多分类问题中的作用。★★★★★（考察基础数学

推导与应用）

20.什么是反向传播（Backpropagation）？请简述其依赖的数学法则（如链式法则）。

★★★★★（考察深度学习核心算法）

21.交叉熵损失函数（Cross-EntropyLoss）的物理意义是什么？为什么分类任务常不用

MSE？★★★★★（考察损失函数原理）

22.简述BatchNormalization和LayerNormalization的区别，为什么大语言模型通常使用

LayerNorm？★★★★★（考察模型归一化技术）

23.CNN在图像处理中有哪些核心优势？感受野（ReceptiveField）的概念是什么？

★★★★★（考察经典网络结构理解）

24.RNN为什么容易出现梯度消失和梯度爆炸？LSTM是如何缓解这一问题的？★★★★★

（考察序列模型基础）

25.在评估机器学习模型时，准确率、精确率、召回率和F1Score有何区别？★★★★★（考

察模型评估指标）

26.什么是偏差-方差权衡（Bias-VarianceTradeoff）？★★★★★（考察统计机器学习基础）

27.如何处理训练集中的数据不平衡问题？请给出至少三种常见的处理策略。★★★★★（考

察数据预处理经验）

28.简述K-Means聚类算法的流程及如何选择合适的K值。★★★★（考察经典无监督算法）

29.逻辑回归（LogisticRegression）是线性模型还是非线性模型？为什么？★★★★（考察

传统机器学习理论）

30.决策树算法中，ID3、C4.5和CART树在节点分裂时的准则分别是什么？★★★★（考察树

模型基础理论）

31.简述Dropout的原理，它在训练和推理阶段的行为有什么不同？★★★★（考察正则化技

术细节）

32.深度学习中如何解决梯度爆炸问题？梯度裁剪（GradientClipping）是如何工作的？

★★★★（考察模型训练技巧）

33.什么是自监督学习（Self-supervisedLearning）？它和无监督学习有什么区别？★★★★

（考察前沿学习范式概念）

34.简述生成对抗网络（GAN）的基本架构和损失函数。★★★★（考察生成模型基础）

35.假设我们把神经网络的所有权重初始化为相同的值，训练过程会发生什么现象？★★★

（考察底层原理深度理解）

三、大语言模型核心原理与前沿（25道）

36.请详细描述Transformer的整体架构，包括Encoder和Decoder模块的工作流程。

★★★★★（考察大模型核心架构）

37.请手推或详述Self-Attention（自注意力机制）的计算公式，为什么需要除以根号dk？

★★★★★（考察自注意力机制底层逻辑）

38.Transformer相比于传统的RNN（如LSTM），最大的突破和优势在哪里？★★★★★（考

察模型演进认知）

39.什么是位置编码（PositionalEncoding）？为什么Transformer需要位置编码？★★★★★

（考察架构核心组件原理）

40.请简述BERT和GPT在架构（EncodervsDecoder）和预训练目标上的主要区别。

★★★★★（考察经典大模型对比）

41.大语言模型预训练中的掩码语言建模（MLM）和因果语言建模（CLM）有何不同？

★★★★★（考察预训练任务理解）

42.什么是PromptEngineering？请给出几种常用的提示词优化策略（如Few-shot，CoT）。

★★★★★（考察提示词工程基础）

43.请解释什么是思维链（ChainofThought,CoT）？它为什么能提升大模型的推理能力？

★★★★★（考察前沿推理技术认知）

44.简述RLHF（基于人类反馈的强化学习）的三个主要训练阶段。★★★★★（考察大模型对

齐技术）

45.什么是大模型的“幻觉”（Hallucination）问题？在学术界和工业界有哪些常见的缓解方

法？★★★★★（考察行业痛点与解决思路）

46.什么是指令微调（InstructionFine-Tuning，SFT）？它与预训练的目标有何不同？

★★★★★（考察微调技术原理）

47.简述LoRA（Low-RankAdaptation）微调的数学原理及其相比全参数微调的优势。

★★★★★（考察参数高效微调技术）

48.什么是上下文窗口限制（ContextWindowLimit）？如何扩展大模型的上下文长度？

★★★★★（考察大模型性能瓶颈理解）

49.为什么目前的大语言模型（如GPT-4）大多采用仅解码器（Decoder-only）架构？

★★★★★（考察架构设计演进逻辑）

50.什么是Tokenization？简述BPE（BytePairEncoding）分词算法的基本流程。★★★★★

（考察数据处理底层原理）

51.请解释大模型推理时的Temperature参数和Top-p/Top-k采样机制的作用。★★★★（考察

模型推理参数理解）

52.除了LoRA，你还了解哪些PEFT（参数高效微调）方法？如P-Tuning或PrefixTuning。

★★★★（考察微调技术广度）

53.什么是旋转位置编码（RoPE）？它相比绝对位置编码有什么优势？★★★★（考察前沿

位置编码技术）

54.大模型中的KVCache是什么？它是如何加速文本生成推理过程的？★★★★（考察推理

加速核心技术）

55.解释RewardModel（奖励模型）在RLHF过程中的作用及训练数据格式。★★★★（考察

对齐模型底层逻辑）

56.什么是大模型的涌现能力（EmergentAbilities）？你的理解是什么？★★★★（考察行业

前沿概念认知）

57.大模型训练数据去重、清洗和过滤通常包含哪些核心步骤？★★★★（考察预训练数据工

程）

58.什么是Multi-HeadAttention？多头设计的直观物理意义和优势是什么？★★★★（考察注

意力机制细节）

59.如果不使用RLHF，仅靠高质量的SFT能否达到与之相近的对齐效果？为什么？★★★

（考察技术路径批判性思考）

60.你认为未来的大语言模型除了增加参数量和数据量，还有哪些可能的技术突破方向？

★★★（考察前瞻性思维与技术洞察）

四、大模型应用开发与工程化（20道）

61.什么是RAG（检索增强生成）？请详细描述一个标准RAG系统的完整工作流。★★★★★

（考察大模型应用核心架构）

62.在RAG中，如果检索回来的文档相关性很差，你会从哪些环节入手进行优化？★★★★★

（考察场景问题排查与优化能力）

63.向量数据库（如Milvus,Faiss,Chroma）的底层检索原理是什么（如HNSW算法）？

★★★★★（考察向量检索底层逻辑）

64.什么是Embedding模型？如何评估一个Embedding模型在特定业务场景下的表现？

★★★★★（考察向量化表示基础）

65.简述LangChain框架的核心组件（如LLMs,Prompts,Chains,Agents,Memory）。

★★★★★（考察主流应用开发框架）

66.在构建AIAgent（智能体）时，如何设计让大模型调用外部工具（Tool/Function

Calling）？★★★★★（考察Agent工程实践）

67.RAG中的分块（Chunking）策略有哪些？如何决定最佳的Chunk大小和重叠（Overlap）

策略？★★★★★（考察数据预处理工程经验）

68.什么是语义检索与关键词检索的混合检索（HybridSearch）？它解决了什么痛点？

★★★★★（考察进阶检索策略）

69.在大模型API调用中，如何设计健壮的重试机制与限流策略以应对网络异常或超时？

★★★★★（考察系统稳定性设计）

70.如何通过大模型的Memory机制（如LangChain中的ConversationBufferMemory）实现多

轮对话？★★★★★（考察对话系统状态管理）

71.在工程实践中，如何预防或防御PromptInjection（提示词注入攻击）？★★★★★（考察

AI安全与防御机制）

72.什么是ReAct（ReasoningandActing）框架？它如何提升Agent解决复杂任务的能力？

★★★★★（考察Agent高级工作流）

73.简述vLLM或TensorRT-LLM等大模型推理框架的核心加速原理（如PagedAttention）。

★★★★（考察推理部署框架认知）

74.针对RAG系统中的“Lostinthemiddle”（中间迷失）现象，你有何优化方案？★★★★

（考察应用前沿痛点解决方案）

75.什么是Rerank（重排）模型？在RAG系统中为什么通常需要引入Rerank阶段？★★★★

（考察RAG进阶优化技巧）

76.如何利用大模型进行结构化数据抽取（如从非结构化文本中提取JSON）？遇到格式错误

怎么处理？★★★★（考察实际应用场景落地）

77.评估大模型应用（如问答系统）效果的常用客观指标和主观评估方法有哪些？★★★★

（考察AI应用评估体系）

78.什么是语义路由（SemanticRouting）？它在多Agent或多技能系统中有什么应用场景？

★★★★（考察应用架构设计）

79.假设要将一个开源7B模型部署到单张24G显存的显卡上，你会采用哪些量化（如

INT8/INT4）策略？★★★（考察模型部署与硬件认知）

80.如果要求你设计一个能够自主编写并执行代码修复Bug的AI程序员Agent，你会怎么设计

架构？★★★（考察复杂系统架构与脑洞）

五、实习与项目经历挖掘（10道）

81.请详细介绍你在简历中最有挑战性的大模型相关项目，你的核心贡献是什么？★★★★★

（考察项目深度与个人贡献）

82.在你参与的大模型应用开发项目中，遇到的最大技术难点是什么？最终是如何解决的？

★★★★★（考察解决复杂问题能力）

83.你的项目在引入大模型/RAG/微调后，相比传统方法，具体的性能或业务提升指标是多

少？如何度量的？★★★★★（考察结果导向与数据思维）

84.请描述一次你与团队成员（如产品经理、算法研究员或其他后端）产生分歧的经历，你是

如何沟通推进的？★★★★★（考察团队协作与沟通能力）

85.你的项目中使用了开源模型还是商用API？选型的依据是什么？是否考虑过成本和隐私问

题？★★★★★（考察技术选型与工程化考量）

86.在你的实习/项目中，有没有遇到过模型输出效果严重不符合预期的情况？你的排查和调

优链路是怎样的？★★★★★（考察Debug能力与逻辑严密性）

87.如果有更多的时间和资源，你会如何继续优化你简历上的这段大模型项目？★★★★（考

察技术追求与反思能力）

88.在开发过程中，你是如何管理代码版本、实验记录以及Prompts迭代版本的？★★★★

（考察工程规范与工程素养）

89.在高强度的实习项目交付压力下，你是如何进行时间管理和任务优先级的划分的？

★★★★（考察抗压能力与时间管理）

90.你的项目中是否借鉴了某篇最新论文的思路？请简述你如何将学术Paper转化为工程落地

代码。★★★（考察学术与工程的结合能力）

六、逻辑思维、场景假设与综合素质（10道）

91.如果业务方要求你在下周上线一个大模型客服系统，但目前相关文档极度匮乏，你该如何

快速启动？★★★★★（考察模糊场景应对与执行力）

92.假如线上调用大模型API突然大面积超时报警，作为值班开发，你会采取哪几步进行紧急

止血和排查？★★★★★（考察应急响应与系统排查逻辑）

93.大模型技术迭代非常快（如每周都有新框架出炉），作为应届生，你平时是如何保持技术

敏锐度并高效学习的？★★★★★（考察持续学习能力）

94.当你被分配到一个你完全不熟悉的领域（比如需要手写图数据库查询语句接入RAG），

你会如何从零开始解决？★★★★★（考察抗挫折与未知问题解决能力）

95.请谈谈你对“大模型应用开发工程师”这一岗位的理解，以及你未来三到五年的职业规划。

★★★★★（考察求职动机与职业规划）

96.你发现团队现有的RAG检索方案存在明显缺陷，但Leader认为目前勉强可用不想投入资

源重构，你将如何说服他？★★★★★（考察向上管理与沟通技巧）

97.假设公司决定完全断网开发（无公网调用API能力），只提供本地局域网算力，你的开发

习惯和工具链需要做哪些调整？★★★★（考察极限环境下的适应与变通能力）

98.在资源有限的情况下，你的上级要求你同时负责Prompt调优和后端架构开发，你会怎么

平衡精力和时间？★★★★（考察多任务并发处理能力）

99.请描述一件你在技术学习或项目开发中经历过最失败的事情，你从中学到了什么？

★★★★（考察自我反思与成长心态）

100.你认为当前的大语言模型最大的技术局限性在哪里？未来最有可能替代Transformer架构

的是什么方向？★★★（考察批判性技术思维与视野拓展）

大模型应用开发工程师（校招）高频面试题解答

一、计算机基础与编程语言（15道）

本章节重点考察应届生在计算机科学底层的扎实程度与编码基本功，这是衡量代码

健壮性、系统优化意识以及快速上手工程项目潜力的核心基石。

Q1：Python中深拷贝与浅拷贝的区别是什么？底层是如何实现的？

答题分析：

考察频率：★★★★★

考察点：考察Python基础知识

答题思路：从现象差异入手说明二者对嵌套可变对象的不同处理方式，接着简述底层内存

地址分配和内置机制（如memo字典）的作用，最后结合实际场景体现开发经验。

避坑点：切忌只背诵“浅拷贝拷一层，深拷贝拷全部”，应届生需要展现对内存地址管理和

规避循环引用问题的深入理解，避免显得停留在基础语法阶段。

参考回答：

浅拷贝和深拷贝在日常开发中经常遇到，主要的区别在于对嵌套对象的处理。当我

们对一个对象进行浅拷贝时，比如使用切片或者copy模块的copy方法，Python只

会创建最外层的新对象，而里面包含的子元素依然是原对象子元素的引用。这就意

味着，如果原对象的子元素是可变类型像列表或字典，我们修改了这个子元素，浅

拷贝出来的新对象也会跟着改变。

深拷贝则是完完全全的复制。通过使用copy模块的deepcopy方法，Python不仅会

创建最外层的新对象，还会递归地把里面包含的所有子对象都复制一份全新的出

来。这样一来，新对象和原对象在内存里就是完全独立的两部分，不论怎么修改都

不会互相影响了。

在底层实现上，Python主要依赖对象的内置机制和内存地址管理。深拷贝内部维护

了一个叫做memo的字典，用来记录已经拷贝过的对象地址。当它在递归拷贝的过

程中遇到已经存在的地址时，就会直接引用已经拷贝好的对象，避免了循环引用导

致的无限死递归问题。我在处理配置文件合并或者树形数据结构复制时，都会特别

注意根据实际情况来选择，避免连带副作用。

Q2：请简述Python的GIL（全局解释器锁）机制，以及它对多线程编程的影

响。

答题分析：

考察频率：★★★★★

考察点：考察并发编程与底层逻辑

答题思路：先解释GIL是什么以及CPython为何引入它，然后分类讨论GIL在IO密集型和

CPU密集型任务中的不同表现，最后给出实际工程中的替代方案。

避坑点：不要笼统地说“Python多线程是假的”，需要客观分析其在网络IO请求场景下依然

有效的优势，体现出针对不同业务场景的技术选型能力。

参考回答：

平时在写Python并发程序的时候，GIL也就是全局解释器锁是一个必须绕不开的概

念。它的存在主要是因为CPython解释器的内存管理不是线程安全的。为了防止多

个线程同时执行Python字节码导致数据混乱或者内存泄漏，CPython就加了这把大

锁。这意味着在任何一个时间点，不管我们服务器有多少个CPU核心，都只能有一

个线程在真正执行Python代码。

这种机制对多线程编程的影响其实要分场景来看。如果是像大规模爬虫或者频繁调

用大模型API这样的IO密集型任务，线程大部分时间都在等待网络响应或者磁盘读

写。这个时候GIL会在等待期间被主动释放，所以多线程依然能大幅度提升程序的

整体并发效率。

但如果遇到的是像图像处理或者矩阵计算这种CPU密集型任务，多线程不仅无法利

用多核优势，反而会因为线程之间频繁争抢和切换GIL，导致效率比单线程还要

低。在我的实习项目中，如果遇到真正需要吃CPU算力的场景，我一般会选择绕过

GIL，比如改用multiprocessing多进程模块，或者把核心计算逻辑下沉到C语言层

面去跑，以此来真正榨干多核的性能。

Q3：在Python中，垃圾回收机制是如何工作的？请说明引用计数和标记清除。

答题分析：

考察频率：★★★★★

考察点：考察内存管理原理

答题思路：以引用计数为主线讲解基础回收逻辑，随后抛出其无法解决的循环引用痛点，

顺势引出标记清除与分代回收机制作为补充方案。

避坑点：避免照本宣科，回答时应侧重三套机制的协作关系。千万不要忽略容器对象（如

List、Dict）才是产生循环引用的重灾区这一核心前提。

参考回答：

Python的内存管理主要依靠垃圾回收机制，其中最核心的策略就是引用计数。在

Python里，每一个对象内部都会维护一个叫做引用计数的字段。当这个对象被创

建、被别的变量引用、或者放到列表里时，它的引用计数就会加一；反过来，当变

量作用域结束被销毁或者引用被移除时，计数就减一。只要这个数字变成零，

Python就会立刻把这块内存释放掉，这种方式非常高效且实时。

不过单纯依靠引用计数会遇到一个很难搞的问题，就是循环引用。比如列表A里面

包含了列表B，列表B里面又包含了列表A，哪怕外面都没有变量指向它们了，它们

俩互相引用的计数也永远不会是零，内存就泄漏了。

为了解决这个隐患，Python引入了标记清除机制作为辅助。这个机制主要针对列

表、字典这种容易产生循环引用的容器对象。它会定期去遍历所有的容器对象，如

果发现有一堆对象形成了一个互相引用的孤岛，而外界根本无法访问到它们，就会

把这批孤岛打上标记，然后统一清理掉。另外Python还有分代回收机制来提升清理

效率，把刚创建的对象和存活很久的对象分开管理，尽可能减少扫描的开销。

Q4：常见的排序算法有哪些？请手写或描述快速排序的核心思想及时间复杂

度。

答题分析：

考察频率：★★★★★

考察点：考察算法基础与代码能力

答题思路：简述分治法核心原理，描述如何选基准值及分区操作。给出平均与最坏时间复

杂度，并主动提及应对最坏情况的优化策略（如随机选基准）。

避坑点：仅仅背出O(nlogn)是不够的，如果忽略了最坏时间复杂度退化至O(n²)的场景以

及应对手段，会显得缺乏扎实的算法边界意识。

参考回答：

快速排序的核心思想其实就是分治法。我们会从数组里面挑出一个元素作为基准

值，接着把数组里剩下的元素都和这个基准值过一遍。比基准值小的全部放到它左

边，比基准值大的全部放到它右边。这一轮走完，基准值就找到了它最终在排序后

应该在的位置。

接下来，我们只需要用同样的方法，把左边那部分和右边那部分各自再进行一波这

样的拆分和位置互换。通过递归的调用，只要每一个较小的区间都被排序好了，整

个数组也就自然变得有序了。

关于它的时间复杂度，在正常随机或者数据比较乱的情况下，每次都能把数组对半

拆开，这时候的效率是非常可观的，时间复杂度在O(nlogn)。但如果运气比较

差，比如原本数组就是已经排好序的，而且我们还总是死板地选第一个元素当基

准，那每次就只能分出零个和n-1个元素，这时候算法就会退化成冒泡排序的水平，

时间复杂度变成O(n平方)。为了防范这种最坏情况，我在手写快排的时候一般会习

惯加上随机选择基准值或者三数取中的优化逻辑，让它在各种分布下都能保持稳定

性能。

Q5：什么是哈希冲突？在工程中常见的解决哈希冲突的方法有哪些？

答题分析：

考察频率：★★★★★

考察点：考察数据结构基础

答题思路：一句话点明哈希碰撞的本质，然后结合主流语言底层设计，重点介绍链地址法

和开放地址法，并提到动态扩容的兜底策略。

避坑点：尽量不要只讲书本上的理论，要联系实际。比如提到Java的HashMap或者

Python底层的字典，这样能展现出不仅懂理论，还读过源码或了解工业界落地方案。

参考回答：

哈希冲突是因为哈希表在进行数据存储时，不同的键经过哈希函数的计算后，得到

了相同的哈希地址。因为我们要把无限的可能数据映射到一个有限大小的数组里，

这种碰撞从数学原理上来说是无可避免的。

在实际工程开发中，解决这个问题比较常见的方法有几种。用的最多的是链地址

法，这也是Java里的HashMap或者很多底层数据结构喜欢用的方式。它的思路很

直观，如果大家算出来的地址都在同一个位置，那就在这个位置挂一个链表，后来

的人直接跟在链表后面。如果链表太长影响查找效率了，还可以进一步转换成红黑

树这种结构。

另一种比较经典的是开放地址法，也就是当你发现算出对应的位置已经被别人占

了，就按照一定的规则在数组里继续找下一个空着的位子。比如线性探测就是挨个

往后看，平方探测就是跳跃着找空位。Python底层的字典实现就使用了类似开放寻

址的变体策略。不过开放地址法比较容易产生数据堆积，通常需要配合动态扩容机

制，在哈希表装载因子变高的时候及时申请更大的数组来重新分配数据，从而维持

高效的读写速度。

Q6：简述进程、线程与协程的区别，在大模型API调用场景下你会优先选择哪

种？

答题分析：

考察频率：★★★★★

考察点：考察操作系统基础与场景应用

答题思路：从资源消耗、调度归属、并发粒度三个维度递进对比。然后结合大模型API调

用这一高延迟的IO密集型场景，给出为何选用协程的判断。

避坑点：千万不要回答多线程。大模型API调用往往伴随秒级的等待，多线程会带来过高

的内存和切换开销，答错选型会暴露缺乏实战经验。

参考回答：

进程、线程和协程这三者可以说是并发编程的基石，它们的重量级是从大到小递减

的。进程是操作系统分配资源的最小单位，每个进程都有自己独立的内存空间，非

常稳定但创建和切换的开销很大。线程则是CPU调度的基本单位，它是在进程内部

运行的，多个线程共享同一份内存，切换开销比进程小很多，但存在数据同步问

题。协程就更轻量了，它是用户态的轻量级线程，完全由我们写的代码来控制调

度，不需要操作系统的干预，切换开销微乎其微。

在咱们大模型API调用的这个场景下，我会毫不犹豫地优先选择协程，比如配合

Python的asyncio和aiohttp库来实现。

大模型API调用本质上是一个非常典型的重度网络IO密集型任务，整个过程的大部

分时间都耗在等待网络传输和模型生成上。如果我们用多线程，开个几千个线程很

容易就把内存撑爆或者让系统陷入无休止的上下文切换中。而用协程，哪怕单核单

线程也能轻松挂起成千上万个并发请求，在一个请求等待API返回的空隙，迅速切

换去处理另一个请求的发送，不仅资源占用极低，吞吐量也非常优秀。

Q7：计算机网络中，TCP三次握手和四次挥手的过程是怎样的？为什么挥手需

要四次？

答题分析：

考察频率：★★★★★

考察点：考察计算机网络基础

答题思路：清晰勾勒握手的SYN/ACK交互过程，说明其建立可靠连接的作用。重点解释

四次挥手之所以比握手多一次，是因为TCP的全双工特性带来的半关闭状态。

避坑点：避免干巴巴地背诵报文代码，要用通俗的语言讲清楚客户端和服务端的心理博弈

与状态确认机制，突出“数据处理完毕”这一中间等待期的必要性。

参考回答：

TCP的三次握手其实是为了在两个素未谋面的端点之间建立起一条可靠的连接。客

户端会先发一个带有SYN标志的包过去，问服务端能不能建立连接。服务端收到

后，除了回复一个确认收到信号ACK，还会顺带把自己的SYN标志也发过去，意思

是同意连接并且我也准备好了。客户端最后再回一个ACK确认，这样双方就都确认

了彼此的发送和接收能力是正常的，握手就完成了。

至于四次挥手，过程是客户端发完数据想断开了，就发一个FIN包过去，这算是第

一次挥手。服务端收到后先回一个ACK，告诉客户端我收到了，这是第二次挥手。

但这个时候服务端可能还有没处理完的数据要传，所以不能马上关。

等到服务端自己的数据也全发完了，它才会主动给客户端发一个自己的FIN包，这

是第三次。最后客户端收到这个FIN，再回个ACK进行确认，这就是第四次挥手

了。之所以比握手多了一次，核心原因就在于TCP是全双工通信，连接关闭的过程

被分成了单向关闭，中间那段等待时间就是留给服务端把手头剩下的数据老老实实

处理完的。

Q8：请解释什么是死锁，以及在编程中如何预防和避免死锁的发生。

答题分析：

考察频率：★★★★★

考察点：考察操作系统并发控制

答题思路：用直观的比喻描述死锁现象，列出死锁产生的四个必要条件。给出实际开发中

常用的两种预防策略：资源排序和超时限制。

避坑点：只列举死锁的四大理论条件（互斥、占有等待等）却不给工程落地方案是学生思

维的典型体现。一定要落实到代码里该怎么规避。

参考回答：

死锁在并发编程里是一个比较棘手的问题，它指的是两个或者更多的线程在执行过

程中，大家都互相占有着对方接下来需要的资源不肯放手。这就像在一条单行道上

两辆车车头对车头碰上了，谁也不愿意倒车，导致大家都被卡在原地永远无法向前

推进，整个程序就陷入了僵局。

要产生死锁需要满足互斥、占有且等待、不可抢占以及循环等待这四个条件。在日

常写代码时，为了预防这种情况，我们通常会从破坏这四个条件入手。

我个人比较常用的一种策略是规定好获取锁的顺序。比如系统里有锁A和锁B，我们

强行约定所有的线程必须先拿到A才能去拿B，这样大家排好队，就不会出现交叉等

待的情况。另外，设置超时机制也是个好办法。在去申请某一把锁的时候带上超时

时间，如果等了一段时间还没拿到，就主动放弃手里的资源先退出来，稍微休息一

下再重新尝试。通过这种机制，就能有效避免线程为了一个拿不到的资源把整个系

统给拖死。

Q9：Python中的装饰器是如何工作的？请举一个你实际应用过的场景。

答题分析：

考察频率：★★★★★

考察点：考察Python高级特性

答题思路：讲清装饰器本质是利用闭包特性对函数进行包装增强。务必结合实际项目场

景，讲述它如何解决代码耦合和复用性问题。

避坑点：不要只停留在“装饰器就是用@符号修饰函数”的浅层现象。如果没有真实场景支

撑，考官会认为你只学了语法，没有工程实战经验。

参考回答：

Python里的装饰器在本质上是一个闭包函数，它的核心作用就是不修改原函数内部

代码和调用方式的前提下，给这个函数动态地增加一些新功能。它可以接收一个函

数作为输入参数，在内部对其进行包装扩展，最后再把包装好的新函数返回出来。

这背后其实就是把函数也当成了一等公民，可以像普通变量一样传来传去。

在我之前的实际项目里，我用装饰器封装过一个大模型API调用的重试机制。因为

调用外部接口经常会遇到网络闪断或者限流报错的情况，如果每个请求的地方都写

一套try-except重试逻辑，代码会变得非常臃肿。

我就写了一个带有最大重试次数和指数退避延迟时间的装饰器。只要把它挂在任何

一个请求大模型的异步函数头上，如果遇到特定的异常，装饰器内部就会捕获它，

等个几秒钟再自动重新调用原函数。这样原本可能要写几十行的防御性代码，就被

浓缩成了一个优雅的@符号标注，既保证了核心业务逻辑的纯粹，整个工程的复用

性和可维护性也大大提高了。

Q10：链表和数组在内存分配、插入、删除和查找效率上有什么区别？

答题分析：

考察频率：★★★★★

考察点：考察基础数据结构

答题思路：从物理内存模型切入，对比连续内存与分散指针的区别。基于此引申出两者在

查找时间复杂度（O(1)与O(n)）和增删时间复杂度上的倒置关系。

避坑点：不能仅仅罗列效率区别，必须讲出“为什么会出现这种差别”（因为内存结构的连

续性不同），这才是考察数据结构的真正目的。

参考回答：

链表和数组作为最基础的数据结构，它们在内存分配和日常操作上的表现有很大的

差别。数组在内存里要求必须是一块连续的空间，也就是说它在创建的时候就得固

定好大小，或者由底层进行动态扩容。而链表则是分散存储的，它通过节点里的指

针记录下一个节点在哪里，内存利用上会比较灵活，随用随申请。

这也导致了它们在查找效率上表现不同。数组因为是连续的，只要算一下偏移量就

能直接跳到对应的位置，查找速度非常快，时间复杂度只有O(1)。但链表就不行

了，它只能从头节点开始顺藤摸瓜一个一个往后翻，查找起来相对费时，复杂度是

O(n)。

在数据的插入和删除方面，情况就反过来了。如果我们在数组的中间位置插一个数

据，为了腾出空间，必须要把后面的所有元素都往后挪一位，开销很大。但在链表

里做这个动作就很轻量，只要定位到了要插入的位置，改一下旁边两个节点的指针

指向就可以了，不需要搬运任何数据。所以在面临频繁读还是频繁写的场景时，我

都会先评估好再做数据结构的选择。

Q11：C++中指针和引用的主要区别是什么？在什么场景下必须使用指针？

答题分析：

考察频率：★★★★

考察点：考察C++语言特性理解

答题思路：对比指针的独立性和引用的从属性，明确引用需初始化且不可变更绑定的特

点。重点说明动态内存分配、处理空状态以及多态动态切换时必须依赖指针。

避坑点：别忘了回答“必须使用指针的场景”这个后半部分。很多应届生在对比完区别后就

戛然而止，丢掉了一半分数。

参考回答：

在C++的开发中，指针和引用都是用来间接访问内存中其他变量的工具，但它们在

行为和规则上有不少区别。最直观的区别在于，指针它本身是一个独立的变量，有

属于自己的内存地址，里面存着别人的地址；而引用更像是一个变量的别名，它一

旦和某个变量绑定了，就终身和它绑定在一起了，没法在中途换成别的变量。

这也意味着指针操作起来比较自由，它可以是空指针，也可以随时改变指向。但引

用必须在创建的瞬间就被初始化，而且不能是空值。平时写代码如果只是传参，用

引用不仅写着方便而且不容易报内存访问错误。

但在某些特定场景下，我们是必须得用指针的。比如在进行动态内存分配，也就是

new一块内存出来的时候，返回的就只能是一个指针。还有我们在做一些底层数据

结构，像二叉树或者链表设计的时候，节点之间需要能够表示“没有下一个节点”这

种状态，这时候用可以设置为空的指针就会更加契合逻辑。在多态里要动态切换派

生类对象的时候，指针的灵活性也是无法被引用替代的。

Q12：RESTfulAPI设计的基本原则是什么？GET和POST请求在本质上有何区

别？

答题分析：

考察频率：★★★★

考察点：考察网络协议与接口设计

答题思路：解释面向资源的架构思想及无状态性原则。从参数传递位置到请求协议的底层

语义（幂等性、缓存、副作用）多层面进行GET和POST的对比。

避坑点：仅仅回答“GET参数在URL里，POST在Body里”是不够的。一定要点出“幂等

性”这个HTTP方法设计的底层核心意图，体现专业深度。

参考回答：

RESTfulAPI设计其实就是用一种比较规范和优雅的方式来定义前后端通信。它的

核心原则是把网络上的所有事物都看作是“资源”，然后用统一的URL来定位这些资

源，并通过HTTP自带的方法来表明你要对这个资源做什么动作，比如获取数据、

新建数据还是删除数据。它提倡无状态通信，请求之间互相独立，这也是现在微服

务架构里非常主流的接口规范。

在这个规范里，GET和POST是我们最常打交道的两种请求方式。从表面的表现来

看，GET主要是用来向服务器请求数据的，它的参数大多直接拼接在URL后面，透

明且长度有限；而POST是用来向服务器提交数据的，参数通常被藏在请求体里

面，可以传输大段的文本或者文件。

从本质的协议语义来讲，GET操作是幂等的。不管你向服务器发送多少次相同的

GET请求，都不会改变服务器上的数据状态，所以浏览器和CDN可以非常放心地把

GET请求的结果缓存起来。但POST是非幂等的，每次发报文都可能在数据库里创

建一条新记录，所以它不能被随意缓存，而且浏览器刷新也会给出重新提交数据的

警告。

Q13：Linux系统中，如何使用命令行快速查找包含特定关键字的日志文件并统

计行数？

答题分析：

考察频率：★★★★

考察点：考察Linux常用操作

答题思路：展示grep过滤配合wc统计的基础命令组合思路，解释管道符的作用。进一步

抛出处理大体积压缩日志文件（如zgrep）的加分思路。

避坑点：不用刻意背长串参数，讲明白管道符串联多个小命令的哲学逻辑，远比干巴巴念

出一句代码指令更让面试官信服。

参考回答：

在Linux环境里做服务器运维或者排查线上报错，命令行操作可以说是基本功。如果

我要快速在一个巨大的日志文件里找出包含特定报错关键字的信息，还要统计它出

现了多少次，通常我会直接用grep命令搭配wc命令通过管道符连起来搞定。

具体来说，我会先敲一个grep加上关键字，比如“ERROR”，后面跟上日志文件的路

径。这一步会把所有包含这个报错词汇的日志行全部过滤出来。接着我会在后面打

一个竖线管道符，接上wc-l这个命令。管道符的作用是把前面grep筛出来的结果直

接喂给后面的wc，而-l参数就是让系统去数一数一共有多少行。

这样一条类似于grep"ERROR"app.log|wc-l的单行命令，就能在几秒钟内给

我想要的数据。如果日志文件已经被系统自动打包成压缩包了，比如.gz后缀的文

件，我就会把前面的grep替换成zgrep，这样不用把几十个G的压缩包解压出来，

也能直接在内存里完成同样的过滤和行数统计，这在紧急排查问题的时候能省下很

多宝贵的时间。

Q14：数据库索引的底层数据结构通常是什么（如B+树）？为什么不用红黑

树？

答题分析：

考察频率：★★★★

考察点：考察数据库底层原理

答题思路：简述B+树的特性（非叶子节点不存数据、叶子节点带双向链表）。对比红黑

树这种二叉结构的高度劣势，扣住“磁盘I/O次数”这个数据库最关注的性能瓶颈。

避坑点：避免脱离“磁盘存储”的背景空谈数据结构优劣。在内存里红黑树很优秀，但在磁

盘里因为其高度导致的多次I/O才是数据库抛弃它的核心所在。

参考回答：

大部分主流的关系型数据库在底层构建索引的时候，最喜欢用的数据结构就是

B+树。它其实是多路平衡查找树的一种优化版本。在B+树里，所有实际的数据记

录都会乖乖地排列在最底层的叶子节点上，而且叶子节点之间会有一条双向链表把

它们全部串起来。中间的那些非叶子节点，就只存单纯的索引值，不放具体数据。

这种设计非常巧妙，因为它的中间节点只存键值，所以同样大小的一个磁盘页就可

以塞进更多的索引项。这样整棵树的高度就会变得非常扁平，通常三到四层就能存

下千万级别的数据，大大减少了读取磁盘的次数。另外因为底层的双向链表，如果

我们要进行范围查询，只要找到起点，顺着链表一路扫过去就行了，效率很高。

那为什么不用大家比较熟悉的红黑树呢？其实主要原因还是红黑树是二叉结构。每

个节点最多只能有两个分支，这就导致当数据量庞大时，整棵树的高度会非常高。

由于数据库的数据大都放在磁盘里，树越高，顺着树根往下找所需的磁盘I/O次数就

越多。对于动不动几十上百万行数据的表来说，磁盘读写的开销是红黑树承受不起

的。

Q15：如果让你设计一个支持高并发的计数器（如点赞功能），你会如何设计？

答题分析：

考察频率：★★★

考察点：考察系统设计脑洞与拓展

答题思路：指出直接更新数据库的痛点。给出引入内存型中间件（如Redis）承接高并发

写操作的方案，并补充异步批处理刷盘以及大Key分片的进阶架构设计。

避坑点：不要一上来就谈数据库的行锁或者乐观锁优化。面对真正的高并发，关系型数据

库往往是瓶颈，应当优先展示使用缓存和队列削峰填谷的系统思维。

参考回答：

如果让我来设计一个像文章点赞或者商品浏览量这种面临超高并发压力的计数器，

我肯定不会直接让每一次点击都去执行数据库的Update操作，那样很容易把关系型

数据库的连接池打满锁死。

我会采用内存缓存结合异步刷盘的架构策略。具体来说，当用户点赞时，这个增加

动作会第一时间打到Redis这样的内存数据库上。Redis底层的单线程模型可以完美

避开并发自增时的数据竞争，用INCR指令执行效率非常高。这样就能保证C端用户

点赞的响应速度极快，体验很顺滑。

对于持久化，我会设计一个定时任务或者消息队列。每隔一段时间，比如两分钟，

或者当Redis里的计数值积攒到一个设定的阈值，就把增量数据打包汇总起来，作

为一个批处理任务一次性写回MySQL做固化存储。如果在极端情况下系统遇到大促

峰值，还可以对这个缓存计数器做水平的分片，把一个大Key拆成多个小Key分散

到不同节点去抗压，最后读取时在应用层做一个简单求和，就能很好地应对大流量

的冲击了。

二、机器学习与深度学习理论基础（20道）

本章节深入挖掘应届生对模型底层运行规律的把控力。不仅要求知其然（调用调

参），更要求知其所以然（数学原理与适用边界），展现厚实的研究潜质。

Q16：什么是过拟合与欠拟合？在深度学习中常见的缓解过拟合的手段有哪些？

答题分析：

考察频率：★★★★★

考察点：考察深度学习基础理论

答题思路：用直白的语言区分欠拟合与过拟合的表现差异。有层次地列举缓解过拟合的方

法：从数据层面（增强）、模型结构层面（Dropout）、参数惩罚（正则化）以及训练过

程控制（早停）多角度进行回答。

避坑点：回答缓解手段时切忌像报菜名一样堆砌名词，应当把手段进行分类，显示出结构

化的排查优化思路。

参考回答：

过拟合和欠拟合可以说是我们在训练机器学习模型时最常遇到的两个死对头。欠拟

合比较好理解，就是我们的模型太简单或者训练得不够火候，连训练集里最基本的

规律都没学会，就像一个学生连课本上的例题都做不对一样。这时候我们通常得加

深网络的层数，或者增加训练轮数来解决。

过拟合就有些头疼了。它是指模型把训练集里的数据规律学得太过了，甚至把里面

的噪音和随机误差也当成真理背了下来。这导致它在训练数据上表现完美，可一旦

遇到没见过的新数据，预测结果就一塌糊涂，泛化能力很差。

在深度学习的项目里，缓解过拟合的手段挺多的。比较常见的是直接在数据层面上

动手脚，比如通过裁剪、旋转或者加噪来做数据增强，扩充数据多样性。另外就是

在模型架构上引入正则化机制，像加个Dropout层随机让一些神经元失活，防止它

们过分依赖彼此；或者使用L1/L2权重衰减来惩罚过大的参数。如果我们能在训练

过程中随时关注验证集的指标，一旦发现验证集准确率开始下降，立马用早停机制

把训练停掉，也是非常有效的止损手段。

Q17：请详细推导并解释梯度下降算法，以及SGD、Momentum、Adam等优

化器的区别。

答题分析：

考察频率：★★★★★

考察点：考察优化算法底层逻辑

答题思路：先用具象的下山比喻解释梯度下降基本原理。依次讲述SGD提速、Momentum

引入惯性抑制震荡，最终讲到Adam自适应调整不同参数学习率的集大成优势。

避坑点：不要在口头面试时尝试硬背极其复杂的数学推导公式，应届生往往会被绕晕。用

物理世界中的力学、惯性、方向步长去解释算法演进逻辑会更受欢迎。

参考回答：

梯度下降算法其实就像是一个蒙住眼睛的人想从山顶走到谷底。他虽然看不见，但

可以通过脚底的触觉感受到当前位置坡度最陡的方向，也就是梯度的反方向，然后

朝着这个方向迈出一小步。在这个算法里，我们需要定义好步长也就是学习率，模

型不断重复计算梯度和更新参数的过程，直到最后走到一个平缓的局部最低点。

在实际工程里，我们不会使用最原始的全量梯度下降，而是会用到各种优化后的变

体。比如SGD也就是随机梯度下降，它每次只抽一部分数据来算方向。虽然这样走

起路来会有点东倒西歪，但计算速度大大加快了。为了解决它总是左右震荡的问

题，大家又引入了Momentum动量机制。这就好比给下山的人加了一个惯性，如果

之前几步都在朝着同一个大方向走，那接下来这一步的步子就会迈得更大更稳。

而Adam优化器则是在动量的基础上更进一步。它不仅考虑了走的方向惯性，还会

聪明地记录每个参数过往的梯度大小，动态给不同参数分配不一样的学习率。因为

收敛速度快且不怎么挑参数，这也是目前我们在训练大多数深度神经网络时首选的

工具。

Q18：神经网络中为什么要引入激活函数？如果不用激活函数会怎样？

答题分析：

考察频率：★★★★★

考察点：考察神经网络基本原理

答题思路：直击本质，指出激活函数是引入非线性的唯一来源。运用线性代数矩阵合并的

逻辑，论证去掉激活函数后深度网络就会退化为单层线性模型。

避坑点：别光提“增加模型拟合能力”，要清楚解释出不用激活函数导致“深层堆叠无效

化”的数学逻辑，这是考察是否具备科班底层思维的重要节点。

参考回答：

在构建神经网络的时候，激活函数扮演着至关重要的角色，它其实就是网络模型引

入非线性表达能力的唯一来源。

假设我们有一座很多层的多层感知机网络，如果我们不在每一层的输出后面加个激

活函数，而是直接把这层的结果传给下一层。那根据线性代数的基础原理，不管我

们叠了十层还是一百层，这些层的矩阵相乘操作，在数学上完全可以等价合并成一

个简单的单层线性变换。这就意味着，没有激活函数的深度网络，它的拟合能力会

被永远锁死，只能解决像一条直线切分数据这样的线性问题。

一旦加上了像ReLU、Sigmoid或者Tanh这样的激活函数，数据在传给下一层之前

就会经历一次非线性的扭曲。正是这种逐层的非线性折叠和空间变换，赋予了神经

网络去逼近任意复杂曲面的能力。无论我们要处理的是自然语言的复杂语义特征，

还是图像里的曲线边缘特征，激活函数都能帮助网络打破线性模型的桎梏，真正发

挥出深度学习深层堆叠的威力。

Q19：请简述Softmax函数的数学表达式及其在多分类问题中的作用。

答题分析：

考察频率：★★★★★

考察点：考察基础数学推导与应用

答题思路：口语化描述对数指数分母归一化的表达式原理。突出它两大核心作用：将离散

数值转化为标准概率分布，以及利用指数特性放大类间差异（马太效应）。

避坑点：别直接背复杂的公式字母，面试官听不到你的草稿纸。要把除法和指数的物理作

用讲透，尤其是为何用e的指数而不是普通的按比例划分。

参考回答：

Softmax函数可以说是处理多分类问题的标配工具，它的主要作用就是把神经网络

输出的一堆看起来没有任何规律的实数值，转换成一个符合概率分布规范的形式。

从数学表达式上看，它会把输入向量里的每一个元素都作为自然常数e的指数算一

遍，然后把所有算出来的指数值加在一起当分母，每一个指数值自己当分子。经过

这么一套操作，原来向量里可能包含负数或者非常大的数字，就全被压缩到了0到1

的区间里，而且整个向量所有元素加起来刚好等于1。

在图像识别或者咱们大语言模型预测下一个词的场景下，这就非常有用。我们完全

可以把Softmax输出的结果看作是模型对每一个类别判断出的概率置信度。另外，

由于自然常数e的指数特性，Softmax还会起到一种马太效应的作用，它会成倍放大

原本数值就比较大的那个项，把得分稍低的项给压制下去，让模型最终挑出正确答

案的决策边界变得更加明显。

Q20：什么是反向传播（Backpropagation）？请简述其依赖的数学法则（如

链式法则）。

答题分析：

考察频率：★★★★★

考察点：考察深度学习核心算法

答题思路：将反向传播描述为一种将整体误差按比例分摊给每个参数的反馈机制。明确点

出链式法则是其破局之匙，用于拆解多层嵌套复合函数的导数计算。

避坑点：不需要拘泥于具体的求导数值运算，核心是展示对“从后往前逐层传递梯度乘

积”这一架构设计的宏观认知。

参考回答：

反向传播也就是我们常说的BP算法，是神经网络能够在训练中不断自我进化的核心

引擎。当我们把数据输入网络，算出一个最终结果并和标准答案对比后，会得到一

个损失值。反向传播的任务，就是顺着网络一层一层地往回走，把这个总的损

失“锅”按比例分摊给网络中的每一个参数，告诉它们该往哪个方向调整多少，才能

让下次预测更准一点。

这个算法底层的理论支柱其实就是微积分里的链式法则。因为深度神经网络本质上

就是一个多层嵌套的复杂复合函数。如果我们要算第一层某个权重的变化对最终损

失到底有多大影响，由于中间隔着好多层，我们没办法直接一步算出来。

但链式法则告诉我们，可以把这个大跨度的导数拆解掉。先算最后输出对倒数第一

层的偏导，再算倒数第一层对倒数第二层的偏导，就这么一环套一环地相乘，一路

乘回最前面的输入端。这样原本异常庞大且复杂的偏导数计算，就被拆解成了每个

神经元内部简单的局部导数相乘，使得计算机能够非常高效地完成大规模参数的更

新迭代。

Q21：交叉熵损失函数（Cross-EntropyLoss）的物理意义是什么？为什么分

类任务常不用MSE？

答题分析：

考察频率：★★★★★

考察点：考察损失函数原理

答题思路：从信息论角度解释交叉熵度量分布差异的物理意义。然后从两个维度对MSE

进行打击：一是MSE更适合度量距离而非概率，二是MSE搭配Softmax会导致梯度消失问

题。

避坑点：这是十分经典的高频题。千万不要忘记回答“MSE与Softmax搭配时带来的导数

趋于0导致训练停滞”这一梯度计算层面的硬伤。

参考回答：

在评估分类任务做的好不好时，我们通常会选择交叉熵损失而不是均方误差MSE，

这主要是由它们在度量概率分布和反向传播时的表现决定的。

从物理意义上讲，交叉熵源自信息论，它衡量的是两个概率分布之间的差异。在分

类问题中，我们的真实标签往往是一个非常确定的分布，比如就是属于A类。而模

型输出的是它认为属于各类别的概率。交叉熵就是直接去算模型预测的这个分布和

真实分布之间的距离，这非常契合分类任务想要“找对类别”的初衷。相比之下，

MSE只是机械地计算两个数值之间的几何距离，更适合用于预测房价这类的回归连

续值问题。

另外从梯度更新的角度来看，如果用MSE搭配Softmax函数，在误差很大的时候，

梯度的计算结果反而会非常小，这会导致模型在最需要快速纠错的时候学得很慢甚

至停滞不前。而交叉熵损失配合对数计算，刚好能把Softmax指数带来的问题给抵

消掉，哪怕模型一开始错得离谱，也能提供一个足够大的梯度推着它快速往正确的

方向去迭代。

Q22：简述BatchNormalization和LayerNormalization的区别，为什么大语

言模型通常使用LayerNorm？

答题分析：

考察频率：★★★★★

考察点：考察模型归一化技术

答题思路：明辨两者划分维度的差别，即BN按通道跨样本计算，LN按样本跨特征计算。

随后点破NLP领域句子长度不一的痛点，论证LN的优越性。

避坑点：避免用过多的代码术语去解释区别，用“维度切分方式”来表达最为清晰。需准确

指出RNN/Transformer等序列模型遇到变长序列时BN的无力感。

参考回答：

批归一化BatchNormalization和层归一化LayerNormalization在深度学习里都是

用来稳定数据分布的手段，不过它们切入的维度不一样。BN是顺着批次的维度去做

的，它会把当前批次里所有样本的同一个特征通道拿出来一起算均值和方差。而LN

是顺着特征维度去做的，只盯着当前这一个样本，把自己所有的特征拿出来算一遍

归一化。

在开发大语言模型时，我们几乎都使用LayerNorm。这是因为NLP处理的文本数据

有个特点，也就是每个句子的长度通常参差不齐。

如果用BN，因为要跨样本找同样的特征位置，遇到短句子的时候后面全是占位的

零，算出来的统计量就会非常不稳定。而在推理阶段遇到更长的句子时，可能连参

考的均值都找不到。但LayerNorm只关注样本自身，句子的长短变化、这批次塞了

几个样本进来，都不会影响它的独立计算。所以它非常契合大语言模型这种以

Transformer为主的序列化网络架构。

Q23：CNN在图像处理中有哪些核心优势？感受野（ReceptiveField）的概念

是什么？

答题分析：

考察频率：★★★★★

考察点：考察经典网络结构理解

答题思路：阐述局部连接与权重共享这两大杀手锏带来的参数量骤减以及平移不变性优

势。生动描述感受野犹如视线的不断扩大，越深层看到的全局信息越丰富。

避坑点：对感受野的解释要形象化。很多新手把它当成一堆死板的卷积核尺寸相乘，忽略

了它在业务上是模型从“看细节斑点”进化到“看整体轮廓”的认知范围度量。

参考回答：

在处理图像这种二维网格数据时，卷积神经网络CNN有着传统的全连接网络无法比

拟的核心优势，主要体现在局部连接和权重共享这两个机制上。

对于一张高清图片，如果用全连接层，每个像素都要和下一层所有神经元连线，这

个参数量会大到直接把显存撑爆。而CNN依靠卷积核在图片上像滑动窗口一样扫

过，每个神经元只看局部的一小块区域，而且整个滑动过程中用的都是同一套滤波

器参数。这样不仅让计算量呈指数级下降，还能很好地抓住图像那种不管出现在哪

个角落，边缘或者纹理特征都一样的平移不变性。

至于感受野这个概念，它其实就是用来描述网络里某一层输出的一个节点，到底

能“看到”原始输入图片上多大范围的区域。在CNN刚开始的几层，卷积核只能看到

几个像素，提取的也是像直线斑点这种初级特征。但随着网络加深、加入池化层下

采样后，越往后的神经元它的感受野就变得越宽广。到了最后几层，一个节点可能

就已经纵观全局，能够理解这到底是个车轮还是个猫头了。

Q24：RNN为什么容易出现梯度消失和梯度爆炸？LSTM是如何缓解这一问题

的？

答题分析：

考察频率：★★★★★

考察点：考察序列模型基础

答题思路：剖析RNN沿时间步传递引发大量权重矩阵连乘的本质死穴。然后引出LSTM的

两大创新：贯穿始终的主状态通道，以及由各类门控调节加法代替乘法的信息管理机制。

避坑点：千万不要泛泛而谈“因为LSTM有三个门所以不会梯度消失”。一定要点出LSTM细

胞状态中的“加法传递”逻辑，这才是打破原版连乘魔咒的底牌。

参考回答：

RNN在处理长文本这种时间序列任务时，非常容易踩到梯度消失或者梯度爆炸的

坑，这主要和它的网络结构有关。因为RNN是通过把前一时刻的隐状态不断相乘带

入到下一时刻的计算中，在反向传播算梯度的时候，就不可避免地会出现大量包含

权重矩阵的连乘操作。如果这个矩阵的值普遍小于1，乘了几十次之后梯度就趋近

于零了，模型根本学不到长距离以前的依赖关系；如果大于1，那连乘出来的梯度

就会像滚雪球一样爆炸，导致模型直接崩溃。

为了解决这个痛点，我们在工程中经常会使用LSTM，也就是长短期记忆网络。

LSTM的核心操作就是在RNN的基础上加了一套名为“门控机制”的智能开关，以及

一条贯穿始终的细胞状态主线。

这条主线就像是一条直通的高速公路，信息在上面传递时主要是简单的加法，有效

避开了连乘导致的问题。同时，遗忘门负责决定丢掉哪些没用的陈旧信息，输入门

负责把当前时刻重要的新鲜血液加进来。这种通过门控调节加法来代替硬连乘的设

计，让LSTM能够非常从容地跨越上百个时间步，稳定记住长距离的上下文信息。

Q25：在评估机器学习模型时，准确率、精确率、召回率和F1Score有何区

别？

答题分析：

考察频率：★★★★★

考察点：考察模型评估指标

答题思路：用人话解析四大核心指标。指明在正负样本不平衡时单纯准确率的欺骗性，分

别站在模型视角（精确率）和现实视角（召回率）解释后两者，最后带出F1Score的调

和作用。

避坑点：严禁用纯粹的TP/FP/TN/FN四格表公式直接念，这种应试背诵法极其枯燥。必须

带入具体的场景（如病患检测或欺诈识别）来具象化展示这几个概念的制衡关系。

参考回答：

在评估机器学习模型的表现时，这几个指标各有各的侧重点，通常需要配合起来

看。准确率是最直观的一个，它算的是模型所有预测出来的结果里，究竟有多少个

是跟标准答案对得上的。不过在实际业务里，如果遇到了正负样本严重不平衡的情

况，比如每一万个人里只有一个生病的，模型就算全猜没病准确率也极高，这就失

去了参考意义。

这时候我们就得看精确率和召回率了。精确率考察的是模型说出来的话有多靠谱，

就是模型只要挑出了一批它认为是正样本的数据，这其中有多少真的是正样本。而

召回率则是站在真实情况的视角，考察模型是不是宁可错杀也不漏网，也就是所有

真实的正样本里面，有多少被模型成功捞出来了。

精确率和召回率在现实中往往是一对矛盾体，很难两头兼顾。如果你想把它们综合

起来评估模型到底厉不厉害，这时候F1Score就派上用场了。F1其实就是它俩的

调和平均数，只有当精确率和召回率双双都表现不错的时候，F1的得分才会高。所

以在我的过往项目中，我都会优先盯紧F1Score这个核心风向标。

Q26：什么是偏差-方差权衡（Bias-VarianceTradeoff）？

答题分析：

考察频率：★★★★★

考察点：考察统计机器学习基础

答题思路：用具象的比喻解释偏差与方差的物理意义。指出两者在模型复杂度变化时的跷

跷板效应，并结合实际工程调参，说明如何通过交叉验证寻找最佳泛化平衡点。

避坑点：切忌纯靠背书罗列公式。面试官希望听到应届生在实际做项目时，如何通过判断

欠拟合或过拟合来对症下药，体现出解决实际问题的工程直觉。

参考回答：

偏差和方差其实是衡量模型误差来源的两个核心概念。我们可以把模型预测想象成

射箭比赛。偏差代表瞄准的基准是否偏离靶心，如果选用的算法太简单，比如用直

线硬切非线性数据，落点中心会永远偏离靶心，这就是高偏差，往往对应着欠拟

合。

方差衡量的则是模型对训练数据波动的敏感度。如果模型太复杂，把训练数据里的

随机噪音也当成了规律，它的准星就会随着训练集的变化到处乱飘。这种模型在训

练集上也许能拿到满分，但换成全新的测试集就会散落一地，这就属于高方差，也

就是常见的过拟合现象。

在日常的算法实践里，它们两者就像是一个跷跷板。增加模型复杂度会让偏差下

降，但方差会随之升高；如果引入正则化来限制模型，方差降下去了偏差又会反

弹。我们在调参迭代时，一直在寻找的就是这个权衡点。我会习惯利用交叉验证来

观察指标的变化曲线，挑一个泛化能力最佳的甜点区间，来保证模型在线上真实环

境里的稳定性。

Q27：如何处理训练集中的数据不平衡问题？请给出至少三种常见的处理策略。

答题分析：

考察频率：★★★★★

考察点：考察数据预处理经验

答题思路：结合业务背景指出数据倾斜的危害。从数据重采样、损失函数权重调整、模型

集成策略三个维度递进阐述具体的处理手段。

避坑点：避免只提到简单的复制粘贴式过采样。主动提及SMOTE插值或FocalLoss等更

进阶的手段，能展现出技术储备的深度与实战经验。

参考回答：

在真实的业务场景里数据不平衡是特别常见的问题，比如欺诈检测中坏样本通常只

占极小的比例。如果放任不管，模型很容易变成一个只会猜“多数类”的偷懒机器。

处理这个问题我会主要从三个层面入手。在数据重采样阶段，如果整体数据量不

大，我会尝试引入SMOTE算法，通过分析少数类样本的特征空间来插值生成一些

新的虚拟样本。如果数据量特别充裕，我就会采用随机欠采样的策略，把多数类的

数据砍掉一部分，强行把比例拉平。

在模型训练层面，我会去调整损失函数的权重设计。比如给少数类的预测错误加上

更重的惩罚系数，或者直接引入FocalLoss，让模型在训练时把注意力集中在那些

很难区分的稀有样本上。另外我也会考虑使用集成学习的方法，把多数类切割成好

几份，分别和少数类组合训练出多个子模型，最后通过投票来做决策，这比单纯死

磕单一模型的效果要靠谱得多。

Q28：简述K-Means聚类算法的流程及如何选择合适的K值。

答题分析：

考察频率：★★★★

考察点：考察经典无监督算法

答题思路：清晰叙述中心初始化、样本分配、中心更新的迭代过程。针对K值选择，重点

讲解肘部法则的原理及折线图拐点的判断逻辑。

避坑点：很多应届生在描述流程时会漏掉“直到中心点不再变化为止”这个收敛条件，这会

导致算法描述不完整。

参考回答：

K-Means是一种非常经典的无监督聚类算法，它的核心逻辑就是一个不断试错和调

整的过程。刚开始的时候，我们会随机在数据空间里挑K个点作为初始的聚类中

心。接着计算所有数据点到这几个中心的距离，谁离得近就归到谁的阵营里。大家

分好组之后，我们再算出每个组内部的新几何中心，把聚类中心挪过去。这样的分

配和移动会不断循环迭代，直到中心点不再移动，聚类就彻底完成了。

至于怎么选定合适的K值，也就是到底要分几类，通常不是拍脑袋决定的。我比较

常用的做法是肘部法则，也就是从较小的K值开始尝试，记录下每个数据点到自己

簇中心距离的总平方和。

随着K值变大，这个误差肯定会越来越小。当我们把这些值画成折线图时，会发现

有一个拐点，过了这个点之后误差下降的速度会突然变缓。这个像手肘一样的拐点

对应的数值，往往就是比较理想的分类数选择。此外借助轮廓系数也是个很好的辅

助判断方式。

Q29：逻辑回归（LogisticRegression）是线性模型还是非线性模型？为什

么？

答题分析：

考察频率：★★★★

考察点：考察传统机器学习理论

答题思路：明确给出其属于线性模型的结论。深入剖析Sigmoid函数仅仅是做了概率空间

的映射，并未改变内部线性组合以及决策边界依然是一条直线的本质。

避坑点：很多学生看到Sigmoid的S型曲线就会想当然地回答非线性模型。必须紧扣“决策

边界”这一核心标准，展现出扎实的推导底功。

参考回答：

逻辑回归在名字上虽然带有回归两个字，但它本质上是一个用来做分类任务的纯正

的线性模型。我们在刚接触时很容易被它外部包裹的Sigmoid函数迷惑，觉得它引

入了曲线映射，应该是个非线性模型，但其实判断的核心在于它的决策边界是怎么

划定的。

在逻辑回归的内部计算中，模型一直在做的事情是用输入的特征跟权重相乘再加上

偏置，这完完全全就是一个简单的线性组合。Sigmoid函数只是扮演了一个翻译官

的角色，它把这个线性组合算出来的值，硬生生地压缩到了0到1的概率区间里。

当我们用它来做二分类判定时，通常会设定0.5作为阈值。如果在数学上反推回去，

你会发现这个0.5的概率分割线，正好对应着内部线性组合等于零的那个超平面。因

为它的分类界限依然是一条笔直的线或者一个平整的面，无法处理像异或问题那种

必须用曲线才能切开的复杂数据分布，所以我们在工程界一直把它严格归类为线性

模型。

Q30：决策树算法中，ID3、C4.5和CART树在节点分裂时的准则分别是什么？

答题分析：

考察频率：★★★★

考察点：考察树模型基础理论

答题思路：按演进顺序依次说明。指出ID3使用信息增益的偏向性痛点，引出C4.5使用信

息增益率作为惩罚修正，最后说明CART树用基尼指数做分类及均方误差做回归的实用

性。

避坑点：不仅要背出“信息增益”等名词，更要讲出为什么会有这种演进迭代。如果不点出

ID3对取值丰富特征的异常偏好，回答就缺乏说服力。

参考回答：

这三种经典决策树算法在挑选特征进行节点分裂时，心里其实各自都有一把不同的

尺子。ID3算法使用的是信息增益作为评判标准，它倾向于挑选那些能让切分后的

数据纯度提升最大的特征。但这种方法有个明显的缺陷，就是特别偏心那些取值种

类繁多的特征，比如身份证号，这就很容易导致模型学的太碎太细致。

为了修补这个漏洞，C4.5算法做出了改进，引入了信息增益率。它在原来信息增益

的基础上，除以了一个特征本身的内部信息量。这就相当于给那些取值特别多的特

征加了一个惩罚系数，让大家站在相对公平的起跑线上，选出来的特征泛化能力会

更强。

后来工业界广泛使用的CART树，在做分类任务时采用