AI大模型运维工程师面试与技能要求手册

《AI大模型运维工程师面试与技能要求手册》文档编号：[AI-OPS-HR-001]版本号：V1.0编制人：[姓名]审核人：[姓名]批准人：[姓名]编制日期：[YYYY-MM-DD]适用单位：[公司/部门名称]密级：[内部/秘密/公开]使用说明：1.文中所有[]内容均为可替换字段，使用前请替换为公司实际信息。2.可根据招聘级别（初级/中级/高级/专家）裁剪题库、实操任务和评分权重。3.建议面试官在面试前统一阅读本手册，并使用附录中的《面试评估表》独立打分。4.本手册适用于AI大模型运维工程师、LLMOps工程师、推理平台工程师、AIInfra工程师等相关岗位。1.文档目的与适用范围1.1目的规范AI大模型运维工程师的岗位定义、能力模型、面试流程、题库、实操考核、评分标准和录用建议，确保招聘过程专业、客观、可复制，并为团队培养与绩效考核提供依据。1.2适用范围适用于[公司名称]内以下场景：社会招聘、校园招聘、内部转岗；技术面试、系统设计面试、实操考核；岗位定级、薪酬评定、录用决策；入职培养、技能矩阵评估、季度考核。2.岗位定义与核心职责2.1岗位名称AI大模型运维工程师/LLMOpsEngineer/大模型推理平台工程师/AIInfra运维工程师。2.2岗位使命保障大模型训练、微调、推理、RAG、Agent等业务全生命周期的稳定、高效、安全、低成本运行，支撑算法团队与业务团队快速迭代。2.3核心职责序号职责域主要内容1GPU与基础设施GPU集群、CUDA、驱动、K8s、存储、网络、RDMA、调度2模型生命周期模型注册、版本管理、发布、灰度、回滚、归档3推理服务vLLM、TGI、Triton、TensorRT-LLM、SGLang、API网关、限流、鉴权4训练与微调DeepSpeed、Megatron、FSDP、LoRA、QLoRA、Checkpoint、实验管理5监控与可观测Metrics、Logs、Traces、SLO、告警、Dashboard、容量看板6性能与成本压测、量化、批处理、缓存、KVCache、GPU利用率、成本优化7安全与合规RBAC、密钥管理、审计、PII、内容安全、Prompt注入防护8SRE与稳定性事故响应、复盘、灾备、混沌演练、变更管理9平台与自动化IaC、CI/CD、GitOps、脚本、Operator、自动化巡检10协作与支持对接算法、平台、业务、安全、运维团队3.能力模型与分级标准能力域初级中级高级专家Linux/网络/存储熟悉常用命令、排障能定位网络、磁盘、IO问题能设计高吞吐存储与网络方案主导集群架构与容灾设计Python/自动化能写脚本能开发运维工具、API能设计自动化平台主导平台化与标准化容器/K8s会Docker、基础K8s会Helm、Operator、GPU调度多租户、弹性、调度优化大规模集群治理GPU/CUDA会装驱动、看nvidia-smi懂MIG、DCGM、XID、NCCL能调优多机多卡、RDMA异构算力与集群规划推理服务会部署Ollama/vLLM会vLLM/TGI/Triton调优精通量化、并行、缓存、自动扩缩主导推理平台架构训练/微调了解LoRA、Checkpoint会跑分布式训练任务能优化训练稳定性与吞吐主导训练平台建设监控/SRE会Prometheus/Grafana能建告警、SLO、看板能设计可观测体系与演练主导稳定性体系安全/合规知道权限、密钥会RBAC、Vault、审计能设计安全基线主导合规与风控软技能能沟通、记录能跨团队协作能带项目、培训能带团队、定标准4.技能要求分级4.1初级工程师熟悉Linux、Shell、Python基础；会使用Docker、K8s基础命令；会安装NVIDIA驱动、CUDA、查看GPU状态；能部署Ollama、llama.cpp、vLLM等基础推理服务；会使用Prometheus、Grafana、Loki查看监控与日志；能编写巡检脚本、记录故障处理过程。4.2中级工程师熟悉K8sGPU调度、DevicePlugin、GPUOperator；会Helm、ArgoCD、GitLabCI、Terraform；能部署和调优vLLM、TGI、Triton；了解量化：INT8、INT4、GPTQ、AWQ、FP8；会压测：QPS、并发、TTFT、TPOT、吞吐、GPU利用率；能配置告警、SLO、Dashboard；了解RAG、向量数据库、Embedding服务。4.3高级工程师精通多机多卡推理、张量并行、流水并行、KVCache、PagedAttention；熟悉NCCL、RDMA、InfiniBand、RoCE、NVLink；能设计高可用推理架构、灰度发布、自动扩缩、多租户；能进行容量规划、成本优化、故障演练；熟悉DeepSpeed、Megatron、FSDP、LoRA、QLoRA；能主导线上事故处理与复盘；能建设LLMOps平台与标准化流程。4.4专家/负责人主导大规模GPU集群、训练/推理平台架构设计；熟悉异构算力、调度器、Serverless推理、边缘推理；能制定安全、合规、成本、稳定性标准；能推动AI基础设施与业务目标对齐；具备团队建设、技术规划、跨部门协调能力。5.面试流程阶段时长面试官重点通过标准简历筛选10-20minHR/技术负责人匹配度、项目真实性技能与岗位匹配电话/HR初面20-30minHR动机、沟通、稳定性基本意向明确技术初面45-60min中级/高级工程师基础、K8s、GPU、部署基础扎实技术深面60-90min高级/专家推理优化、排障、源码级理解有深度与实战系统设计60min高级/架构师推理平台、RAG、训练平台架构合理、可落地实操考核60-120min技术面试官部署、压测、排障能独立完成行为/文化面30-45min负责人/HR协作、责任心、抗压价值观匹配合议定级30min面试委员会综合评分、定级达到录用线6.面试题库（含考察点）6.1基础与云原生K8s中GPU是如何被调度和使用的？考察点：DevicePlugin、GPUOperator、ResourceQuota、NodeAffinity、Taint/Toleration、MIG。Pod一直Pending，如何排查？考察点：资源不足、GPU未注册、污点、亲和性、调度器、事件查看。如何做多租户GPU隔离？考察点：Namespace、RBAC、ResourceQuota、MIG、Time-Slicing、优先级、审计。6.2GPU与加速计算nvidia-smi中哪些指标最关键？考察点：显存、利用率、温度、功耗、ECC、XID、进程占用。GPUOOM如何定位和解决？考察点：batchsize、KVCache、量化、PagedAttention、显存泄漏、并发限制。NCCL超时或卡住如何排查？考察点：NCCL_DEBUG、网络、RDMA、拓扑、驱动、IB、防火墙、MTU。6.3模型推理与优化vLLM的核心优化是什么？考察点：PagedAttention、ContinuousBatching、KVCache、PrefixCaching。如何降低首Token延迟TTFT？考察点：模型量化、批处理、缓存、Prefill/Decode分离、硬件、网络。如何提升吞吐并控制成本？考察点：动态批处理、并发、量化、GPU共享、自动扩缩、Spot实例。6.4训练与微调基础设施LoRA和QLoRA的区别？考察点：低秩适配、量化、显存、精度、训练成本。Checkpoint如何设计？考察点：频率、存储、版本、断点续训、一致性、清理策略。分布式训练常见故障？考察点：NCCL、数据不均、掉卡、OOM、慢节点、网络抖动。6.5监控、可观测与SRE大模型服务应监控哪些指标？考察点：QPS、并发、TTFT、TPOT、E2E、错误率、Token用量、GPU利用率、显存。如何设计SLO？考察点：可用性、延迟、错误率、成本、告警分级、错误预算。线上推理服务突然变慢，怎么处理？考察点：先止损、看监控、查变更、查GPU、查网络、查下游、回滚、复盘。6.6RAG、Agent与数据RAG服务运维关注什么？考察点：向量库、Embedding、召回率、延迟、索引更新、缓存、权限。向量数据库如何选型？考察点：Milvus、Qdrant、Weaviate、pgvector、规模、延迟、成本、运维复杂度。Agent调用工具失败如何排查？考察点：超时、鉴权、重试、幂等、日志、Trace、限流、安全。6.7安全、合规与成本如何防止Prompt注入？考察点：输入过滤、系统提示隔离、工具权限、输出审核、沙箱、审计。如何管理模型与数据权限？考察点：RBAC、Vault、KMS、审计、脱敏、PII、数据分级。如何降低大模型推理成本？考察点：量化、批处理、缓存、共享GPU、自动扩缩、模型路由、小模型替代。6.8系统设计题设计一个支持1000并发的大模型推理平台。考察点：网关、鉴权、限流、调度、vLLM集群、KVCache、监控、扩缩、容灾。设计一个企业级RAG知识库平台。考察点：数据接入、清洗、Embedding、向量库、检索、重排、权限、更新、评估。设计一个多租户GPU训练平台。考察点：K8s、Volcano、Slurm、配额、优先级、存储、网络、审计、计费。7.实操考核任务任务一：部署vLLM并压测目标：在[K8s/单机]部署[模型名称]，完成API压测。交付物：部署文件、压测报告、监控截图、优化建议。评分点：部署正确、并发设置、TTFT/TPOT、GPU利用率、错误处理。任务二：GPUOOM排障目标：给定OOM日志，定位原因并解决。交付物：排障记录、根因、修复方案、预防措施。评分点：日志分析、显存计算、量化/批处理、复现与验证。任务三：K8sGPU多租户调度目标：配置两个团队共享GPU集群，限制配额并保证优先级。交付物：YAML、RBAC、ResourceQuota、测试结果。评分点：隔离性、公平性、可观测性、安全。任务四：线上事故模拟目标：模拟推理服务延迟升高，要求30分钟内恢复。交付物：处理时间线、根因、回滚/修复、复盘报告。评分点：止损速度、排查逻辑、沟通、复盘质量。8.评分标准与录用建议8.1评分维度与权重维度权重说明技术基础20%Linux、网络、K8s、GPU、Python推理与优化25%vLLM/TGI/Triton、量化、批处理、延迟系统设计20%架构、高可用、扩缩、多租户实操与排障20%故障定位、恢复、自动化安全/成本/SRE10%合规、成本、稳定性软技能5%沟通、协作、责任心8.2评分定义分数定义建议5远超预期，可定级更高强烈录用4超过预期，独立胜任录用3符合预期，需少量指导可录用/备选2低于预期，有明显短板不录用1不符合要求不录用8.3录用建议总分≥4.0：强烈推荐录用，可考虑高一级定级；总分3.5-3.9：推荐录用；总分3.0-3.4：备选，需结合团队缺口；总分<3.0：不录用。9.面试官规范结构化面试：使用统一题库和评分表，避免随意提问。证据记录：记录候选人原话与行为，避免主观印象。追问技巧：使用STAR法：情境、任务、行动、结果。避免歧视：不询问婚育、宗教、地域等无关问题。保密义务：不泄露公司机密、模型细节、客户数据。时间控制：按时开始结束，留出候选人提问时间。独立打分：面试官先独立评分，再合议，避免相互影响。10.培养与考核10.1入职30/60/90天计划阶段目标30天熟悉环境、权限、监控、部署流程60天独立处理常见告警、部署推理服务90天独立负责模块、优化一项指标、完成复盘10.2季度考核指标服务可用性≥[99.9%]；P95TTFT≤[500ms]；P95E2E≤[3s]；GPU利用率≥[60%]；事故数≤[X]；自动化覆盖率≥[X%]；成本下降[X%]。11.附录模板附录A：岗位JD模板岗位名称：AI大模型运维工程师岗位职责：负责大模型推理/训练平台部署、监控、优化与稳定性；负责GPU/K8s/网络/存储等基础设施运维；负责vLLM、TGI、Triton等推理服务调优；负责监控告警、SLO、事故处理与复盘；负责安全、权限、成本与容量管理。任职要求：[X]年以上运维/MLOps/AIInfra经验；熟悉Linux、Python、K8s、Docker；熟悉GPU、CUDA、NCCL、RDMA者优先；熟悉vLLM、TGI、Triton、TensorRT-LLM者优先；具备良好的沟通与协作能力。附录B：面试评估表候选人岗位级别面试官日期[姓名][岗位][级别][姓名][日期]维度权重得分证据技术基础20%[1-5][记录]推理与优化25%[1-5][记录]系统设计20%[1-5][记录]实操与排障20%[1-5][记录]安全/成本/SRE10%[1-5][记录]软技能5%[1-5][记录]总分100%[分数][结论]附录C：入职清单账号、权限、VPN、堡垒机；GPU集群、K8s、监控、日志平台访问；代码仓库、CI/CD、模型仓库；安全培训、合规培训；导师分配、30/60/90天计划。附录D：日常巡检清单GPU利用率、显存、温度、XID；推理服务QPS、TTFT、TPOT、错