计算机科学与技术专业研究生《高性能计算系统性能分析与调优》教学设计

  计算机科学与技术专业研究生《高性能计算系统性能分析与调优》教学设计

一、课程前沿理念与顶层设计

本课程立足于计算机科学与技术学科前沿，面向研究生阶段的学习者，旨在培养其在高性能计算领域的核心创新能力与复杂工程问题解决能力。课程设计超越了传统计算机体系结构与并行计算知识的简单传授，深度融合了系统思维、科学方法论与工程实践，强调在真实世界约束下对计算系统进行建模、剖析、诊断与优化的完整工作流。课程核心理念是“性能即视角”，引导学生将性能指标作为理解计算机系统各层次（从应用算法、编程模型到硬件微架构）相互作用关系的关键透镜，从而建立起跨层次、跨组件的系统性优化能力。课程贯彻“能力导向教育”与“问题驱动学习”原则，以来自科研与工业界的真实计算密集型问题为载体，通过“分析-假设-实验-验证”的迭代循环，训练学生严谨的科学探究习惯与工程实践伦理。课程同时关注高性能计算领域的可持续发展，引导学生思考能效优化、异构计算生态以及面向新兴计算范式的性能可移植性等前沿议题，为其在未来学术界或产业界从事高性能计算相关研发工作奠定坚实的理论与技术基础。

二、学情深度分析与教学目标体系

学习者为计算机科学与技术及相关专业全日制硕士研究生，通常已完成本科阶段的计算机组成原理、操作系统、并行计算或算法分析等先修课程，具备基础的编程能力与计算机系统概念。然而，其知识体系常呈现碎片化特征，缺乏将算法特性、程序行为、运行时支持与底层硬件资源动态关联起来的系统性视角。在实践层面，多数学生仅具备使用MPI、OpenMP等基础并行编程接口的经验，但对性能剖析工具链不熟悉，对性能瓶颈的归因分析能力薄弱，优化手段多停留在经验层面。在认知层面，学生习惯于寻求“标准答案”，对于开放性的、多解的性能优化问题可能感到不确定，需要培养其面对复杂系统不确定性时的决策能力与评估能力。

基于上述分析，本课程构建了涵盖知识、能力与素养三个维度的立体化教学目标体系：

知识维度目标：学生能够深入阐述现代高性能计算系统（以多核/众核CPU、GPU、以及CPU-GPU异构系统为代表）的体系结构特征与性能模型；系统掌握性能剖析的基本原理与工具生态；精确认知从应用程序到硬件执行过程中各软件栈层次（算法、编程模型、编译器、运行时、操作系统、微架构）对性能的关键影响机制。

能力维度目标：学生能够独立运用主流性能剖析工具对大规模并行应用程序进行全栈性能分析，精准定位热点函数、通信瓶颈、负载不均、访存低效、指令吞吐不足等问题；能够基于性能数据与系统模型，形成科学的优化假设，并设计实验进行验证；能够综合运用算法重构、数据结构变换、循环优化、通信隐藏、向量化、内存层次优化、任务调度策略调整等多种技术手段，系统性地提升应用程序性能与能效。

素养维度目标：培养学生形成严谨、实证的系统性能观，树立“测量优于猜测”的工程哲学；强化其跨层次抽象与系统集成的思维能力；培育其在高性能计算领域的工程伦理意识，包括对计算资源的高效利用、对代码可维护性与可移植性的考量，以及对开放科学与可重现性研究的尊重。

三、课程内容架构与核心知识图谱

课程内容以“性能优化方法论”为主线，采用“总-分-总”结构进行组织，从宏观方法论切入，深入各关键优化领域，最终回归至复杂系统级的综合优化。

第一部分：性能优化导论与方法论。涵盖性能定义与度量指标、Amdahl定律与Gustafson定律、Roofline性能模型及其应用、性能分析的基本工作流（Instrumentation,Profiling,Tracing）、科学实验设计原则与统计方法在性能分析中的应用。本部分旨在建立统一的概念框架与科学的工作范式。

第二部分：计算子系统性能分析与优化。聚焦于CPU核心与计算单元的效能。内容包括现代CPU微架构深入解读（流水线、超标量、乱序执行、分支预测、功能单元）、指令级并行与向量化优化（SIMD指令集如AVX-512，编译器自动向量化与手工内联汇编、intrinsics编程）、面向缓存层次结构的优化（循环变换技术如分块、融合、交换，数据布局优化如数组结构体与结构体数组）。

第三部分：存储子系统性能分析与优化。深入“内存墙”问题。内容包括内存层次结构原理、缓存一致性协议对性能的影响、内存带宽与延迟测试、访存模式分析与优化（空间局部性与时间局部性提升）、NUMA架构下的数据局部性优化策略、利用非易失性内存等新型存储技术的性能考量。

第四部分：并行子系统性能分析与优化。涵盖进程级与线程级并行。内容包括并行开销分解、强扩展与弱扩展效率分析、负载均衡策略与动态调度、MPI通信模式优化（集合操作算法选择、通信与计算重叠、拓扑感知映射）、OpenMP等多线程编程中的同步开销控制与线程亲和性绑定、异构并行编程模型性能分析。

第五部分：I/O与文件系统性能优化。针对大规模科学计算的数据密集型特征。内容包括并行文件系统原理、I/O访问模式诊断与优化、集体I/O与数据聚合技术、中间数据存储策略、检查点设置对性能的影响与优化。

第六部分：系统级综合优化与前沿专题。集成前述知识，进行全栈优化案例分析。专题包括：面向特定领域加速库的使用与调优、功耗测量与能效优化、云计算环境下的HPC性能波动性与优化、人工智能工作负载的性能特性与优化、性能可移植性编程模型展望。

核心知识图谱以“性能瓶颈”为中枢节点，向外辐射连接“计算密集型”、“内存带宽受限”、“通信密集”、“I/O密集”等瓶颈类型，每种类型进一步关联具体的“分析工具”、“优化策略”与“评估指标”，形成一个动态的、可查询的问题解决网络。

四、教学资源与技术支持环境

理论教学资源：精心编制的讲义与幻灯片，融入大量微观架构示意图、性能剖析截图、优化前后代码对比、数据流图；配套推荐经典教科书与前沿研究论文，构建从基础到前沿的阅读阶梯；提供国内外知名高性能计算中心的技术报告与优化案例库作为扩展学习材料。

软件工具链：构建一体化的性能分析平台，集成命令行与图形化工具。包括：CPU性能计数器采集工具（如perf,PAPI,IntelVTuneProfiler）；MPI程序性能分析工具（如IntelTraceAnalyzerandCollector,mpiP,Scalasca）；GPU性能分析工具（如NVIDIANsightSystems,rocProfiler）；全栈追踪与可视化工具（如Extrae/Paraver,TAU）；Roofline模型生成工具（如EmpiricalRooflineToolkit）。提供容器化部署方案，确保实验环境的一致性。

硬件实验平台：接入具备真实高性能计算节点的小型集群或云化HPC资源。至少配置：多路多核CPU节点，支持AVX-512等高级向量指令集；配备高性能GPU的异构计算节点；高速低延迟互连网络；并行存储系统。通过作业调度系统管理实验任务，模拟真实科研计算环境。

案例库：建设涵盖计算物理、计算化学、计算生物学、计算流体力学、深度学习等领域的基准测试程序与真实科研应用代码片段案例库。每个案例均标注已知的性能瓶颈类型，并提供多层次的优化起点，供学生循序渐进地实践。

五、详细教学实施过程

本课程共计48学时，采用“理论讲授-工具实训-案例研讨-项目实践”四位一体的混合式教学模式。实施过程分为三个阶段。

第一阶段：性能世界观与方法论构建（第1-4周，共计12学时）

第一周：课程导论与性能哲学。开篇以“为何超级计算机上的程序可能比笔记本电脑还慢？”这一悖论引发学生认知冲突。讲授高性能计算的应用驱动力与性能优化的重要意义。系统阐释性能的多元定义，并通过实例说明FLOPS、带宽、延迟、加速比、效率等关键指标。引入Amdahl定律与Gustafson定律，通过小组辩论形式探讨其对并行系统设计的启示。首次介绍Roofline模型的概念框架，作为贯穿全课程的顶层模型。

第二周：性能剖析原理与工具生态。深入讲解性能数据的获取方法：基于采样的性能剖析、基于插桩的代码追踪、硬件性能计数器的原理与解读。对比介绍不同层级（系统、进程、函数、代码行、指令）性能分析工具的原理与适用场景。安排首次工具实训：在提供的基准程序上，使用perf和gprof分别进行采样与插桩剖析，比较两种工具输出的异同，并尝试解读热点函数信息。引导学生思考工具数据的局限性。

第三周：科学工作流与实验设计。正式提出“性能优化科学工作流”：性能建模与假设生成→选择分析工具与数据采集→数据处理与可视化→瓶颈定位与根源分析→制定优化策略→实施优化→评估效果并迭代。重点强调实验设计的控制变量原则、统计显著性检验以及结果可重现性要求。通过一个因实验设计不当导致错误优化结论的反例，强化科学方法论意识。

第四周：Roofline模型实战与应用。详细讲解如何为特定计算核心构建Roofline模型：测量算力峰值与内存带宽峰值，计算算法的算术强度。通过多个典型计算核（如矩阵乘法、STREAM、稀疏矩阵向量乘）的实例，演示如何利用Roofline模型快速诊断其是受计算限制还是带宽限制。安排课堂练习：给定一组算法核的性能数据，学生将其标注在自绘的Roofline图上并进行诊断分析。本阶段末，布置第一个小型分析作业：对一个已知的“内存带宽受限”程序进行性能剖析，用数据验证其瓶颈，并使用Roofline模型进行解释。

第二阶段：核心子系统深度优化与技能内化（第5-12周，共计24学时）

第五至六周：计算优化专题。深入CPU核心微架构，通过性能计数器事件解读流水线停顿、分支预测失败、缓存缺失等微观事件。重点讲授向量化优化：从编译器选项、编程指导语句到手工使用intrinsics函数编写SIMD代码。实训任务：对一个未向量化的循环核，逐步指导其实现自动向量化与手动向量化，并对比性能提升。引入循环变换优化，讲解分块技术对缓存利用率的改善。案例分析：优化一个三维热传导模拟的计算核心。

第七至八周：存储优化专题。系统回顾缓存层次结构，引入缓存无关算法与缓存感知算法的概念。通过工具可视化程序的缓存访问模式。重点讲解数据结构重组（例如从AoS到SoA）对向量化与缓存友好的双重收益。深入NUMA架构，演示numactl工具的使用与线程-内存绑定的性能影响。实训任务：优化一个存在严重缓存冲突的粒子相互作用计算程序。布置第二个综合作业：对一个同时存在计算低效和内存访问低效的程序进行诊断与优化，要求提交完整的分析报告与优化代码。

第九至十周：并行优化专题（上）：进程级并行。深入分析MPI程序的性能轮廓，使用工具可视化通信时间线。优化重点包括：点对点通信中的缓冲区管理、非阻塞通信实现计算通信重叠、集合通信算法的选择与拓扑感知。案例分析：优化一个基于区域分解的并行程序，解决其边界数据交换的通信瓶颈。

第十一至十二周：并行优化专题（下）：线程级与异构并行。分析OpenMP程序中的负载不均、同步开销、伪共享等问题。讲解线程亲和性控制。引入异构计算性能分析，讲解GPU架构特点、核函数性能限制因子、主机-设备数据传输优化。使用NsightSystems分析一个CUDA程序的执行时间线。实训任务：将一个小的CPU循环移植到GPU，并优化其内存访问模式以实现合并访问。

第三阶段：系统集成与综合创新实践（第13-16周，共计12学时）

第十三周：I/O优化与系统全栈视角。分析并行I/O性能瓶颈，介绍MPI-IO与高性能文件系统的使用策略。通过案例说明如何通过聚合小I/O请求、调整文件视图来提升I/O吞吐。引导学生将I/O与计算、通信作为一个整体系统进行权衡优化，例如引入异步I/O或调整检查点策略。

第十四周：前沿专题研讨与行业专家讲座。设置两个前沿议题研讨：一是“人工智能与科学计算的融合：性能挑战与优化”，讨论AI工作负载如Transformer模型训练的性能特性；二是“绿色计算：性能与能效的平衡”。邀请来自国家超算中心或知名企业的专家进行线上讲座，分享大规模实际应用的优化案例与行业最新动态。

第十五至十六周：终极项目实践与成果展示。学生以2-3人小组形式，从课程案例库或自身科研课题中选取一个非平凡的并行应用程序作为优化对象。要求遵循完整的科学工作流，在四周内（包含课外时间）完成从性能剖析、瓶颈诊断、多轮优化到最终评估的全过程。最终提交包含：1)详细的性能分析报告；2)优化过程的迭代记录与实验数据；3)最终版本的源代码；4)一段展示优化前后性能对比的视频或可视化图表。举行项目答辩会，每个小组展示其工作，并接受教师与其他同学的质询。教师点评重点聚焦于方法论的严谨性、优化策略的创新性以及结果的可靠性。

六、教学评估与反馈机制

本课程采用过程性评价与终结性评价相结合、能力导向的多元化评估体系。

过程性评价：课堂参与与研讨贡献、每周的工具实训报告、两个阶段性的综合分析优化作业。实训报告重点评估工具使用的规范性与数据分析的准确性。阶段性作业评估问题诊断的深度、优化策略的合理性与报告撰写的专业性。

终结性评价：终极团队项目。评估维度包括：项目复杂性、分析方法的系统性、优化技术的有效性、团队协作效率、答辩表现。项目成果是否具备可重现性是重要评分点。

反馈机制：建立即时与周期性反馈循环。工具实训中提供一对一指导；作业批改提供详尽评语，指出逻辑漏洞与方法论缺陷；项目中期设置检查点，