《大模型技术导论》教学大纲

课程英文名LargeModelTechnology课程代码03M0294学分2．0总学时32理论学时32实验学时0上机学时0实践学时0课程类别专业教育课程课程性质选修先修课程人工智能导论、机器学习、人工智能数学基础、深度学习适用专业人工智能开课学院信息工程学院《大模型技术导论》教学大纲注：课程类别是指公共基础课/学科基础课/专业课；课程性质是指必修/限选/任选。一、课程地位与课程目标（一）课程地位大模型技术是当前人工智能领域的一个重要突破，它极大地扩展了人工智能的应用范围和能力。随着研究的深入和技术的进步，大模型技术将继续推动人工智能向更高层次发展。本课程是人工智能专业重要选修课程，面向中、高年级本科生。课程着重培养学生掌握大模型技术的基本知识和技能，具备独立进行大模型环境部署和协同开发的能力，为未来从事人工智能相关领域的研究和开发工作奠定坚实基础。该课程在涵盖了大模型的基本原理、架构设计和训练范式和具体优化方法，同时探讨大模型在实际应用中的挑战和前景，也包含部分前沿现实问题和解决技术，从基本概念理论出发，在聚焦理解核心概念的同时，也注重大模型核心技术实践要点，以理论结合实践培养学生与时俱进的技术能力。（二）课程目标该课程应达到的预期学习结果（ILO，IntendedLearningOutcomes）如下所示：ILO-1：了解大模型技术的基本概念、架构设计及其训练范式，掌握大模型的核心原理和优化方法；理解大模型在人工智能领域的发展背景及其重要意义，熟悉当前大模型技术在研究和应用中的热点问题和发展前景。ILO-2：掌握大模型的训练、开发和评估技能，熟悉主流的大模型框架的使用方法；具备针对实际问题设计、训练和优化大模型的能力，能够独立完成相关技术实践并分析其效果和局限性。、LO-3：具备解决大模型在实际应用中面临的挑战的能力，理解大模型在不同领域（如自然语言处理、计算机视觉等）中的实际应用方法；培养技术创新能力和团队协作意识，增强学生的社会责任感和实践精神，为人工智能技术的发展和推广贡献力量。二、课程目标达成的途径与方法课程主要以课堂教学与课后实践相结合，具体通过课堂教学、课堂讨论、课外作业、论文报告和团队作业等途径和方式来达成。课程目标达成的途径与方法如下表所示。课程目标课程目标达成的途径与方法ILO-1课堂教学、课堂讨论、课外作业、论文报告ILO-2课堂教学、课外作业、论文报告ILO-3课堂教学、大作作业课程目标与相关毕业要求的对应关系本课程支撑的毕业要求如下：毕业要求3：设计/开发解决方案：能够设计针对人工智能复杂问题的解决方案，设计满足特定需求的智能系统，并能够在设计环节中体现创新意识，考虑社会、健康、安全、法律、文化以及环境等因素。毕业要求3-1：能够针对人工智能领域复杂工程问题进行需求分析。毕业要求4：研究：能够基于人工智能科学原理并采用科学方法对复杂工程问题进行研究，包括设计实验、分析与解释数据、并通过信息综合得到合理有效的结论。毕业要求4-2：能够基于人工智能科学原理和科学方法对复杂工程问题制定实验方案，构建实验系统进行实验。毕业要求4-3：能够对实验结果进行分析和解释，通过信息综合得到合理有效的结论。课程目标对毕业要求的支撑关系如表1所示。课程目标毕业要求课程目标对毕业要求的支撑程度（H、M、L）毕业要求3-1毕业要求4-2毕业要求4-3ILO-1MILO-2HILO-3H表1课程目标对毕业要求的支撑关系注：1.支撑强度分别填写H、M或L（其中H表示支撑程度高、M为中等、L为低）。四、课程主要内容与基本要求课程内容将涵盖大模型的发展历程、经典模型架构介绍、提示词工程、参数高效微调等方面。此外，课程还将结合行业前沿，介绍大模型技术中Agent和检索增强在各个领域的创新应用案例。1.语言模型基础与发展知识点：语言模型发展的几个重要里程碑模型，包括基于统计方法的语言模型、基于RNN的语言模型、基于transformer的语言模型等。基本要求：掌握不同语言模型的基础模型原理、特点与优势，语言模型的采样方法以及内外测评方法；强调大模型技术在国家重大需求中的重要作用，培养学生的科技报国情怀和责任意识。2.大语言模型架构与预训练知识点：大语言模型的几种参数结构和特点。基本要求：掌握大语言模型的主流架构类别、特点与演进，重点掌握Encoder-only架构、Decoder-only架构和Encoder-Decoder架构的典型模型，以及非Transformer的其他模型，并大参数大数据训练产生的学习范式--预训练+精调。要求同学掌握主流大模型架构的特点与实现方式，并充分理解预训练+精调范式的学习步骤和应用方法。3.提示词工程知识点：提示词工程的定义与意义，通过提示词技术引入上下文学习、思维链、提示词技巧以及相关应用包括，agent和数据集成等。基本要求：掌握提示词工程的核心概念和工程化应用技术；讨论在技术发展中如何平衡科技进步与人文关怀，确保技术发展符合社会伦理和法律法规。4.参数高效微调知识点：参数高效微调的下游任务适配与优势，重点分析参数高效微调的具体方法，包括参数附加方法、参数选择方法和低秩适配方法等，引入常用的PEFT实践和应用。基本要求：理解不同调参方法的优劣点，掌握参数高效微调的核心逻辑和工程化实践技术，并培养学生发现问题和解决问题的创新精神。5.大模型的最新应用知识点：大模型应用中的Agent框架与检索增强生成（RAG）的原理与优势，重点分析Agent在多任务协调和动态交互中的实现方式，以及RAG如何通过外部知识检索提升生成质量。基本要求：理解Agent和RAG的核心机制，掌握相关技术的应用场景与实现方法；通过相关应用案例学习，培养学生基于实际需求设计高效解决方案的能力，以及服务国家科技创新需求的使命感和责任感。五、课程学时安排章节号教学内容学时数学生任务对应课程目标1语言模型基础与发展4作业或论文报告ILO-12大语言模型架构与预训练7作业或论文报告ILO-1，ILO-23提示词工程6作业或论文报告ILO-1，ILO-24参数高效微调7作业或论文报告ILO-1，ILO-2，ILO-35大模型的最新应用（agent与RAG）8团队作业ILO-1，ILO-2，ILO-3六、考核方式及成绩评定考核内容考核方式评定标准（依据）占总成绩比例过程考核考勤与作业、论文报告或答辩情况项目验收或答辩打分40%期末考核大作业作业验收或答辩（可包含演示视频）项目验收或答辩打分60%考核类别考查成绩登记方式百分制七、课程目标达成度评价方法学生成绩的评定由过程考核和期末考试两部分的成绩组成，其中，过程考核占40%，期末考试占60%。考核内容考核方式评定标准（依据）占总成绩比例支撑课程目标过程考核含到课率、课堂讨论发言、作业和论文报告等点名和发言记录论文报告作业批改成绩40%ILO