自然语言处理（第7章）教案 机器阅读理解

机器阅读理解参考学时4学时。教学目标（能力要求）理解机器阅读理解任务：能准确描述抽取式问答的任务形式，即给定篇章和问题，从原文中定位答案片段；能区分不同任务类型（如单跳/多跳、是否可回答），并说明评价指标的计算逻辑及其对模型性能的反映机制。掌握双向注意力流模型：能阐述其三层核心结构的设计原理；能解释“上下文到问题”与“问题到上下文”双方向注意力的计算流程，并分析该机制如何缓解传统注意力的信息压缩损失，保留原始上下文的时序细节。掌握R网络模型：能说明其基于门控注意力机制的问题感知上下文表示方法；能描述自匹配注意力模块如何利用问题信息增强上下文表征，并能推导指针网络用于答案起止位置预测的输出层结构。理解阅读验证模型：能指出其在初步答案生成后引入二次验证模块的必要性；能说明验证器如何结合原始篇章、问题与候选答案进行一致性判断，通过重打分或二分类机制过滤不可靠答案，提升系统鲁棒性。掌握回溯式阅读模型：能描述其“初读—推理—回溯校验”的多轮交互机制；能分析模型如何通过迭代更新注意力分布或答案表示，在复杂推理（如多跳、对比、否定）场景中修正初始错误。掌握预训练机器阅读理解模型：能说明如何预训练语言模型适配至阅读理解任务，包括输入格式构造、答案边界预测头的设计；能分析预训练带来的上下文敏感表示优势，并能对比微调策略在基准数据集上的性能差异。教学重点和难点教学重点：双向注意力流模型三层核心结构。教学难点：预训练语言模型适配至阅读理解任务。教学主要内容机器阅读理解任务（60分钟）形式化表达基于RNN和交互表示的框架基于预训练模型编码双向注意力流模型（60分钟）字符嵌入层词嵌入层上下文嵌入层注意力流层与建模层R-Net网络（60分钟）基于注意力的门控循环网络基于门控注意力机制的循环网络阅读验证模型（30分钟）顺序架构交互式架构混合架构回溯式阅读模型（30分钟）外部前置验证模块内部前置验证模块后置验证模块教学过程与方法机器阅读理解任务（60分钟）系统介绍机器阅读理解任务的形式化表达通用框架，引导学生关注其逻辑实现。形式化表达包括问题-篇章对的输入建模、答案跨度的数学定义、以及基于概率分布的答案起止位置预测机制。基于RNN和交互表示的框架介绍对问题与篇章的独立编码、注意力机制构建问题感知的上下文表示、以及融合层对多源信息的整合策略。基于预训练模型编码系统讲解基于预训练模型编码的机器阅读理解通用范式，引导学生关注其底层逻辑实现。重点分析如何将问题与篇章拼接为单一序列输入Transformer编码器。双向注意力流模型（60分钟）字符嵌入层包括字符级卷积与最大池化提取形态特征，并分析其与词向量的融合方式。词嵌入层涵盖预训练词向量的加载与微调策略，以及精确匹配特征如何增强词级别对齐信号。上下文嵌入层引导学生关注其底层逻辑实现，即通过双向LSTM对融合后的词表示进行上下文敏感编码，保留原始时序信息，为后续注意力交互提供丰富语境。注意力流层与建模层通过“问题到上下文”与“上下文到问题”双方向注意力计算稠密交互矩阵利用双向LSTM对增强后的上下文向量进行高层推理，最终输出用于答案预测的向量序列。R-Net网络（60分钟）基于注意力的门控循环网络系统讲解R-Net中基于注意力的门控循环网络通用结构，引导学生关注其底层逻辑实现，包括如何利用问题注意力权重动态聚合问题表示，并通过门控机制控制信息流入循环单元，实现问题引导的上下文编码。基于门控注意力机制的循环网络通过自匹配注意力使上下文表示回溯自身以强化关键信息，再经门控循环网络进行多轮精炼，最终由指针网络解码答案起止位置，形成端到端可训练的抽取式问答流水线。阅读验证模型（30分钟）简要介绍阅读验证模型整体架构。顺序架构先由主阅读器生成候选答案，再由独立验证器按固定流程评估其可信度，理解串行结构带来的错误传播风险与计算开销。交互式架构包括验证模块与阅读模块的多轮信息交换（如交叉注意力）、联合优化目标设计，以及如何通过动态反馈提升答案一致性。混合架构融合顺序与交互思想，在初步预测后引入轻量级交互验证，平衡效率与精度，典型如集成重排序与置信度校准模块。回溯式阅读模型（30分钟）外部前置验证模块引导学生关注其底层逻辑实现，即在主阅读器运行前引入外部知识或规则过滤不可回答问题，减少无效推理。内部前置验证模块系统讲解回溯式阅读模型中内置前置验证模块的设计原理，包括在编码阶段嵌入可回答性分类头，通过共享表示同步判断问题是否可答，