自然语言处理（第6章）教案 信息抽取

信息抽取参考学时6学时。教学目标（能力要求）命名实体识别：掌握命名实体识别的基本概念与方法，能区分不同类型的命名实体（如人名、地名、组织机构名等），并能利用规则、词典和机器学习模型进行实体标注。隐马尔可夫模型：理解隐马尔可夫模型的基础理论及其在序列标注任务中的应用，能够构建简单的HMM模型用于命名实体识别或词性标注任务。条件随机场：掌握条件随机场（CRF）的基本原理及其在序列标注中的优势，能够设计和训练CRF模型以提高命名实体识别的准确性。实体链接：了解实体链接的任务定义和技术挑战，包括实体消歧和实体对齐。能够利用图数据库或知识图谱技术将识别出的命名实体链接到特定的知识库条目上，并能评估链接结果的质量。联合实体识别与消歧：掌握如何同时进行实体识别和消歧的方法，理解多任务学习框架下的联合模型设计原则。关系抽取：熟悉关系抽取的概念、类型及其应用场景，能够使用监督学习、远程监督等方法从非结构化文本中提取实体间的关系信息。事件抽取：理解事件抽取的目标是从文本中自动发现和提取结构化的事件信息，包括触发词、论元角色等。能够采用序列标注、分类等多种方法实现事件抽取任务，并能评价所提方法的有效性和鲁棒性。预训练信息抽取模型：了解预训练模型在信息抽取领域的最新进展，掌握BERT、RoBERTa等预训练语言模型的微调策略及其在命名实体识别、关系抽取等任务上的应用。教学重点和难点教学重点：隐马尔可夫模型的基础理论及其在序列标注任务中的应用。教学难点：隐马尔可夫模型、多任务学习框架下的联合模型教学主要内容命名实体识别（20分钟）任务简介基于规则的NER模型基于传统机器学习的NER模型基于预训练的NER模型实体链接（100分钟）通用架构（30分钟）候选实体生成与排序（20分钟）研究方向（50分钟）联合实体识别与消歧（15分钟）零样本实体链接（15分钟）零样本实体链接——挑战（20分钟）关系抽取（120分钟）基于规则的方法（20分钟）基于统计的方法（20分钟）基于神经网络的方法（20分钟）弱监督关系抽取（20分钟）小样本关系抽取（20分钟）开放域关系抽取（20分钟）事件抽取（35分钟）事件检测（27分钟）融合基于RNN的句子表示的事件检测模型（8分钟）小样本信息抽取（45分钟）引言（7分钟）基于元学习的小样本信息抽取（38分钟）预训练信息抽取模型（45分钟）UIE模型结构（30分钟）统一建模结构（12分钟）数据预训练（3分钟）教学过程与方法命名实体识别（20分钟）任务简介系统讲解命名实体识别任务基于规则的NER模型系统讲解基于规则的NER模型基于传统机器学习的NER模型系统讲解基于传统机器学习的NER模型基于预训练的NER模型系统讲解基于预训练的NER模型实体链接（100分钟）通用架构（30分钟）系统讲解实体链接通用架构，引导学生关注其底层逻辑实现候选实体生成与排序（20分钟）深入剖析候选实体生成与排序在实体链接中的作用研究方向（50分钟）联合实体识别与消歧（15分钟）系统讲解联合实体识别与消歧的通用建模架构，引导学生关注其底层逻辑实现，包括指称项边界检测、候选实体生成、上下文-知识联合表征以及全局一致性约束等模块的协同机制。零样本实体链接（15分钟）系统讲解零样本实体链接的通用推理架构，重点剖析如何利用实体描述、类型和结构化属性构建可泛化的语义表示。零样本实体链接——挑战（20分钟）系统讲解零样本实体链接面临的核心挑战及其系统性成因，引导学生关注其底层逻辑瓶颈，进而理解当前研究在动态知识注入、大模型增强推理与高效检索机制等方面的应对思路关系抽取（120分钟）基于规则的方法（20分钟）引导学生关注其底层逻辑实现，包括人工设计的句法模式（如依存路径模板、关键词触发规则）、模式匹配引擎的执行流程，以及规则系统在精度与泛化能力之间的根本性权衡。基于统计的方法（20分钟）系统讲解基于统计的关系抽取方法通用架构，引导学生关注其底层逻辑实现，涵盖特征工程（词性、命名实体、依存关系等离散特征）、分类器选型（如SVM、最大熵模型）以及特征-标签联合建模中的概率推断机制，理解从局部上下文到关系判别的映射逻辑。基于神经网络的方法（20分钟）包括词嵌入与位置编码的融合策略、上下文编码器（CNN/RNN/Transformer）对语义关系的捕获机制、池化与分类头的设计原理，以及训练中梯度如何驱动关系语义的隐式学习。弱监督关系抽取（20分钟）重点剖析远程监督（DistantSupervision）假设下的噪声标签生成机制、多示例学习（MIL）框架中的包级表示与注意力降噪策略，以及如何通过软标签校正提升模型鲁棒性。小样本关系抽取（20分钟）系统讲解小样本关系抽取的通用学习架构，引导学生关注其底层逻辑实现，包括原型网络、匹配网络等元学习框架如何构建关系类别的可迁移语义原型。开放域关系抽取（20分钟）涵盖无预定义关系集合下的关系聚类、关系描述生成、开放关系模板挖掘等核心环节，理解如何结合无监督表示学习与语义相似度度量实现关系类型的动态发现与归纳。事件抽取（35分钟）系统讲解事件抽取的通用任务框架与技术体系，引导学生关注其底层逻辑实现，包括事件触发词识别、事件类型分类、论元角色标注及事件要素整合等核心子任务的耦合关系；重点剖析流水线式与联合建模范式的优劣，理解事件本体对模型设计的约束作用。事件检测（27分钟）系统讲解事件检测的通用建模架构（27分钟），引导学生关注其底层逻辑实现，涵盖触发词候选生成、上下文语义编码、类型分类打分三大模块。深入分析基于特征工程的传统方法与神经网络方法在表示能力上的本质差异，强调位置编码、实体信息注入、多粒度上下文融合对检测性能的关键影响，并结合错误案例讨论歧义触发词的消解策略。融合基于RNN的句子表示的事件检测模型（8分钟）系统讲解融合基于RNN的句子表示的事件检测模型，引导学生关注其底层逻辑实现，具体包括：利用双向LSTM对词序列进行上下文感知编码，通过注意力机制或最大池化聚合句子级表示，再结合触发词位置特征输入全连接层进行事件类型预测。小样本信息抽取（45分钟）引言（7分钟）基于优化的元学习：通过双层优化使模型在少量梯度更新后快速适配新任务，剖析内循环与外循环的梯度传播路径。基于元学习的小样本信息抽取（38分钟）原型网络：通过支持集中同类样本的嵌入均值构建“关系/实体原型”，以余弦相似度实现查询样本分类，强调嵌入空间的语义可分性设计；匹配网络：引入注意力机制计算查询样本与支持样本的加权匹配得分，解析外部存储器与注意力读取的实现细节。预训练信息抽取模型（45分钟）UIE模型结构（30分钟）UIE采用生成式统一框架，将NER、关系抽取、事件抽取等任务转