（计算机应用技术专业论文）基于中文框架语义网的信息抽取技术研究.pdf

中 文 摘 要 随着因特网的普及和发展，社会的信息总量呈指数级增长。用户要精确地找到所需信息变得非常困难，往往面对着从搜索引擎中查找出的大量的信息而不知所措。为此，人们希望可以得到一种高质量的信息抽取方案，提供准确，简洁的信息来源，而不至于在信息的海洋中苦苦查找。信息抽取的主要任务是把信息点从各种各样的文档中抽取出来，然后以统一的形式集成在一起，从而更使用户在海量的信息中迅速准确地获得所需信息。信息抽取技术是智能信息处理的重要研究课题之一，有着广阔的应用前景。 本文首先介绍了信息抽取的研究背景、发展状况，研究了信息抽取的主要技术，并分析了信息抽取的研究意义。由于中文文本机器理解工作还处于起步阶段，不能达到应用的水平，基于这一不足之处，利用cfn在语义信息标注方面的优势对文本加入语义信息，使文本处理粒度变细，以提高抽取质量。于是提出了一种信息抽取的方法基于汉语框架语义网的信息抽取。 本文通过将cfn和信息抽取技术相结合构造了一个基于汉语框架语义网的教材内容提要信息抽取系统。此方法以文本的语义特征向量作为信息抽取的基础，通过神经网络方法构造的包装器对语料进行训练学习生成抽取规则.最后结合目标模板抽取出所需信息。这种方法避开语法分析，对语义元素搭配形式相对规范的领域具有一定的普遍适用性。实验结果表明，基于中文框架语义的信息抽取方法具有相对较高的准确率。 关键词: 信息抽取，汉语框架语义网，包装器，神经网络，抽取规则 abstract with the popularization and development of the internet, the total information of society raised exponentially. it is difficult for user to find the information accurately, and to find out what to do about a lot of information which are found from the search engine. to this end, it is hoped can be a high-quality information extraction program to provide an accurate, concise source of information, but not hard to find in the ocean of information. the main task of information extraction is to extract the points of information which then integrated with the unify form from a variety of documents, so as to enable users to obtain the necessary information quickly and accurately of the information in the mass information extraction technology is one of the important research topics of intelligent information processing, with wide application prospects. this paper presents the background, history of information extraction studies of the main techniques of information extraction, and analysis the significance of information extraction. the work of machine understanding of the chinese text is still in its initial stage, can not achieve the level of application. based on the inadequacies of the current techniques, it makes use of the advantage of the cfn semantic tagging to deal with the text with small particle and to improve the extraction quality by adding semantic information in the text. therefore it proposes a method of information extraction information extraction based on chinese. this paper constructs references content resume information extraction system based on cfnintegrating frame semantic technology and information extraction technology. the semantic eigenvectors are suggested to be the base for information extraction, the corpus are trained and templates semantic eigenvectors are automatically obtained by using the wrapper that constructed by neural network, finally the technology extracts the needed information with the target templates. processing at a finer granularity level, the method has a universal appeal for information extraction in domains showing strong semantic rules. the results of experiment show that, the method of information extraction based on cfn has relatively higher accuracy. key words: information extraction, chinese framenet, wrapper, neural network, extraction rules 第一章 引言 1 第一章 引言 随着因特网的普及和发展，社会的信息总量呈指数级增长。用户要精确地找到所需信息变得非常困难，往往面对着从搜索引擎中查找出的大量的信息而不知所措。若能将这些信息收集在一起，用结构化形式存储，那将是有益的。于是信息抽取应运而生。 信息抽取(information extraction,简称 ie)1的主要任务是把信息点从各种各样的文档中被抽取出来，并以结构化的形式描述信息，供信息查询、文本深层挖掘、自动回答问题等应用，为人们提供有力的信息获取工具。近十年来，信息抽取逐步发展成为自然语言处理领域的一个重要分支，正越来越体现出它在领域内的重要性和应用性。信息抽取系统可以看作是把信息从不同文档中转换成数据库记录的系统，成功的信息抽取系统将把互联网变成巨大的数据库。 1.1 信息抽取研究概述 1.1.1 信息抽取的发展状况 从自然语言文本中获取结构化信息的研究最早开始于 20 世纪 60 年代中期，这被看作是信息抽取技术的初始研究，它以两个长期的、研究性的自然语言处理项目为代表。其中之一是美国纽约大学开展的 linguistic string 项目开始于 60 年代中期并一直延续到 80 年代。另外一个相关的长期项目是由耶鲁大学在 20 世纪 70 年代开展的有关故事理解的研究。 从 20 世纪 80 年代末开始，信息抽取研究蓬勃开展起来，这主要得益于消息理解会议 muc(message understanding conference)2的召开。正是 muc 系列会议使信息抽取发展成为自然语言处理领域一个重要分支，并一直推动这一领域的研究向前发展。 从 1987 年开始到 1998 年，muc 会议共举行了七届，它由美国国防高级研究计划委员会 darpa 资助。 muc 的显著特点并不是会议本身， 而在于对信息抽取系统的评测。在每次 muc 会议前，组织者首先向各参加者提供样例消息文本和有关抽取任务的说明，然后各参加者开发能够处理这种消息文本的信息抽取系统。在正式会议前，各参加者运行各自的系统处理给定的测试消息文本集合。由各个系统的输出结果与手工标注的标准结果相对照得到最终的评测结果。最后才是所谓的会议，由参与者交流思想和感受。后来，这种评测驱动的会议模式得到广泛推广，如 1992 开始举行的基于中文框架语义网的信息抽取技术研究 2 文本检索会议 trec3等。 至今， 已经有不少以信息抽取技术产品为主的公司出现， 比较著名的有： cymfony公司4、bhasha 公司5等。他们开发的信息抽取系统已开始了局部的应用。国内的乐思软件公司也开发出乐思蓝鲸信息抽取系统(bwies)6，主要目标就是解决网络信息的采集问题。为国内外许多客户提供了几百次网络信息采集服务，目前居于世界领先水平。乐思网络信息采集系统的主要功能为：根据用户自定义的任务配置，批量而精确地抽取因特网目标网页中的半结构化与非结构化数据，转换为结构化的记录，保存在本地数据库中，用于内部使用或外网发布，快速实现外部信息的获取。 1.1.2 信息抽取的主要技术 中文信息抽取方面的研究起步较晚，主要的研究工作集中在对中文命名实体的识别方面，在设计实现完整的中文信息抽取系统方面还处在探索阶段。目前，国内外有许多学者都在参与信息抽取方面的工作，并且已经取得了一定的成果，综合起来，主要有知识工程的方法和自动训练的方法，并出了相应的评价方式7。 1. 知识工程方法 知识工程方法主要靠手工编制规则使系统能处理特定知识领域的信息抽取问题，这种方法通过对知识领域有深入的了解的知识工程师编制规则。系统通过知识工程师编制的规则来进行信息抽取。对于一个输入的文字串，借助于规则，采用模式匹配方法来实现对各个层次和粒度信息的识别和抽取。比方说进行命名实体识别、实体属性抽取、实体关系抽取和事件抽取。但此方法所需的知识工程师有时找不到，且开发的过程可能非常耗时耗力。 2. 自动训练方法 自动训练方法不一定需要如此专业的知识工程师。系统主要通过学习已经标记好的语料库 获取规则。任何对该知识领域比较熟悉的人都可以根据事先约定的规范标记语料库。经训练后的系统能处理没有见过的新文本。这种方法要比知识工程方法快，但需要足够数量的 训练数据，才能保证其处理质量。 1)ie 系统中模式库和模式匹配功能相分离。按照模式匹配方法实现的一个完整的 ie 系统有两个功能模块组成: 模式学习模块和模式匹配模块。前者从标注和未标注的语料中学习出模式并将之放到一个模式库中，后者从模式库中取出模式并进行实际的信息抽取。 2)采用机器学习方法8自动获取模式。一般地，要学习出这些模式，需要手工标注规模较大的语料；而标注大规模的语料费时费力，于是为了减轻的用户的劳动并第一章 引言 3 降低对他们技能的要求，改进后的机器学习方法只是要求用户将文档集合分为相关和不相关的两类，然后就能自动地从中学出相关的信息抽取模式；而目前最新的做法是只要求用户提供几个可以轻易想到的有代表性的信息抽取模式，相应的模式学习方法就可以从一个未经分类的文档集合中学出更多的模式。 3)采用部分句法分析代替完全句法分析。在学习生成信息抽取模式和使用学出的模式来指导信息抽取的过程中，均要用到句法信息，所以需要句法分析功能的知识。部分句法分析器仅完成对句中名词短语、动词短语、介词短语等组块的识别，因而分析的正确率高、运行速度快且能够满足信息抽取的功能要求。而完全句法分析器的分析争取率降低、运行速度较慢。 4)采用语法约束信息和语义约束信息来表达信息抽取模式并用之指导信息抽取，例如针对从自由文本中进行英文事件的信息抽取，人们设计了各种各样的模式表达方式。在这些模式的表示中 充分利用了句法信息和语义信息的概括和约束作用。 3.评价指标 信息抽取技术的评测9起先采用经典的信息检索(ir)评价指标，即召回率(recall)和查准率(precision)，但稍稍改变了其定义。经修订后的评价指标可以反映 ie 可能产生的过度概括现象(over-generation),即数据在输入中不存在，但却可能被系统错误地产生出来(produced)。 就 ie 而言，召回率可粗略地被看成是测量被正确抽取的信息的比例,而查准率用来测量抽出的信息中有多少是正确的。计算公式如下： p=抽出的正确信息点数/所有抽出的信息点数 r=抽出的正确信息点数/所有正确的信息点数 两者取值在 0 和 1 之间，通常存在反比的关系，即 p 增大会导致 r 减小，反之亦然。 评价一个系统时，同时考虑 p 和 r,但同时要比较两个数值，毕竟不能做到一目了然。许多人提出合并两个值的办法。其中包括将 f 值定义为二者的加权平均值或调和平均值，这样用 f 一个数值就可以看出系统的好坏。 1.2 信息抽取的研究意义 信息抽取作为自然语言处理领域中最活跃的研究分支之。在研究方面，主要侧重于以下几方面：利用机器学习技术增强系统的可移植能力、探索深层理解技术、篇章分析技术、多语言文本处理能力、web信息抽取以及对时间信息的处理等等。在应用方面，信息抽取应用的领域更加广泛，除自成系统以为，还往往与其他文档处基于中文框架语义网的信息抽取技术研究 4 理技术结合建立功能强大的信息服务系统。其涉及到多学科领域的交叉合作，主要包括：信息的组织、存储、数据库、异构数据源的集成和人工智能等技求，信息抽取技术的研究与发展和这些相关领域的发展是息息相关的，同样的，信息抽取技术的研究也能推动相关科研领域的发展。因此，信息抽取是计算机科学与技术和信息科学相结合的前沿课题，具有前瞻性和创新性，既有重要的学术价值，又有很强的实际应用背景和社会经济效益。 1.3 论文的组织结构 论文结构安排如下： 第一章：引言部分，介绍了信息抽取的概念、任务、发展状况、主流技术和评价方式，并介绍了论文各章节的内容安排。 第二章：介绍框架语义学的理论、汉语框架语义知识库(cfn)和 cfn 语义标注的方法。 第三章：选用教材内容提要为研究领域，并确定信息抽取模板，最后对基于 cfn信息抽取的特点和模型进行分析，为后续章节做准备。 第四章：重点阐述了基于神经网络算法在 cfn 语义框架信息抽取系统的实现中的作用和实现方式。 第五章：本章设计了一个基于框架语义标注的信息抽取系统，对教材内容提要语料的信息抽取进行了实验，并对实验结果进行了分析。 第六章：总结本文的研究工作。包括其创新及优点，以及不足之处，并对未来的工作进行了展望。 第二章 中文框架语义网(cfn) 5 第二章 中文框架语义网(cfn) 2.1 语义网简介 语义网10这个哲学范畴最早在 1991 年由 neches 等人提出： “给出构成相关领域词汇的基本术语和关系，以及利用这些术语和关系构成的规定这些词汇外延规则的定义。 ”之后，便在国外引起了众多研究人员的关注，并在计算机及相关领域得到了广泛的应用。目前广泛使用语义网系统工程有：wordnet、hownet 和 framenet 等。 (1)wordnet11 wordnet 是由 princeton 大学的心理学家，语言学家和计算机工程师联合设计的一种基于认知语言学的英语词典。它不是光把单词以字母顺序排列，而且按照单词的意义组成一个“单词的网络”。它是一个覆盖范围宽广的英语词汇语义网。名词，动词，形容词和副词各自被组织成一个同义词的网络，每个同义词集合都代表一个基本的语义概念，并且这些集合之间也由各种关系连接。 wordnet 采用区别性语义表征，给出了同义词之间的各种语义关系，包括上下关系，反义关系，整体-部分关系等等。不同于其他语义网，wordnet 的语义知识表示有两个特点：同义关系是其重要的基本单位；不同词类之间的组配约束关系(比如动词跟名词之间组合的复杂关系)在 wordnet 中几乎没有涉及。 (2)hownet hownet1213是一个以汉语和英语的词语所代表的概念为描述对象， 以揭示概念与概念之间以及概念所具有的属性之间的关系为基本内容的知识库。 hownet 涵盖两个主要内容： “概念”与“义原” 。 “概念”是对词汇语义的一种描述。每一个词可以表达为几个概念。 “概念”是用一种“知识表示语 言”来描述的，这种“知识表示语言”所用的“词汇”叫做“义原” 。 “义原”14 是用于描述一个“概念”的最小意义单位。所有的概念都可以分解成各种各样的义原。 与 wordnet 不同，hownet 并不是简单的将所有的“概念”归结到一个树状的概念层次体系中，而是试图用一系列的“义原”来对每一个“概念”进行描述。 hownet 一共采用了 1500 义原， 这些义原分为以下几个大类： event |事件； entity |实体； attribute |属性； avalue|属性值； quantity |数量； qvalue |数量值； secondaryfeature|次要特征；syntax|语法；event-role|动态角色；eventfeatures|动态属性。 (3)framenet framenet（简称fn）15是美国加州大学伯克利分校于1997年开始构建的基于真基于中文框架语义网的信息抽取技术研究 6 实语料库支持的计算机词典编撰工程，目前framenet已构建800个语义框架，包括10000个词汇，其中6100多个词汇被完全标注，并已标注135000多个例句。以动词、名词和形容词为主，覆盖相当广的语义领域。其中每个框架均包括以下五个部分16： (1)定义：大部分的定义来自简明牛津词典(concise oxford dictionary)第l0版。 (2)例句：来自语料库，由语言学家精选，并手工标注说明。 (3)索引：列出属于同一语义框架的其他词目，以及与该框架存在语义关系的相关框架，按字母顺序排列。 (4)框架元素句法实现表：列出某一词目所有的核心及边缘框架元素、各自的句法体现及标注例子的数目。 (5)配价模式表： 列出词目可能出现的配价模式、 各模式中框架元素的词组类型(如np、vp)和句法功能(如ext、obj、comp)及标注例子的数目。 此外，框架网中的每个框架都与其他词汇资源相链接，包括wordnet的synset和comlex次范畴化框架。课题组还开发了一个强大的数据库查询工具framesql，能够帮助使用者实现多个搜索参数的结合查询，包括框架名称、框架元素名称、语法功能等。例如，可以查询名称为“惩罚”的框架元素以介词短语形式出现的任意框架的所有句子。 framenet 的理论基础是框架语义学1718。 该理论是由美国菲尔摩(fillmore c j )提出的研究词语意义和句法结构意义的方法。 菲尔摩从计算机科学中引人 “框架” 的概念，建立框架语义学(frame semantics)。词义是用框架来描写的。词语可以通过其所在的语言结构，按照一定的原则或方式选择和突出基本的语义框架的某些方面。 框架语义学的中心思想是词语的意义的描述必须与语义框架相联系。要理解词语的意义，就必须首先具备概念结构，即框架语义的知识，而这些知识通常同一些情境如：实体、行为模式、社会制度背景等相关。框架中涉及的各种参与者、外部条件和其他概念角色，称为框架元素(frame elements)。词语的意义是由语义框架显示出来的；进入语句后，按照一定的原则，选择和突出基本的语义框架的某些方面。词语的框架语义描述包括三方面工作：首先是看哪些词语含义相近、语义搭配属性(配价属性)基本相同，将其归入一类(即一个框架)，明确给出这些词语共有的语义角色(框架元素)； 然后， 向外， 描述该框架和其他框架之间的概念关系(如继承关系、部分和整体关系、领域范围关系等)；向内，分别描述每一个词语，其框架元素的句法表达方式，即句法语义结合方式(我们称它为“框架式”)。这种将词汇意义的描述同一定的语义框架相联系的方法，使得研究者从词汇层面进行概念抽象，将具有第二章 中文框架语义网(cfn) 7 共同认知结构、支配相同类型的语义角色的一类词语集中用一个框架描述，同时构建框架与框架之间的静态、动态的复杂关系。 2.2 framenet 的特色 2.2 framenet 的特色 框架语义学是格语法19的进一步发展，是对格语法的具体化和系统化。冯志伟指出， “由于语言中句法功能和语义结构之间的对应关系因单词的不同而不同，因此需要针对具体的单词来描述句法功能和语义结构之间的对应关系，建立描述句法和语义结构的框架” ，框架网路正好提供了这样的一种细致描写的模式。框架网络对语义角色的命名是基于情景的，颗粒度细小；同时，语义框架对情景的细致描写可填补句子表层所隐含的语义知识。框架网络有望把信息处理向前推进一步。 framenet数据库内部对词语的释义和一般词典相似， 来自简明牛津词典(concise oxford dictionary,10th edition)或 framenet 成员的创造。 与一般词典不同的是，framenet 为每一个词语的每一个义项(即一个词元(lexical unit)提供多重标注例句。而且，这些例句(每个词元约 20 个)尽可能显示出该词元的所有可能的句法语义结合方式。 例句来自真实的自然语言语料库，而不是由语言学家或者词典编辑者创造的。framenet 语料库主要来源于 100 万次的大不列颠国家语料库(british national corpus (bnc),该语料库规模大，体裁平衡(评论，教材，广告，小说，教义，等等)，但是缺少很多美国英语的特殊表达。于是，framenet 还使用美国新闻文本，由语言学数据协会(linguistic data consortium)提供，最近又得到美国国家语料库(american national corpus)的最新版本，将投入使用。 framenet 是一个框架一个框架地编写的，而不像传统词典一个词一个词地编写。每一个词元都和一个语义框架联系起来，进而和该框架的其他词元联系起来。这使得framenet数据库更像一个词汇分类汇编(thesaurus),把语义相近的词语汇集在一起。 framenet 中一个框架涉及多个词元，用同一个框架的框架元素集合进行标注；反过来，一个多义词代表多个词元，属于几个不同的框架，即用不同的框架元素进行表示，有了这样的信息，一个应用系统就有可能区分出同一个词形在不同的使用环境中的不同意义。与基于格语法的语义分析方法相比，framenet 提供的框架元素数量多、类型细化，突出了框架的个性，在语义表示深度上具有明显的优势。 基于中文框架语义网的信息抽取技术研究 8 2.3 汉语框架语义网 cfn 汉语框架语义网 (chinese framenet,简称cfn)20-22是基于对国内外语义知识库构建现状的考察，在山西大学刘开瑛教授主持下，成立专门课题小组，以fillmore的框架语义学为理论基础、以加州大学伯克利分校的framenet为参照,以汉语真实语料为依据研究构建的一个语义知识库。 cfn 由框架库、词元库和句子库三部分组成。 2.3.1 cfn 框架库 框架库(frame database)以框架为单位，对词语进行分类描述，明确给出框架的定义和这些词语共有的语义角色(框架元素)，并进而描述该框架和其他框架之间的概念关系。 框架库包含：(1)每一个框架的基本定义；(2)给出框架元素，描述了框架元素和出现环境，通常配有例句；(3) 该框架和其他框架间的关系；(4)该框架包含的词元。 如包含框架如表1： 表1 包含|inclusion 定义 部分包含在整体中，部分指集合体的一部分或简单实体的一个组成部分。 部分par 组成整体的成分或某一部分。 核心框架 整体tot 以一个集合或单位形式出现的复杂的实体，部分以组成部分的形式隶属于这个整体。 对比项con 此框架元素指的是整体中包含的其他要素。 频率fre 此框架元素确定整体包含部分的频率。 目的pur 此框架元素指的是某些暗示的导致整体包含部分的原因。 非核心框架 亚区sub 此框架元素指的是整体的下一级，这一级中包含着部分。 词元 包含v,容纳v,含有v,包括v,涉及v,组成v,有v,含v,分为v 2.3.2 cfn 词元库 词元库中每一个词元的词义是独立描述的，根据其所属的框架对相应句子进行标注形成标注报告，该报告利用软件工具自动汇总出各个框架元素的句法实现情况和词元的语义搭配模式。 cfn 的每一个框架可以包含多个词元，也可只包含一个词元，甚至没有词元。但反过来，从词元到框架，一个词元可以对应一个框架也可以对应多个框架（即多义词） 。 区分这些框架最根本的标志是框架元素的特点， 它是一种结构化的语义解释，第二章 中文框架语义网(cfn) 9 有了这些信息，一个应用系统就有可能区分出同一个词形在不同的使用环境中的不同意义。 2.3.3 cfn 句子库 cfn句子库中的句子标注语料来源于“121篇阅读理解文本” 和“北京大学ccl 现代汉语语料库”。在为词元选取句子时，选择不同的语义搭配模式，保证句子库的多样性。 cfn句子库中的句子，都是首先从语料库中抽取出包含目标词的例句，然后确定目标词所在的框架名，最后根据框架的定义，给框架元素所在的成分标记框架元素、短语类型和句法功能三种信息。 2.3.4 cfn 语义标注 在词元的“框架”下，cfn首先对词元所在的语义框架进行整体释义，说明框架可能涉及的核心元素，以及各元素之间的主要句法关系，这一部分相当于传统词典的做法；随后，cfn就框架中所能出现的各种框架元素分别举例分析。框架元素被分为核心和非核心，例句涵盖了规则和不规则用法，均按先后顺序排列。在例句中，不同的元素用不同色块标注，大部分附有配价模式说明，部分还包含词汇搭配和其他限制性搭配。 针对同一词元由于不同词性和不同语义框架而产生的多个词元之间的语义和语法差异，cfn通过“框架元素句法实现表”和“配价模式表”进行语法信息汇总。在表格中，不同色块标示不同的框架元素，标准缩略词注明各元素的词组类型和语法功能，并特别标注了各种搭配模式出现的频率，从而区分核心、边缘或规则、不规则用法。通过比较同一词形不同词义的词条报告，就可把握该词汇在不同义项下语法功能的差异。 举例说明cfn语义标注: 以句子“全书共分11 章。 ”为例，经cfn 标注后为 。其中tgt 代表谓语核心动词“共分” ，它属于包含框架，除了“共分” ，还有“包含、包括、含有、分为、分、涉及、组成、涵盖”等其他词元也属于此框架。表示作为名词短语np 和主语subj 的成分“全书”在包含框架中做核心框架元素-整体tot,同理，表示作为名词短语np 和宾语obj 的成分“11 章”在包含框架中做核心框架元素-部分par。那么通过cfn 标注后，就把整句话中各语义角色都明确化了。 基于中文框架语义网的信息抽取技术研究 10 2.4 本章小结 本章主要介绍框架语义学理论和中文框架语义网(cfn)的基本情况，包括框架库、句子库、词元库以及cfn标注的方法。 第三章 基于 cfn 的信息抽取分析 11 第三章 基于 cfn 的信息抽取分析 3.1 基于 cfn 的的语义分析 基于cfn的的语义分析是把语义处理看作是特定的计算操作，它不仅包含了语义模型的特征化，而且提供了从形式上描述语义清晰性的框架。基于cfn的信息抽取采用语义分析方法，这种方法的优点在于用统一的语义分析指导信息抽取，即以语义分析为主要思想指导信息抽取。各阶段只考虑语义方面的因素，使分析过程大为简化。 传统的自然语言处理主要分为词、语法、语义、篇章、语用等不同的抽象级别，实行分层处理，并认为高层的处理是建立在低层处理基础之上的。信息抽取无须作深层的语义分析，因而抛弃了篇章、语用分析的桎梏。尽管如此，信息抽取并没有完全摆脱自然语言模型的影响，许多基于规则的信息抽取仍要进行语法分析，而把语义分析置于辅助地位。 3.1.1 语法分析引起的语义缺失 语法分析可视为高度抽象的语义分析，原因在于语法分析的基础是同性标注，而词性标注是一种高度抽象的语义标注。例如， “牡丹”和“老虎”两个词，经过逐步的语义概括，在顶层可抽象为“事物” ，即词性中的名同。词性标注作为一种高度抽象的语义标注，至少引起以下负面影响23。 其一，词性标注本身引起了语义的缺失。例如， “牡丹”和“老虎”两个词在向上一层的语义归类中，保留了“植物”和“动物”之间的区别。但是，当两者最终归到词性的层次名词上时，它们之间的“植物”和“动物”区别消失了。 其二，在语法分析时，当多个具有相同词性的词语相连构成一个大的语法单元时，由于各词语在词性上是无区别的，当需要在相邻的词语中抽取其一时，就产生一定的困难。例如，多个名词联结在一起构成一个大的名词词组，当要抽取某一特定语义的词语时，就需要借助其他的方法来完成。 其三，在表达方式比较单一的领域中，描述不同对象的语句往往具有相同的语法结构，语句表达上的差别在语法分析中消失了。例如，当要抽取的信息与非抽取信息用同一语法模式来表达时，作为信息抽取有效信息源之一的语法分析也就失去了本来的意义。 3.1.2 基于框架语义的信息抽取的特点 基于框架语义的信息抽取技术研究是以利用汉语框架语义知识进行语义标注的基于中文框架语义网的信息抽取技术研究 12 教材内容提要语料库为抽取源，构造目标抽取模板，从而抽取出文本中读者关心的信息点，是基于cfn的信息抽取技术在图书领域的重要实践。与传统的信息抽取技术相比，本文研究的信息抽取技术有其自身特点： 其一，基于汉语框架语义网对文本进行语义标注，挖掘文本深层的语义信息，能够更好地服务于信息抽取技术研究。对于其他诸如阅读理解、信息检索等信息处理的研究，此技术同样也具有一定的科研和应用价值。 其二，基于框架语义的信息抽取中，以经过cfn语义深加工的语料为构建基础资源，以语义角色为构建核心，摆脱了传统基于词构建方法的局限性，使信息模式的构建上升到语义级别。与传统的基于词的信息模式构建方法相比，其抽象程度更高，对语料的限定条件更弱， 具有更强的灵活性和健壮性。 3.2 基于 cfn 的信息抽取模型分析 3.2.1 目标模板的设计 结合中文框架语义网的研究现状，本文选取教材内容提要作为研究领域，分析这类文本的内容，并构建了如表 2 所示的信息抽取模板。 槽（slot） 功能说明 教材名称 教材的名称 内容 教材各个章节的主要内容 适用范围 教材可适用于的院校和人员 学时 教材所包含的学时 参考书籍 教材编写时参考使用的书籍 附件 教材附带的习题 答案 光盘等 表 2 信息抽取模板 3.2.2 语义特征向量的模型分析 基于 cfn 的信息抽取技术，首先对文本的句子进行 cfn 语义角色标注，然后使用特征向量（v1,v2,vn）表示每一个句子，其中 vi表示所采用的第 i 个特征。利用 cfn 标注后产生的语义来进行量化处理，构建语义特征向量2425，其特征模型分析如下： (1)句子在段落中的位置：大量语料表明，位于段首和段尾的句子往往比较重要。句子位置通过计算词在文本中位置的百分比来表示。最后我们的目标是估算出目标框架在段落的位置的一个大的范围，进行信息抽取。 第三章 基于 cfn 的信息抽取分析 13 (2)句子的语义度量：依据每个 cfn 标记的权值，给出句子的一个基本的语义度量序列。如： 。其中对主语“本书”分别标记了 ent，np，subj，这三个对应的权值就可以表征为主语的语义度量了。 (3)特征词的出现：作为特定的信息抽取，特征词会经常性地出现，如本研究中的“学时”一词。当文本中出现特征词的时候，利用建立特征词集的方法， 来对待抽取句进行类别初步判定，以最终进行抽取规则的选择。 (4)句子之间的语义距离：所谓句子之间的语义距离是指句子之间语义的相似性，这样可以判定句子在目标框架中所属的类型。 3.2.3 语义特征向量的构建 本文通过分析cfn标注文本的特点，把具有完整cfn语义的句子转换为10维的向量，实现文本的向量化。10维的向量有8维是cfn分量，其余分别是位置分量和特征词分量。 (1) 位置分量：假设全文数据为一个长度为n的列表，那么对应的词语在文本中的位置权重为0-1 之间的一个值。位置权重为a，其计算公式为：a=pos/length,其中pos为词语在文本数据中的位置，在预处理后，对应为一个数值。length为文本预处理后的长度信息。该权重主要用来定义位置信息，由目标框架，可以预测其位于目标框架中的位置。 (2) 主语分量：由三个分量构成，主语权重在本研究中具有十分重要的作用，因为它有基于cfn语义标注的三个方面内容：语义角色，短语类型，句法功能，其中语义角色分量用来标明核心词元属于哪个cfn框架。 如：“ent-np-subj 本书”中ent表示的语义是cfn中属于某类框架的核心元素，np表示名词短语，subj表示主语。为了简化分析同时也为保证分析的效果，对于多个主语确定为并列主语。在多个主语中进行聚类分析，产生一个综合的主语权。 (3) 谓语分量：由两个分量组成，主要来自cfn代表核心动词tgt的标注权值和其属性值。如：tgt=属于某类，由tgt和“属于某类”的权值构成。 (4) 宾语分量：和主语类似，也由三个分量组成，对于多个宾语的情况，同样采用类似主语分量分析的方法进行聚类综合。 (5) 特征词分量：由一个分量组成，如果该句子中不存在特征分量，那么该分量值为0； 如： “本书可作为本科大学生的教材” 。为了将此句的信息抽取到“适用范围”基于中文框架语义网的信息抽取技术研究 14 槽26中，则选定“生”为特征词再进行识别抽取。 3.3 本章小结 本章选用教材内容提要为研究领域，并确定信息抽取模板，最后对基于 cfn 信息抽取的特点和模型进行分析。通过本章的论述对信息抽取系统的实现提供了比较深的理论基础。 第四章 基于 cfn 的信息抽取 15 第四章 基于 cfn 的信息抽取 4.1 基于 cfn 的信息抽取包装器 4.1.1 包装器模型 包装器27是一个程序，是一种软件构件，负责将数据和查询请求把文本中存储的信息从特定的信息源中抽取出相关内容，并以特定形式加以表示并储存起来，以方便进一步的处理。 因此，一个包装器可看作是一类文本到该文本所含元组集合的函数。它由一系列的抽取规则以及应用这些规则的计算机程序代码组成。包装器的两个优点：一是提高了从某一特定信息源获取相关信息的能力；二是能把不同信息源的信息整合到数据库中，用通用查询语言即可查找信息。 包装器一般有三个部分：规则库、规则执行模块和信息转换模块。包装器的抽取模型如图1所示： 图1 包装器的抽取模型 由上图可以看出，包装器的工作流程是从规则库中找到所需的信息抽取规则传递给规则执行模块，规则执行模块将此抽取规则与输入文本相结合，抽取出用户所需信息，并把该信息输入到信息转换模块。信息转换模块将被抽取出来的信息转换成特定的存储格式。其中规则库和规则执行模块之间的作用是相互的，即表示在规则执行模块中执行得到的新的规则也要加入到规则库中，这样规则库在包装器的整个学习过程中不断地充实起来，为后期的信息抽取做好了铺垫工作；还有规则执行模块和信息转换模块之间同理也有着相互学习的过程，时刻维持抽取规则库的更新。 4.1.2 包装器的生成 传统的信息抽取方法，是使用包装器来抽取文本中感兴趣的数据。由于包装器所需的信息模式识别知识的获取是一个费时费力且需要较高智能的工作，因此目前输入文本 抽 取 出 的信息 包装器 规则执行模块规 则库 信息转换模块其他信息系统 基于中文框架语义网的信息抽取技术研究 16 信息抽取研究工作的重点之一就是探索如何能够较为容易的获得构造一个包装器所需规则的有效方法28。 tsimmis工具29中的包装器需要人工来书写抽取规则。规则被放在专门的文件中，规则的形式是variables，source，pattem。其中variables保存抽取结果，source保存输入，pattern保存了数据在source中的模式信息。variable可以用作后面的规则的source。文件中最后一个规则执行结束后，variable中保存了最后的抽取结果。这种需要人工书写规则的方法，费时、费力，而且容易出错，不易维护。 xwrap系统30中的包装器采用了半自动化的方法来获取规则。 它提供了友好的人机交互界面，用户可以根据系统的引导来完成规则的编写。这意味着在包装器编码过程中不需要专业知识，而且比手工编码少产生错误。但是，用这种方法也需要对新的文本进行重新的学习，因为这种系统不能自己学习新的文本结构，也不能处理旧文本的结构变化。 全自动包装器31的生成利用机器学习的技巧，开发学习算法，设计出从非常简单到相对复杂的包装器。即使是全自动的方法也需要人工专家的少量参与。系统必须通过学习阶段，从例子中归纳出规则。 4.2 结合语义知识的神经网络技术 4.2.1 神经网络的设计实现 神经网络的设计包括以下几方面: (1)分层结构 一般来说，所有的神经网络都有相似的拓扑结构。神经网络中的处理单元可以分成称为层的不相交子集，在同一层中的神经元具有相同的传递函数。 输入层：输入神经元只接受从外部环境到达的输入。在本系统中，输入神经元接受教材内容提要语料。 输出层：神经元把信号从系统输出，这些输出即可直接影响系统。在本系统中，输出层输出的是由神经网络构造的包装器学习得到的规则，而且规则的多少，规则精度的高低直接影响系统的抽取性能。 隐藏层：是那些输入与输出都在系统中的单元，对于外界来说，它是看不见的。输入层接受从外部环境到达的输入，产生输出。继而这个输出被用于隐层的输入。这个过程一直持续到满足某个特定条件或直到从输出层输出到外界。本系统中，这部分用来实现包装器。包装器中各模块之间有属于自己的输入进而产生相应的输出。 第四章 基于 cfn 的信息抽取 17 (2)神经元之间的排列方式 不同层神经元之间的连接方式；以及同层神经元之间的连接方式；神经元接受输入和产生输出的方式；连接权值的学习规则。 (3)连接方式的选用 本系统采用全连接的方法，即第一层的神经元与第二层所有的神经元都有连接。设输入元有n个神经元，输入单元mi到输出单元的权重是wm,输出单元的阈值是k ,则输出单元的输出函数为： n-1 hjf(mixik) i=0 4.2.2 学习算法 学习是基本的认知活动，是经验与知识的累积过程，也是对外部事物前后关联的把握和理解过程，以改善系统的行为能力学习的目的是通过有限个样本的学习找到隐含在例子背后的规律。通过学习解决问题是神经网络的一个主要特点。 学习和训练几乎对所有的神经网络来说都是最基本的。网络的权值和阈值是变量，可以动态地进行调整，产生一定的输出。神经网络的学习与训练就是通过调节网络的权值和阈值来实现的34。根据学习过程的组织和管理方式不同，学习算法可以分为有指导的学习(supervised training)和没有指导的学习(unsupervised training)。 本系统实现基本神经网络结构的算法描述如下： (1)网络结构设定：主要有输出层，输入层； (2)状态初始化：用较小的随机数对网络权值和阈值进行随机生成； (3)输入学习样本向量 xp(p=1,2,3n)，和目标向量 tp(p=1,2,3n)； (4)开始学习，对样本进行如下操作： (a)计算输出层各神经元输出； (b)计算训练误差； (c)调整权值和阈值； (5)判断是否结束，否则进入(4)； (6)停止，保存学习权值和阈值供上一层单元使用。 在系统中使用上述训练方法，实现权值的学习，权值的学习算法基于这样一种原理，输入原始语义向量，结合目标模板，然后得到一系列的权值，用这个权值去基于中文框架语义网的信息抽取技术研究 18 识别文本中的数据。学习阶段目的是根据样本文本定义抽取信息的模式33和产生抽取信息的规则库，由于在抽取阶段中采用了基于分界符、文本特征、规则的方法和包装器的思想，因此学习阶段所产生的模板信息和规则库都是为抽取阶段服务的。这些方法和规则是针对于某一特定领域的信息抽取，因此在学习阶段中生成这些规则时，对于用户来说应该具有方便、快速和准确的特点。 4.3 语义规则和信息抽取的算法设计 4.3.1 语义规则的提取算法 基于规则的信息抽取35是一种知识工程的方法。在早期，一般以手工的方式设置抽取规则。随着应用范围的扩大，手工获取规则成为知识工程的瓶颈。大量的语料为规则的自动学习和获取提供了可能，这使得机器学习的方法在规则的(半)自动获取中得到广泛应用，基于规则的方式成为当前信息抽取的主流。 规则的生成首先是读取标注后的文本信息，依据文本的 cfn 标注，把文本按照句子转换为一个 10 维的向量，实现文本的向量化，向量化是以 cfn 标注为基础实现的，10 维的向量有 8 个来自 cfn 分量，其余两个向量分别是位置向量和特征词向量。生成文本向量以后，可以开始进行规则的提取了，规则的提取采用如下算法： (1)读取初始训练语句向量，以它为初始规则,随机生成权值和阈值； (2)读取下一语句； (3)构建一个基本神经网络； (4)设定神经网络的输入为该语句，输出为目标规则； (5)神经网络自学习，计算神经网络的权值 q(1,2,.n)和阈值 k； (6)判定保留的权值和阈值，以及规则； (7)更新权值，阈值和规则； (8)是否训练结束，否转至(2)； (9)结束学习，保存权值，阈值和该规则。 4.3.2 目标模板信息的抽取 有了基本的神经网络和生成的规则， 就可以进行信息抽取了， 具体算法描述为： (1)读取标注语句； (2)向量化，获取语句向量xp(p=1,2,3n)； (3) 匹配规则方法如下： 1）初始化判断方差b为无穷大； 第四章 基于 cfn 的信息抽取 19 2）读取一条槽语义特征向量； 3）计算该槽语义特征向量和语句向量的方差a； 4）如果ab，那么该语句的槽更改为新的；否则，跳到下一句； 5）是否完成，若没完成则跳到2） ； 6）结束，如果该语句和该槽的方差在允许范围内则输出该语句到目标槽中。 4.4 本章小结 本章首先讨论了神经网络和神经元的基本结构，进一步深入研究了神经网络的学习算法，用其构造包装器以生成抽取规则，并结合目标模板将所需信