面向知识图谱构建的电子战领域语料库建设

面向知识图谱构建的电子战领域语料库建设

目录

编者按............................................................................1

语料库简介........................................................................2

弓I言..............................................................................2

??知识图谱基本概念.............................................................3

1.1.知识图谱介绍..............................................................3

1.2.知识图谱重要特点..........................3

1.3.知识图谱的作用...........................................................4

1.4.知识图谱在人工智能中的应用...............4

??语料库是什么意思.............................................................4

2.1.分类......................................5

2.2.语料库有二点特征........................................................5

????总体框架......................................................................5

????电子战领域本体构建...........................................................7

????本体构建方法步骤.........................7

????电子战领域本体内容.......................................................8

????基于schema的电子战领域语料标注.............................................9

????标注体系设计............................................................10

????电子战领域关系schema构建..........10

????标注标签...........................................................11

????两阶段自动标注模型.......................11

????命名实体识别模型....................12

????关系模式匹配........................12

????语料库实现及质量分析........................................................13

????语料库信息统计..........................................................13

????语料库应用效果...........................15

????结束语......................................................................17

编者按

本文提出了一种基于领域本体的电子战领域语料库构建方法。试验结果表

明，该方法可较好完成语料库构建工作，有助于电子战领域的知识体系梳理及

第1页共17页

语料库建设，可为电子战领域知识图谱构建提供支撑。

语料库简介

语料库构建是领域知识图谱构建的基础步骤和关键环节，高质量的语料能

够提高知识抽取和知识推理等任务的准确率和置信度。目前，电子战领域尚无

公开的语料库，这也成为了电子战领域知识图谱构建的难题之一。鉴于此，提

出了一种基于领域本体的电子战领域语料库构建方法。试验结果表明，该方法

可较好完成语料库构建工作，有助于电子战领域的知识体系梳理及语料库建设,

可为电子战领域知识图谱构建提供支撑。

引言

电子战领域指涉及使用电磁能、定向能和水声能等技术手段，确定、扰乱、

削弱、破坏和摧毁敌方电子信息系统与电子设备，确保己方电子信息系统与电

子设备的正常使用而采取的各种战术技术措施和行动的专业领域。电子战作为

现代战争重要的作战手段，其数据资源规模大且专业性强，而领域知识图谱构

建能够充分利用数据资源，为电子战领域情报处理和频谱管控等提供支撑。面

向知识图谱构建的电子战领域语料库指内容涉及电子战领域并且可提供知识图

谱构建所需基础语料的语料库，包括经过处理的未标注和标注语料。

高质量语料库是知识图谱构建与运用的关键和基础，目前通用领域的语料

库构建较成熟，学术界和工业界具备的大规模标注数据可支撑知识抽取和知识

推理等知识图谱构建技术的研究与应用。但随着专业领域对挖掘数据深层关系

的需求不断增强，通用型知识图谱已无法支撑专业领域智能应用，因此构建垂

直领域知识图谱成为各专业领域的迫切需求。参考军事领域语料库构建方法，

有助于对专业性较强的电子战领域语料库建设进行研究。周彬彬等针对军事语

料实体，提出了••套统i的军事词性标记规范和军事语料标注规范，设计了i

种基于军语词典的军事语料实体特征提取框架；冯鸾鸾等以维基百科中军事领

域的新技术为基点采集语料，制定了一系列军事技术文本的标注规范，并通过

人工标注方式构建了面向国防科技领域的技术和术语语料库。以上研究虽然表

明利用自动标注方法构建高质量大规模语料库是可行的，但由于不同领域的语

料库和语料库构建方法具有其领域特性，使得这些方法难以移植到电子战领域

知识图谱构建中，因此需构建电子战领域语料库以进行面向知识图谱构建与研

第2页共17页

究。

针对现有研究并面向知识图谱构建的语料库建设需求，本文提出了一种基

于领域本体的电子战领域语料库构建方法（本文方法）。设计了电子战领域知识本

体，明确了领域知识的边界和层次结构；设计了基于领域词典的电子战领域源

生数据获取方法，将从互联网爬取的电子战领域新闻、百科词条和学术论文等

非结构化文档作为条令条例、理论著作和战例想定等现有文本资料的补充；根

据领域本体设计标注体系，通过标注少量高质量语料形成种子语料，并通过自

动标注算法迭代获取更多的标注语料-，实现了电子战领域语料库建设以及语料

库统计分析。

知识图谱基本概念

知识图谱又称为科学知识图谱，在图书情报界称为知识域可视化或知识领

域映射地图，是显示知识发展进程与结构关系的一系列各种不同的图形，用可

视化技术描述知识资源及其载体，挖掘、分析、构建、绘制和显示知识及它们

之间的相互联系。

1.1.知识图谱介绍

通过将应用数学、图形学、信息可视化技术、信息科学等学科的理论与方

法与计量学引文分析、共现分析等方法结合，井利用可视化的图谱形象地展示

学科的核心结构、发展历史、前沿领域以及整体知识架构达到多学科融合目的

的现代理论。

1.2.知识图谱重要特点

用户搜索次数越多，范围越广，搜索引擎就能获取越多信息和内容。

赋予字串新的意义，而不只是单纯的字串。

融合了所有的学科，以便于用户搜索时的连贯性。

为用户找出更加准确的信息，作出更全面的总结并提供更有深度相关的信

息。

把与关键词相关的知识体系系统化地展示给用户。

用户只需登录Google旗下60多种在线服务中的一种就能获取在其他服务

上保留的信息和数据。

第3页共17页

Google从整个互联网汲取有用的信息让用户能够获得更多相关的公共资

源。

1.3.知识图谱的作用

在辅助语言理解方面起的作用有：

实体消歧：对文中提到的多义词进行精准判断，如上文提到的苹果案例。

指代消解：对文中的代词做出解释，如他和它。

图谱可以结合各类领域的知识，打造领域型的知识图谱，在大数据分析方

面，工业落地主要应用如下：

推荐：知识图谱中包含了丰富的关联性，可以为推荐系统提供部分信息来

源；比如常见的推荐有电影推荐、音乐推荐。

加入图谱推荐的好处主要是可解释性强，能基于设定好的推荐路径进行精

准推送。

风控：图结构能非常好的与SNA(社交网络分析)理论相结合，对团伙欺诈这

类型的风险能起到非常好的挖掘作用；如洗钱行为可以综合多笔交易、企业信

息等看是否出现资金汇集等。

图的优势在于能跨多度计算，能挖出埋藏较深度的风险关系，比起传统的

侦察手段对团伙作案的风险能摸查得更全面。

1.4.知识图谱在人工智能中的应用

人类的生产力可以分为知识生产力，劳动生产力。人工智能可以从两个方

面加速生产力的提升。

人工智能又可以分为感知型智能，认知性智能，行为智能。一般来讲，计

算机视觉识别，语音识别等识别问题都可以归结到感知性智能中。认知性智能

包含自然语言理解(NLU),自然语言生成(NLG),知识推理(reasoning)等领域。

行为智能主要聚焦在智能体的行动上，一般指的是具有感知和认知能力的机器

人的行为。

语料库是什么意思

语料库是语料库语言学研究的基础资源，也是经验主义语言研究方法的主

要资源。应用于词典编纂，语言教学，传统语言研究，自然语言处理中基于统

第4页共17页

计或实例的研究等方面。

2.1.分类

语料库有多种类型，确定类型的主要依据是它的研究目的和用途，这一点

往往能够在语料采集的原则和方式上有所体现。有人曾经把语料库分成四种类

型：⑴异质的(Heterogeneous)：没有特定的语料收集原则，广泛收集并原样存

储各种语料：⑵同质的(Homogeneous)：只收集同一类内容的语料：⑶系统的

(Systematic)：根据预先确定的原则和比例收集语料，使语料具有平衡性和系统

性，能够代表某一范围内的语言事实；⑷专用的(Specialized)：只收集用于某一

特定用途的语料。

除此之外，按照语料的语种，语料库也可以分成单语的(Monolingual)、双

语的(Bilingual)和多语的(Multilingual)。按照语料的采集单位,语料库又可以分

为语篇的、语句的、短语的。双语和多语语料库按照语料的组织形式，还可以

分为平行(对齐)语料库和比较语料库，前者的语料构成译文关系，多用于机器翻

译、双语词典编撰等应用领域，后者将表述同样内容的不同语言文本收集到一

起，多用于语言对比研究。已经累积了大量各种类型的语料库，如：葡萄牙语

料库、面向文本分类研究的中英文新闻分类语料库、路透社文本分类训练语料

库、中文文本分类语料库、大开放字幕库OpenSubtitles的多语言平行语料数据

(OpenSubtitlesCorpus)>《圣经》双语语木斗库("Bible”bilingualcorpus)、Short

messagesservice(SMS)corpus(短消息服务(SMS)语料)等。

2.2.语料库有三点特征

1.语料库中存放的是在语言的实际使用中真实出现过的语言材料，因此例

句库通常不应算作语料库；

2.语料库是承载语言知识的基础资源，但并不等于语言知识；

3.真实语料需要经过加工(分析和处理)，才能成为有用的资源。

语料库的发展经历了前期(计算机发明以前)，第一代语料库，第二代语料库,

到第三代语料库

??.总体框架

语料库建设包括以下2个步骤：

第5页共17页

1）源生数据建设：包括原始文本资料获取和原始语料生成；

数据资产建设：包括种子语料人工标注利联合语料自动标注。

需说明的是，原始文本资料来源于互联网中电子战相关的学术论文、百科词条

和新闻等公开资源，而领域本体构建用于指导数据资产建设。语料库构建方法

总体框架如图1所示。

网络资源领域本体构建

DDD领域本体

学术百科相关

论文词条新闻

二二W二

源生数据获取数据资产建设

标注模型

解析提取处理训练

正文文本二元组

提取处理标注白动标注

文本

W人工筛选人工筛选

筛选筛选

原始文本」

原始语料种子语料二联合标注

匚资料J一语料.

源生数据数据资产

图1语料库构建方法总体框架

语料质量是语料库构建的关键，低质量语料会对下游任务产生负面影响,

因此从采集到形成数据资产的整个生命周期中均需保证数据具有较高质量。为

确保数据在每个步骤中的可用性、一致性、完整性、合规性和安全性，需对数

据的基本信息、状态和关联关系等进行管理。数据资源管理框架如图2所示。

第6页共17页

索引数据

基础数据词典库预训练语本体库数据元

•网页资源・通用词典言模型库•通用词典•通用数据元

•文本资料•领域词典•通用模型・领域词典•领域数据元

•原始语料•领域模型•应用数据元

•标注语料

源生数据二＞一数据资产一n据产品

•标注体系领目厂

.权威数据：条令条1•知识图谱：电子

例、军语和国军标schema、标注标签和.战领域知识图谱

•非权威数据：理论标注规范

著作、百科词条、战.标注语料：BI。标注

语料、SPO标注语料和

例想定和相关新闻也他标注落刘一J

图2数据奥源管理框架

??.电子战领域本体构建

电子战领域本体是对电子战领域概念的一种描述，是该领域内公认的概念

集合。由于知识具有显著的领域特性，因此领域本体可更合理而有效地进行知

识表示。将本体方法融入语料库构建过程，建立电子战领域知识体系，明确语

料库包含语料的边界、分类和层次结构，形成统一的电子战领域语料标注规范,

从而确保语料库建设的一致性和规范性。

??.1.本体构建方法步骤

目前，本体构建尚无统一标准，现有本体构建方法依据涉及的领域和具体

工程而不同。经典的本体构建方法包括数据建模集成定义(IDEF5)法、七步法、

多伦多虚拟企业(TOVE)法、骨架法、Methontology法和五步循环法等。本文参

考七步法的原则进行本体设计，并根据实际需求适当简化。图3给出了采用统

一建模语言(UML)描述的电子战领域本体构建步骤。

第7页共17页

（明确电子战领域范围一）

（分析军事、电磁和柞战试验领厢D

C整理确定电宣战领域术语］）

（电子战领旅概念设计）（电子战领域关系设计）

（概念及关系的属性设计）

图3电子战领域本体构建步骤

??.2.电子战领域本体内容

电子战领域本体包括领域内的概念、关系、属性、公理和函数。由于原始

资料主要来源于互联网新闻，语料中蕴含的知识偏向于领域实体间的相互作用,

因此本文根据性质和功能对电子战领域概念和关系进行了分类。图4给出了概

念关系分类示例。

第8页共17页

Owt:Thing

任务行动『战场环境/组织机构力量

.「电子战痂一f就藐一

陆地作心平台「海洋作"平台II太空作战平台II空不作战平台

(a)概念分类

(b)关系分类

图4概念关系分类示例

??.基于schema的电子战领域语料标注

电子战领域源生数据主要包括条令条例、理论著作和战例想定等内部资料,

以及互联网上的专业文献、百科词条和相关新闻等，语料来源复杂且质量难以

保证，为了构建电子战领域语料库，需设计一种既能减少人工标注又能保证标

注精度的语料库构建方法。图5给出了采用UML描述的语料库构建方法框架。

第9页共17页

（种子语料标注）

[—：

（设定迭彳弋次数〃X

[4/1

-------------行标注宿料构建）

:U：

__________c命名实林识别）

（放入侍标注语料）/w.二

V7K~'（schen^匹配）

\F

J也

（领域词员扩充）c关系向聚类）

（语淤♦标）

一、

（人工筛杳）

准确率小于限定阈值，^

确率大于限定阈值

（放入语料库二）

[q[

（）

图5语料库构建方法框架

??.1.标注体系设计

??.1.1.电子战领域关系schema构建

开放知识实体关系数量庞大，难以穷举所有实体关系类型，而领域知识通

常具有清晰的层次结构和关联关系，因此可通过构建关系schema（关系模式，也

称关系本体）的方式提高知识抽取精度。选取任务行动、战场环境、人员、电子

战平台、电子战装备和组织机构6类实体的一级和二级概念，以及属性和属性

第10页共17页

值2种实体类型，作为电子战领域关系schema的8类候选实体类型。其中，人

员、电子战平台和电子战装备3类二级概念属于一级概念作战力量，其他均为

一级概念。选取协同、对抗、编成、执行、部署、配置、操作、对应和包含9

类三级关系作为候选关系类型，根据构建的领域本体，共构建16种领域关系模

式。电子战领域关系schema如图6所示。

{Msubject_typeM”组织机构"."predicale":“协同关系"."objeci」ype“：“组织机构”}

!"subjecttype'1”组织机构”,“predicate":“对抗关系"Jobjectjype":“组织机构”}

{"subjecttypc',”组织机构","predicate":“编成关系”,“objccl」ypc"：“组织机构”}

{"subjecttype',”组织机构","predicate":“执行关系”「objectlypc"：“行动任务”}

{"subjecttype**”组织机构”,“predicaie":“部署关系,"objectlype":“战场环境”}

{"subjecttype1,”电子战装备”,“predicale":“配置关系”,"objecl」ype"：“电子战平台”}

{,,subject_typeM”电子战平台”,“predicate":“配置关系",“objccUype":“组织机构”}

{"subjecttype',”人员:predicate":“操作关系”,“objcctjypc":“电子战平台”}

{"subjecttype"“人员","predicate":"操作关系:objcctjypc":"电子战装备”}

{"subjectlype""属性","prcdicaie":“对应关系","objecilype":“属性值”}

{,,subject_typeM”组织机构","predicate"：“包含美系”,“objecllype”:“属性”}

{"subjecttype"”电子战平台”「predicate”:“包含关系”,"objecl_typc”:“属性“}

{"subjecttype""电「战装备丁'predicate”:“包含关系”,"objcc〔type”:“属性"}

{"subjecttype""人员",“predicate”:“包含关系”,"objcc〔jype“：“属性”}

{"subjecttype**”任务行动「'prcdicaie”:“包含关系"Jobjecljype”:“属性"}

{•'subjecttypeM“战场环境","predicate"：“包含关系"Jobjecljype”:“属性”}

图6电子战领域关系schema

??.1.2.标注标签

为平衡知识抽取标度和人工标注的工作量，按照专业性较强、实体关系类

型丰富和文档置信度较高等原则，选取部分专业文献、百科词条和新闻作为种

子语料进行人工标注。标注体系采取实体BIO(B:begin,开始；I：inside,内部;

0：outside,外部)标注，标注工具采用开源工具LittleAnn。标注标签设计应与

电子战领域schema保持一致，同时加入属性和属性值2种实体标签用于实体属

性标注。本文设计了组织机构(0RG)、电子战平台(PLF)、电子战装备(EWE)、

任务行动(ACT)、战场环境(ENV)、人员(PER)、属性(PPY)和属性值(VAL)8类实

体标注标签用于种子语料标注。

??.2.两阶段自动标注模型

为了确保知识抽取的精度，需要大量的标注语料训练模型，若采用人工标

注则费时费力，因此本文设计了一种基于schema的自动标注方法来迭代训冻模

型，从而逐步提高模型精度。该方法采用pipline方式对实体关系进行标注，即

第11页共17页

先进行实体标注，再根据实体标注结果标注实体间关系。该方法便于人工检查

标注结果，减少误差传递。

??.2.1.命名实体识别模型

由于种子语料规模较小，本文采用双向长短时记忆网络+条件随机场

(BiLSTM+CRF)作为基础模型，并通过预训练领域词汇增强嵌入来提高模型在任

务中的表现。实体标注模型如图7所示Q

CRF层

BiLSTMK

]一

嵌入层|领域词汇增强嵌入

图7实体标注模型

模螫输入为Word2vec预训练后的向量表示，中间层为能够捕捉长距离依

赖和上下文信息的BiLSTM模型，并通过CRF层进行模型微调和标签约束。模

型训练中，通过神经网络的反向传播不断更新模型中的所有权重和偏置项，使

损失函数达到最小值，从而提高模型的标签预测效果。该模型对计算资源要求

低，且训练速度比bert等大型预训练语言模型快，更适用于语料库构建的迭代

过程。

??.2.2.关系模式匹配

为提高模型迭代效率，并确保标注精度，在语料库构建过程中采取构建关

系触发词典的方法识用实体关系并进行关系标注。关系标注步骤如图8所示。

第12页共17页

步骤1筛选句子集步骤2触发词提取步骤3关系标注

图8关系标注步骤

首先，通过关系模式匹配筛选包含schema中实体对的句子；然后，通过依

存句法分析提取句子中的触发词，对触发词按照schema的关系类型进行聚类；

最后，经过筛选的实体关系对在原文中进行三元组标注，形成联合标注语料，

并通过人工筛查后存入语料库供下游任务使用。需说明的是，由于相同实体对

间不同的关系具有不同的触发词，因此将具有相同含义或用法的特征词聚集起

来表示同一种关系类型可较好识别实体对间的多元关系。

。?.语料库实现及质量分析

为了说明电子战领域语料库极其构建方法的可用性，对语料库的数据来源、

语料篇数、句数以及实体关系数量及分布等信息进行统计分析，同时设计了知

识抽取试验来验证语料库的应用效果。

??.1.语料库信息统计

语料库信息统计如图9所示。原始资源信息包括专业文献、百科词条和领

域新闻等，其中专业文献通过线下收集，百科词条和领域新闻从8个网站通过

网络爬虫采集，共抓取网页1万余个。经过去重和筛选，共获得文本资料5297

篇，占用空间资源60.1MB。网络资源来源统计如图9(a)所示。

原始文本资料经过数据清洗和分句，去掉长度超出设定范围的句子，共获

得未标注的原始语料35.4MB,初始标注种子语料200篇，包括专业文献及理

论著作50篇、百科词条50条以及领域相关新闻100篇，共有长句1827条，

标注实体8类共324个。随机选取17.7MB原始语料进行标注，经过5轮迭代

构建三元组标注语料，按照精确率P、召回率R却综合指标F1评分对实体与关

第13页共17页

系标注结果进行评价。实体关系迭代标注结果如图9(b)所示。

(a)网络资源来源统计

100

(b)实体关系迭代标注结果

图9语料库信息统计

由图9(b)可见，初始自动标注精度和召回率较低，均低于50%,通过迭代

标注，P、R和F1评分均呈上升趋势，5轮标注结束后，最终实体关系标注精确

率达到84.1%,召回率达到71.3%。

标注完成后，获得专业文献、百科词条和领域相关新闻3类文档“语料统

第14页共17页

计信息如表1所示。

表1语料信息统计表

项目专业文献百科词条领域新闻总数

文档/篇15916323642627

长句/条545514311592822814

实体/个109265717463495

关系/个75322528880518865

图10展示了实体及关系样本分布统计。由二数据来源不均衡，而领域相关

新闻类文本资源是数据来源的主要部分，其实体及关系也呈现不均衡分布。

(a)实体

??.2.语料库应用效果

从下游任务看，面向知识图谱构建的电子战领域语料库在知识图谱构建相

关的命名实体识别、关系抽取、属性抽取和知识推理等任务具有应用价值。本

文通过知识抽取任务来验证语料库的运用效果，从电子战领域语料库中随机选

择1300篇标注语料作为知识抽取任务数据集，命名为EwIE,按照8：2的比

第15页共17页

例划分训练集和测试集，同时选取DUIE2.0和CMelE数据集作为对比。数据集

统计信息如表2所示。

表2数据集统计信息

数据集

项目

DuIE2.0CMelEEwIE

句子/个210000280009149

三元组/个4300007500011085

关系模式/个