（管理科学与工程专业论文）基于CRFs的中文产品评论评价关联对识别研究.pdf

论文原创性声明 本人郑重声明：所呈交的学位论文，是本人在导师的指导下，独立进行研究 工作所取得的成果。除文中已经注明引用的内容外，本论文不包含任何其他个人 或集体已经发表或撰写过的作品成果。对本文的研究作出重要贡献的个人和集 体，均已在文中以明确方式标明。本人完全意识到本声明的法律结果由本人承担。 学位论文作者签名：予尔；i 尧锋 日期：加知年乡月牛日 学位论文使用授权声明 本人完全了解中山大学有关保留、使用学位论文的规定，即：学校有权保留 学位论文并向国家主管部门或其指定机构送交论文的电子版和纸质版，有权将学 位论文用于非赢利目的的少量复制并允许论文进入学校图书馆、院系资料室被查 阅，有权将学位论文的内容编入有关数据库进行检索，可以采用复印、缩印或其 舫篡黧赫糸醛锋新虢蝻学位论文作者签名：糸醛佯 导师签名：对彤勺 日期：加厶年夕月碑日 日期：矽知年夕月二严日 基于c r f s 专业：管理科学与工程 硕士生：陈晓华 指导教师：王茜副教授 摘要 随着信息技术的迅速发展，i n t e m e t 为人们带来丰富的信息资源的同时，在 很大程度上也改变了信息的发布及获取方式。网络产品评论对企业和消费者都将 具有十分重要的意义。它不仅可以使企业能够了解客户对企业及产品的情感倾向 分布，为企业提供重要的商务决策信息；而且对消费者的购买决策也具有重要影 响。然而，由于产品评论数量急剧增加，并且具有非结构化特征，通过人工的方 式难以准确挖掘产品评论信息。如何采用自动分析方法充分挖掘网络评论中的客 户情感信息，已成为网络信息管理领域的研究热点。 本文借助自然语言处理技术、数据挖掘、机器学习、信息检索等领域的理论 与方法，针对传统的评价关联对识别方法中存在覆盖率低、句子结构简单以及无 法解决指代消解等问题，围绕产品评论情感倾向性分析中的评价关联对识别问题 展开了研究，提出了基于条件随机场的产品评论评价关联对的自动识别方法。 首先，建立了产品评论评价关联对识别的条件随机场模型，将评价关联对的 识别问题转化为条件随机场模型的序列标注问题，并且提出了评价关联对识别的 条件随机场模型标注方法。其次，本文提出了基于词信息、词性信息、位置信息、 语义信息、短语结构信息、句法依存关系信息的评价关联对识别的条件随机场模 型的特征构造方法，并构造基于上述六类信息的评价关联对识别条件随机场模型 的特征模板。然后，对基于条件随机场的评价关联对识别系统进行了设计，构建 了评价关联对识别系统结构，并结合系统的各个处理模块详细地设计了使用本文 提出的方法进行评价关联对识别的全过程，包括识别过程中具体的处理方法。最 实验结果表 识别的六类 果，提高关 r e s e a r c ho ni d e n t i f i c a t i o no fe v a l u a t i v er e l a t i v ep a i r si n c h i n e s e p r o d u c tr e v i e w sb a s e do nc o n d i t i o n a lr a n d o mf i e l d s m a j o r ：m a n a g e m e n ts c i e n c ea n de n g i n e e r i n g n a m e ：x i a o h u ac h e n s u p e r v i s o r ：a s s o c i a t ep r o f q i a nw a n g a b s t r a c t w i t ht h er a p i dd e v e l o p m e n to fi n f o r m a t i o nt e c h n o l o g y , t h ei n t e m e tn o to n l y b r i n g sp e o p l er i c hi n f o r m a t i o nr e s o u r c e sb u ta l s ot r a n s f o r m st h e i rw a y t or e l e a s ea n d o b t a i ni n f o r m a t i o n p r o d u c tr e v i e w so nt h ei n t e r n e ta r eo fg r e a ts i g n i f i c a n c ef o r c o m p a n i e sa n dc o n s u m e r s i t c a l l p r o v i d ei m p o r t a n t i n f o r m a t i o nf o rb u s i n e s s d e c i s i o n - m a k i n gb yi n f o r m i n gc o m p a n i e so f t h ed i s t r i b u t i o no fc u s t o m e r s e m o t i o n a l t e n d e n c i e st ot h ec o m p a n yo rt h e i rp r o d u c t s f u r t h e r m o r e ，i th e l p si n f l u e n c e c o n s u m e r s p u r c h a s ed e c i s i o n h o w e v e r , d u et oas h a r pi n c r e a s e i nt h en u m b e ro f p r o d u c tr e v i e w sa n dt h e i ru n s t r u c t u r e dc h a r a c t e r i s t i c s ，i ti s d i f f i c u l tt oa c c u r a t e l y a n a l y z et h ep r o d u c tr e v i e w sb ya r t i f i c i a lm e a n s h o wt oe x t r a c tc o n s u m e r s e m o t i o n a l i n f o r m a t i o no fc o m m e n t si nt h en e t w o r kb yt h em e a n so fa u t o m a t i ca n a l y s i sh a s b e c o m eac e n t r a li s s u ei nn e t w o r ki n f o r m a t i o nm a n a g e m e n ts t u d i e s b a s e do nt h e o r i e so fn l p , d a t am i m n gm a c h i n el e a r n i n ga n di n f o r m a t i o n r e t r i e v a l ，t h ep a p e rr e s e a r c h e so nt h ei d e n t i f i c a t i o np r o b l e mo fe v a l u a t i v er e l a t i v e p a i r si ns e n t i m e n ta n a l y s i so fp r o d u c tr e v i e w s t h i sp a p e rp r o p o s e sa na u t o m a t i c i d e n t i f i c a t i o nm e t h o df o rt h ee v a l u a t i v er e l a t i v ep a i r sb a s eo nc o n d i t i o n a lr a n d o m f i e l d st os o l v et h ep r o b l e m se x i s ti nt h ep r e v i o u ss t u d i e s ，s u c h 够l o wc o v e r a g e ，j u s t f o rs e n t e n c ew i t hs i m p l es t r u c t u r e ，a n a p h o r ar e s o l u t i o na n ds oo n f i r s t l y , ac o n d i t i o n a lr a n d o mf i e l dm o d e lw a sb u i l tt oc o n v e r tt h ei d e n t i f i c a t i o n p r o b l e mo fe v a l u a t i v er e l a t i v ep a i r s t ot h es e q u e n c e l a b e l i n gp r o b l e mo ft h e i i i 一 兰 文一 中一 的一 灯一 于一 基于c r f s 的中文产品评论评价关联对识别研究 c o n d i t i o n a lr a n d o mf i e l dm o d e la n dt h et a g g i n gm e t h o df o rt h ei d e n t i f i c a t i o no f e v a l u a t i v er e l a t i v ep a i r si nt h es e l f - m a d em o d e li sa l s oi n t r o d u c e d s e c o n d l y , b a s e d o nw o r d si n f o r m a t i o n ，p a r to fs p e e c hi n f o r m a t i o n ，l o c a t i o ni n f o r m a t i o n , s e m a n t i c i n f o r m a t i o n ，t h ep h r a s es t r u c t u r ei n f o r m a t i o n ,a n dt h e s y n t a c t i cd e p e n d e n c y i n f o r m a t i o no fp r o d u c tr e n e w s ，t h i sp a p e rp u tf o r w a r dt h ef e a m r ec o n s t r u c t i o n m e t h o do ft h ec o n d i t i o n a lr a n d o mf i e l dm o d e la n di t sf e a t u r e st e m p l a t ew a sb u i l t t h i r d l y ，t h i sp a p e rd e s i g n st h ei d e n t i f i c a t i o ns y s t e mo fe v a l u a t i v er e l a t i v ep a i r s b a s e do nc o n d i t i o n a lr a n d o mf i e l dm o d e la n dp r o p o s e st h ep r o c e s sm e t h o d si ne a c h m o d u l eo ft h es y s t e m t h es y s t e mi n c l u d e sf o u rm o d u l e s ，i n c l u d i n gt h ep r o d u c t r e n e w sp r e t r e a t m e n tm o d u l e ，t h ec r f sm o d e lt r a i n i n gm o d u l e ，m o d e la n n o t a t i o n m o d u l e ，a n de v a l u a t i o nm o d u l e f i n a l l y , w ec o n d u c t e df o u rc o m p a r a t i v ee x p e r i m e n t s w i t hd i f f e r e n tf e a t u r et e m p l a t e s t h er e s u l t ss h o wt h a tt h ep r o p o s e di d e n t i f i c a t i o n m e t h o di n t r o d u c e di nt h i sp a p e rc a ns e l e c tt h es i xc a t e g o r i e so fi n f o r m a t i o nw h i c ha r e i n f l u e n t i a lf a c t o r si ni n d e n t i f y i n gt h ee v a l u a t i v er e l a t i v ep a i r s ，w h i c hw i l lh e l pb e t t e r i d e n t i f ye v a l u a t i v er e l a t i v ep a i r so fp r o d u c tr e v i e w s k e y w o r d s ：p r o d u c tr e v i e w s ，s e n t i m e n ta n a l y s i s ，c o n d i t i o n a lr a n d o mf i e l d s ， e v a l u a t i v er e l a t i v ep a i r s i v 3 3 评价关联对识别的方法比较2 5 ” 3 4 评价关联对识别的c r f s 模型的建立2 7 3 5 评价关联对识别的c i 心s 模型标注方法3 3 3 6 评价关联对识别的c r f s 模型特征构造方法3 5 3 7 本章小结。4 3 第四章基于条件随机场的评价关联对识别系统设计4 4 4 1基于c r f s 的评价关联对识别系统4 4 4 2 基于c r f s 的评价关联对识别过程分解4 5 4 3 本章小结。5l 第五章实验设计与分析5 2 5 1 实验数据集。5 2 5 2 实验测评标准。5 2 5 3 实验设计5 3 5 4 实验结果及分析5 4 5 5 本章小结6 0 第六章结论与展望6 l 6 1 论文研究成果。6 l 6 2 进一步研究展望。6 2 参考文献6 4 附录1 ：词性标注说明7 0 附录2 ：句法分析标注说明7 1 附录3 ：实验开放测试细项数据。7 2 至炙谢7 4 a 一录 要豫录雕章比章拉躬章豫 舔 表一 二 三 摘触目图第 第 第 基于c r f s 的中文产品评论评价关联对识别研究 图表目录 图1 1 本文研究框架6 图3 1产品评论情感倾向性分析体系21 图3 2 评价关联对识别的c r f s 模型的一阶线性无向图结构2 9 图3 3 评论语句分词和句法分析结果示例3 9 图3 4 特殊规则1 示例4 2 图3 5 特殊规则2 示例4 3 图4 1基于c r f s 的评价关联对识别系统结构4 4 图4 2 训练样本和测试数据的格式示例4 7 图4 3 评价关联对识别的c r f s 模型特征模板文件4 8 图4 4c r f + + 训练结果界面示例4 9 图4 5c r f + + 标注测试结果示例5 0 图4 6c o n l l2 0 0 0 测评结果示例5 1 图5 1评价关联对识别方法封闭测试结果一5 6 图5 2 评价关联对识别方法封闭测试结果二5 6 图5 3 评价关联对识别方法开放测试结果一5 8 图5 4 评价关联对识别方法开放测试结果二5 9 表3 1语义方法与机器学习方法比较2 6 表3 2 机器学习模型比较2 7 表3 3 评价关联对识别的c r f s 模型原子特征模板3 8 表5 1 评价指标计算公式5 3 表5 2 评价关联对识别方法封闭测试结果5 6 表5 3 评价关联对识别方法开放测试结果。5 8 附表1 1 词性标注符号集含义7 0 附表2 1短语结构和句法依存关系标注符号集含义7 1 附表3 1开放测试第一部分实验结果7 2 附表3 2 开放测试第二部分实验结果7 2 附表3 3开放测试第三部分实验结果：7 2 附表3 4 开放测试第四部分实验结果7 3 附表3 5 开放测试第五部分实验结果7 3 1 1 互 为模式 饧r i d 互联网 亿，较2 0 0 8 年底增长1 3 4 ( c n n i c ，2 0 0 9 ) 。互联网已经在很大程度上改变了 信息发布和信息获取的途径。如今，网上交易已逐渐成为一种潮流，网络上产品 的各种评论也以惊人的速度增长。许多产品评论出现在各大论坛、b b s 、门户网 站以及b l o g 中。网上最大的调查公司z o o m e r a n g2 0 0 7 年的一项调查表明，在受 访者之中，4 4 的人在论坛上发表过自己的评论，而在2 0 0 5 年时仅为2 3 ( z o o m e r a n g ，2 0 0 7 ) 。2 0 0 7 年，对美国成年人进行的两项调查发现，8 1 的互 联网用户会在购买产品之前通过网络对产品进行调查，超过7 3 的人认为产品评 论对其购买意愿产生影响( t h ek e l s e yg r o u p ，2 0 0 7 ) 。由此可见，网络产品评论 对消费者的购买决策有着重要的影响。同时，企业也可以通过跟踪网络产品评论， 及时获取消费者的反馈意见。网络产品评论也为市场研究提供了丰富的资源。在 这样的背景下，许多企业纷纷把目光投向网络产品评论，开始分析网络产品评论 背后所传递的有价值的信息。 然而，急剧膨胀的评论信息量在给企业和消费者带来丰富信息资源的同时， 也给企业和消费者快速找到自己需要的信息带来了很大的困难。对于网络产品评 论的浏览者而言，需要浏览大量网站和网页才能寻找到所需要的信息。在长篇大 段的评论中，可能只有几句话是浏览者感兴趣的主观评论，而其他的句子或者是 对产品的客观描述，或者是与产品无关的意见。而且，浏览者所找到的信息未必 是全面的，仅根据部分信息所做出的结论可能具有片面性。可见，依靠人工的方 式浏览网页，搜集评论和分析观点是一件费时、费力、效率低下的工作。因此， 产品评论的浏览者迫切需要一种自动化的信息处理技术来使这一过程变得更加 基于c r f s 的中文产品评论评价关联对识别研究 便捷，能够帮助其分析提炼产品评论中的有用信息。产品评论的情感倾向性分析 正是在这一背景下应运而生的。 评论的情感倾向性分析，就是通过对评论中的观点、态度、情绪、偏好等进 行有效的挖掘和分析，从而对评论的情感倾向性做出判断。情感倾向性分析包括 广义上的和狭义上的概念。广义上的情感倾向性分析包括分析说话人在评论中所 包含的心理态度，而狭义上的情感倾向性分析是指分析评论所反映的说话人对于 某事或某物所持有的“赞同 ( 正面) 或“反对 ( 反面) 或中立的态度以及情感 倾向性的强度。本研究中的情感倾向性分析是基于狭义意义上的研究。 情感倾向性分析可以对网上杂乱的评论信息进行有效地组织和管理。通过对 网络上的产品评论进行情感倾向性分析，消费者可以方便地了解产品各方面的性 能以及其他消费者对该产品所持有的正面或反面的态度倾向分布，还可以对比同 类型的产品的性能，从而做出合理的购买决策。同时，产品评论情感倾向性分析 可以使企业深入挖掘消费者对产品的情感倾向分布信息，从而为企业提供重要的 商务决策依据，以快速地响应市场需求，提高企业的核心竞争力。因此，能够充 分挖掘客户评论中的情感信息，了解客户的喜好偏好，对企业和消费者都具有十 分重要的意义，已经成为一项非常具有实用价值的关键技术。 近年来，产品评论情感倾向性分析吸引了众多研究者的关注，是非结构化文 本挖掘的一个新兴领域。产品评论的情感倾向性分析，是借助自然语言处理技术 ( n a t u r a ll a n g u a g ep r o c e s s ，n l p ) 、数据挖掘、机器学习、信息检索等领域的理 论和方法，以消费者在网络上发表的产品评论作为挖掘对象，挖掘并分析产品评 论中消费者对产品各方面性能的评价态度。 产品评论情感倾向性分析主要包括四个关键的子任务：主观句识别，产品特 征抽取，评价关联对的识别以及产品特征情感倾向性的判定。针对这四个关键的 子任务，目前产品评论情感倾向性分析的主要热点问题有： ( 1 ) 寻找更好的主观句自动识别方法。主观句识别是产品评论情感倾向性 分析的基础工作。识别主观句的方法主要是寻找句子中的主观性特征，因此主观 性特征的自动获取方法一直是研究者关注的热点。现有的大部分主观句识别方法 需要较多的人工的参与，属于半自动的识别方法。因此，寻找效率更高的主观性 特征自动获取方法，以求节省人力和时间是目前主观句识别的研究热点。 2 基于c r f s 的中文产品 ( 2 ) 寻找更好的产品特征提取方法。产品特征分为显示特征和隐示特征。 目前大部分的算法都是针对显示特征的提取，而隐示特征提取存在比较大的难 度，但是由于隐示特征在产品特征中占据一定的比重，因此隐示特征的提取对于 情感倾向性分析来说是比较重要的。目前这方面的研究较少。 ( 3 ) 寻找更好的评价关联对识别方法。目前评价关联对的识别主要是基于 语义的模式匹配方法和机器学习方法。现有的评价关联对识别方法还存在一定的 缺陷。由于关联对识别的正确与否直接关系到产品特征的情感倾向性分析的准确 性，因此对现有的评价关联对识别方法进行改进，提高关联对识别的准确率和召 回率是目前研究的重点。 ( 4 ) 寻找更好的极性传递算法。产品评论情感倾向性分析的目标就是判断 产品评论中产品特征的情感极性。如何将评价词的极性传递给产品特征是产品评 论情感倾向性研究的核心问题。由于涉及到原极性、修饰极性和动态极性的问题， 因此极性传递具有一定的复杂性。对现有的极性传递算法进行改进是研究晦热。 点。 ( 5 ) 扩展产品评论情感倾向性分析的应用。目前产品评论情感倾向性分析 大部分应用于产品评论挖掘系统。随着搜索引擎技术的快速发展和普及，情感倾 向性的分析与搜索引擎的结合应用也是研究的热点问题。 产品评论情感倾向性分析的上述五个热点问题中，前四个问题的研究都是致 力于在产品评论情感倾向性分析的每一个子任务中寻找更为有效的方法，以求获 得更好的产品评论情感倾向性分析效果，最后一个热点问题则是产品评论情感倾 向性分析在应用层面上的进一步延伸。 1 2 本文的研究内容 本文基于自然语言处理技术、数据挖掘、机器学习、信息检索等领域的理论 与方法，针对传统的评价关联对识别方法中存在覆盖率低、句子结构简单以及无 法解决指代消解等问题，围绕产品评论情感倾向性分析中的评价关联对识别问题 展开了研究，建立基于条件随机场的产品评论评价关联对的自动识别方法。 首先，建立了产品评论评价关联对识别的条件随机场模型，将评价关联对的 识别问题转化为条件随机场模型的序列标注问题，并且提出了评价关联对识别的 3 基于c r f s 的中文产品评论评价关联对识别研究 条件随机场模型的标注方法。其次，在前人研究的使用词、词性、位置、语义信 息构造模型特征的基础上，本文将短语结构信息和句法依存关系信息引入条件随 机场模型中，提出了基于词、词性、位置、语义、短语结构、句法依存关系这六 类信息的特征构造方法，并构造了基于上述六类信息评价关联对识别的条件随机 场模型的复合特征模板。然后，依据构建的模型及特征构造方法，设计了基于条 件随机场的评价关联对识别系统，并结合系统的各个处理模块详细地设计了使用 本文提出的方法进行评价关联对识别的全过程，包括识别过程中具体的处理方 法。最后，本文以中文网络汽车产品评论为实验对象，基于不同复合特征模板的 关联对识别方法进行了对比实验，并且将前人的方法与本文提出的方法进行了对 比实验，通过封闭测试和开放测试的准确率、召回率和f 值来评估各个实验对评 价关联对识别的效果。实验结果表明，本文所提出的评价关联对识别方法有效地 选取了影响关联对识别的六类信息，在一定程度上解决了现有的关联对识别方法 中存在的不足，可以获得更好的评价关联对识别效果，提高关联对识别的准确率。 通过本文的研究，对进一步完善产品评论情感倾向性分析的研究与应用具有 一定的参考价值和借鉴意义。 1 3 论文的框架结构 本文共分为六章，论文框架参见图1 1 。 第一章绪论。本章详细介绍了产品评论情感倾向性分析的研究背景、研究意 义及产品评论情感倾向性分析的热点问题，并提出了本文的研究内容和论文的框 架结构。 第二章文献综述。本章对目前网络评论情感倾向性分析的国内外研究现状， 以及产品评论情感倾向性分析中四个子任务所采用的技术研究现状进行了综述 和分析，重点分析了产品评论的评价关联对识别方法的研究现状，对现有的评价 关联对识别方法存在的问题进行了总结。 第三章基于条件随机场的评价关联对识别方法。本章首先比较分析了评价关 联对识别常用的方法和模型，确立了本文所采用的识别方法的依据。其次，提出 了评价关联对识别的条件随机场建模方法，以及模型的标注方法。然后，本章提 出了基于词信息、词性信息、位置信息、语义信息、短语结构信息、句法依存关 4 基于c r f s 的中文产品评论评价关联对识别研究 系信息的评价关联对识别的条件随机场模型的特征构造方法，并构造基于上述六 类信息的评价关联对识别条件随机场模型的特征模板，提出了特征模板的特征值 抽取方法。 第四章基于条件随机场的评价关联对识别系统设计。本章对基于条件随机场 的评价关联对识别系统进行了设计，构建了评价关联对识别系统结构，并结合系 统的各个处理模块详细地设计了使用本文提出的方法进行评价关联对识别的全 过程，包括识别过程中具体的处理方法。 第五章实验设计与结果分析。本章以中文网络的汽车产品评论为实验数据， 设计了基于不同复合特征模板条件随机场模型的评价关联对识别方法的对比实 验，并且将前人的方法与本文提出的方法进行了对比实验。本章对每一个实验都 进行了封闭测试和开放测试，其中开放测试采用的是五折交叉验证的测评方式， 并且以图表的形式给出了实验的结果。实验结果表明，本文所提出的评价关联对 识别方法获得了较好的识别效果，在一定程度上解决了现有的评价关联对识别方： 法存在的问题，验证了该方法的有效性。 第六章结论与展望。本章将对本文的研究成果进行总结，并指出本文研究的 局限性，对下一步的研究工作进行了展望。 5 基于c r f s 的中文产品评论评价关联对识别研究 绪论 文献综述 基于条件随机场 的评价关联对 识别方法 网络评论情感倾向性分析研究 产品评论情感倾向性分 析技术研究 主观句识别研究 产品特征提取研究 评价关联对识别研究 情感倾向性判定研究 产品评论情感倾向性分析 评价关联对识别方法比较 评价关联对识别的c r f s 模型建立 评价关联对识别的c r f s 模型标注 评价关联对识别的c r f s 模型特征构造 基于c r f s 的评价关联对识别系统 基于c r f s 的评价关联对 识别过程分解 实验数据集 实验测评标准 实验设计 实验结果与分析 论文研究成果 进一步研究展望 图1 - 1 本文研究框架 6 预处理模块 模型训练模块 模型标注模块 测评模块 基于c r f s 的 第二章文献综述 帚一早 义陬综尬 2 1网络评论情感倾向性分析研究 网络评论情感倾向性分析是非结构化信息挖掘的一个新兴的研究领域，主要 是对网络上的各种评论信息进行情感倾向的挖掘，如网络上的产品评论、影视评 论、b l o g g e r 声誉评论、新闻报道评论等。 目前，针对网络评论情感倾向性分析的研究还处于起步阶段。国外的许多研 究者已经开始对英文网络评论的情感倾向性分析展开了研究，并且取得了一定的 成果。s a n j i v 等( 2 0 0 1 ) 为了解股票投资者对其所关注的股票所持有的态度，对 y a h o o 网站的股票留言板上的股票评论进行了态度提取研究。p a n g 等( 2 0 0 2 ) 利 用最大熵、支持向量机、朴素贝叶斯等机器学习方法，使用一元词组、二元词组 以及词性等特征，对电影评论进行了情感分析。该研究的准确率达到了8 7 5 ， 其他学者在此基础上展开的研究也取得了很好的研究效果。t u m e y ( 2 0 0 2 ) 使用 其提出的基于p m i i r 的语义情感分类方法对电影、汽车、旅游地等产品及服务 的网络评论进行情感分类研究，获得了较好的分类效果，初步具备了一些应用价 值。日本n e c 公司( m o r i n a g ae ta 1 ，2 0 0 2 ) 对产品声誉的语义抽象和分类研究并 获得了较好的效果。d a v e 等( 2 0 0 3 ) 也利用t u m e y 提出的p m i i r 的方法对c n e t 和亚马逊等电子商务网站上的产品评论进行了情感分析。他们主要是通过统计评 论中词语的n - g r a m 组合出现的频率，比并以此为基础判断新的评论语句的情感 倾向性。p h i l i p 等( 2 0 0 4 ) 对英文文本进行情感分析，使用人工注释和机器学习 相结合的方法提高了分析的准确率。f e iz h o n g c h a o ( 2 0 0 4 ) 针对雅虎体育上的英 文体育评论，使用机器学习方法对其进行了情感分析研究。p a n g 和l e e ( 2 0 0 4 ) 对电影评论进行分类研究，提出了一种两步过程的分类方法。该方法在查找出电 影评论中的描述部分之后，使用几个特征来分析电影评论语句的情感倾向性，采 用最小割的方法来判断评论语句的情感倾向性，最后根据所有评论语句的情感倾 向性来判断整篇评论的情感倾向性。s a l v e t t i 等人( 2 0 0 4 ) 使用马尔可夫模型， 选择词性信息作为马尔可夫模型的特征，对产品和电影的评论进行了情感分类。 7 基于c r f s 的中文产品评论评价关联对识别研究 g a b r i l o v i e h 等( 2 0 0 4 ) 将新的特征选择方法引入到模型中，对电影评论进行情感 分类。h i r o y a ( 2 0 0 5 ) 对词语的情感倾向性判别使用的是电极螺旋模型，该方法 将单词情感的正负情感倾向性当作电子的正负极性，该方法在其实验结果上获得 了较高的准确率。z h o u ( 2 0 0 5 ) 以电影评论为对象进行实验，对比分析情感倾 向性分析方法中的语义方法和机器学习方法，发现两类方法的结果具有相似性。 l i n 等( 2 0 0 6 ) 认为词语可以表达出大部分文本的情感倾向性，因此他提出了使 用词语信息构造机器学习方法中的支持向量机、朴素贝叶斯分类器等模型的特 征，可以提高文本情感倾向性判断的准确率。此外，他还提出向l s p m 模型中 加入隐藏变量和共享参数可以提高句子和文章层次的情感倾向性分析结果。n g 等( 2 0 0 6 ) 提出分两个步骤进行篇章层次的情感倾向性分析，先是进行文章的主 观性判断，对于包含主观性的文章再判断其情感倾向性。文中使用一元词组作为 文章是否具有主观性判断的特征，情感倾向性的判断则是通过各种语言知识进行 的。z a i d a n 等( 2 0 0 7 ) 使用“理由标注 技术对文章的情感倾向性分类和分类的 理由都进行了标注，提出了一种使用这种标注语料和从语料中抽取的特征可以进 行篇章层次的情感倾向性分析的方法。b l e i 等( 2 0 0 8 ) 提出了使用s l d a 进行电 影评论的情感倾向性分析的方法。 上述研究均为针对英文网络评论的情感倾向性分析研究，国内的针对中文网 络评论情感倾向性分析的研究目前还比较少。由于中文与英文在语言结构上的差 异，许多英文评论情感倾向性分析的方法还无法直接应用于中文评论的情感倾向 性分析研究中。 在中文评论的情感倾向性分析研究方面，叶强、李一军等( 2 0 0 5 ，2 0 0 6 ) 对 中文情感分析的理论和方法进行了研究，基于p m i i r 方法提出了中文语义倾向 情感分析方法，并将谷歌和百度这两个中文搜索引擎提供的a p i 集成的情感倾 向性分析的实验平台中，对电影、手机等中文网络评论进行情感倾向性分析，得 到了与英文同类研究相似的实验结果，初步显示了该方法在中文网络评论的情感 倾向性分析中的应用前景。姚天叻等( 2 0 0 6 ) 开发了一个用于汉语汽车论坛的意 见挖掘系统，对产品评论的情感倾向性分析进行了研究。叶强、张紫琼等( 2 0 0 7 ) 对网络评论情感倾向性分析中的中文主观性自动判别方法进行研究，提出了一种 基于连续双词词类组合模式的主观句自动判别方法。李实、叶强等( 2 0 0 9 ) 对中 基于c r f s 的中文产品评论评价关联对识别研究 文网络产品评论情感倾向性分析中的产品特征挖掘方法进行了研究，提出了基于 改进关联规则算法的产品特征挖掘方法。余传明( 2 0 0 9 ) 对产品评论中的观点挖 掘进行了形式化的描述，分析了识别产品属性的原理，并对基于词汇共现的方法 和基于机器学习的方法进行了比较，分析了对相关属性进行极性判断的原理，并 对各种现行方法进行了比较。李培( 2 0 0 9 ) 主要研究了产品评论挖掘中的产品特 征词的抽取以及用户观点抽取和极性分类技术，提出了基于统计和基于模式抽取 和匹配的产品特征词抽取方法和基于依存关系的特征和观点关联对的抽取算法。 黄永文( 2 0 0 9 ) 应用机器学习方法对产品评论挖掘的相关技术如短文本分类技术、 特征观点对的挖掘方法、特征观点对的优化算法及产品特征的层次关系提取技术 进行了研究。 2 2 产品评论情感倾向性分析技术研究 崭b 产品评论的情感倾向性分析是指采用各种自然语言处理技术( n l p ) ，以消 费者在网络上发表的产品评论作为挖掘对象，挖掘并分析产品评论中用户对产品 各方面性能的评价态度。产品评论情感倾向性分析中包括四个关键的子任务：主 观句识别、产品特征提取、评价关联对识别以及情感倾向性判定。本节将对每一 个子任务的处理技术的研究现状进行详细地综述和分析。 ， ，、 2 2 1 主观句识别研究 网络产品评论中可能会同时出现对产品的客观描述和主观看法。客观描述是 消费者对产品事实信息的陈述，主观看法是消费者对产品的主观态度的表述，因 此，在进行网络产品评论的情感倾向性分析时，需要对产品评论中哪些语句表述 了用户的主观态度进行识别，剔除掉对产品的客观表述。 主观句识别主要是识别评论语句中的主观性特征词，可以借助一些词汇和文 法信息，利用标准分类器，如贝叶斯分类器等，或者直接根据标注的特征进行判 断。 h a t z i v a s s i l o g l o u v 等( 2 0 0 0 ) 研究分析了“不错”、“高兴 等具有强烈倾向 性的形容词对识别主观性句子起到的作用。这只是主观句识别最基本的思路。主 9 基于c r f s 的中文产品评论评价关联对识别研究 观性特征词并不仅局限于形容词，动词、名词、短语、文本模式等都可以作为主 观性特征词。这些主观性特征词可以通过人工定义和机器学习两种方式获取。 在通过人工定义获取主观性特征方面，k i m 和h o v y ( 2 0 0 4 ) 人工定义了用 于主观句识别的主观特征词汇表。b e t h a r d 等( 2 0 0 6 ) 利用f r a m e n e t 和p r o p b a n k 的语义角色标注方法，将动词提取为主观句识别的特征。 在通过机器学习自动获取主观性特征方面，w i e b e 等( 2 0 0 0 ) 使用监督学习 的方法，针对英文评论的主观句识别进行了研究，建立了经过人工标注的主观性 语料库，并且在人工标注的过程中发现了形容词可以作为主观句识别的有效特 征，于是从人工标注的语料库中学习了具有主观性的形容词。在此基础上，w i e b e ( 2 0 0 0 ) 等进一步研究了其他词类如序数词、情态动词等，以及标点符合和句子 位置等作为主观旬识别的特征，获得了7 2 1 7 的平均准确率。y uh o n g 和 h a t z i v a s s i l o g l o l l 等( 2 0 0 3 ) 使用w s j 作为语料库，通过监督学习的方法获取文 章中的一元词、二元词对、三元词对、具有主观倾向的词序列等作为主观性特征， 使用相似性方法、朴素贝叶斯分类方法、多重朴素贝叶斯分类方法对评论中的主 客观句进行了识别研究，主观句的准确率和召回率达到了8 0 到9 0 之间，客 观句的准确率和召回率也达到了5 0 上下。r i l o f r 和w i e b e ( 2 0 0 3 ) 提出了一种 不需要进行人工标注，自动地从评论文本中识别主观句的方法。他们利用事先定 义好的主观性和客观性特征词汇表，分别建立了主客观分类器，自动地识别了未 经过人工标注的文本中的主观句以及客观句，准确率达到了9 0 以上，召回率却 只有3 1 9 。该文献将这些主客观句作为训练样本，利用a u t o s l o g - t s 中的文本 模板对训练样本中的主观句实例化，学习其中的主观性抽取文本模式，最后根据 训练样本中旬子的主客观标注，对文本模式的主客观性打分，从而得到高准确率 的主观性文本模式。将这些主观性文本模式作为特征，重复上述过程，最终得到 的主观句识别的准确率和召回率分别为9 0 2 和4 0 1 。r i l o f f 等( 2 0 0 3 ) 采用 了弱监督学习的方法，利用b o o t s t r a p p i n g 算法自动提取了1 0 5 2 个主观性特征名 词作为种子集合，在语料库中查找存在种子集合中主观性特征名词的评论语句， 从中自动抽取候选文本模式并对其进行评估，从中提取出最合适的文本模式构建 文本模式集合，然后再利用这些文本模式抽取新的主观性特征并加入种子集合， 如此循环可以获得更多的主观性特征名词。最终主观句识别获得了7 7 的准确率 1 0 基于c r f s 的中文产品评论评价关联对识别研究 和6 4 的召回率。 在中文网络产品评论的主观句识别研究方面，叶强等( 2 0 0 7 ) 对中文评论中 的主观句的自动识别方法进行了研究，提出了一种根据连续双词词类组合模式 ( 2 p o s ) 来自动判断句子主观性程度的算法。该方法对主观句和客观句识别的 准确率和召回率与英文同类研究相接近，表明了该方法在主观句识别中的可行 性。x i a 等( 2 0 0 6 ) 对于中文网络非正规语言( n e t w o r ki n f o r m a ll a n g u a g e ，n i l ) 进行了研究。该文献通过对使用b b s 文本建立的n i l 语料库中语料进行观察， 认为中文网络非正规语言具有奇异性和动态性的特点。该文献提出了采用语音映 射模型( p h o n e t i cm a p p i n gm o d e l ，p m m ) 将n i l 词汇映射到标准词汇上，即通 过拼音实现语音转换，从而解决了动态性的问题。樊娜等( 2 0 0 9 ) 提出了通过评 估参数确定文本主题概念，结合句子重要度计算，确定文本的主题句子的方法。 文章采用条件随机场模型，选取情感倾向和转移词两类特征，从文本主题句子集 合中提取文本的情感主题句。蛰 2 2 2 产品特征提取研究 产品特征提取是指从大量的网络产品评论中发现消费者对产品的哪些特征 进行了评价，包括产品的组成部件、部件的功能或性能、整体评价等。 省 产品特征包括显示特征和隐式特征。显示特征是直接出现在产品评论中的描 述产品功能或性能的词语或短语。隐性特征则是没有直接在评论中出现，但是却 隐含了对产品某种特征的描述，需要经过语义