CN110298042A 基于Bilstm-crf与知识图谱影视实体识别方法 （四川长虹电器股份有限公司）

基于Bilstm-crf与知识图谱影视实体识别本发明公开了基于Bilstm-crf与知识图谱入至目标CRF模型中进行处理，得到待识别文本有效对用户偏口语化的影视搜索文本进行实体据少的情况下通过语言模型训练的词向量作为2步骤2：从电视端收集通过语音转换为文本的用户搜索影视的数据；分析收集到的数性向量由分词后词性标注得到one-hot词性向量，最终将词性向量层和字符向量层按权重3MarkovModel，HMM)、条件随机场模型(ConditionalRandomFields，CRF)、最大熵模型是应用比较成功的是隐马尔可夫模型和条件随机场模型。基于机器学习的方法在迁移性、是该过程费时费力，而且基于词频统计的HMM和CRF方法只能关联当前词的前一个词的语经网络成为可以有效处理许多NLP(自然语言处理)任务的模型。这类方法对于序列标注任务(如POS(词性标注)、NER(命名实体识别))的处理方式是类似的，将token(标记)从离散embedding(向量嵌入)序列输入到RNN(循环神经网络)中，用神经网络自动提取特征，4LSTM(长短期记忆网络)层后接入CRF(条件随机场)层来做句子级别的标签预测，使得标注[0017]进一步方案为，所述步骤2中，对从电视端采集的大量用户数据做频次统计、k-56性；然后将每句话对应的词性序列转换为300维的one-hot词向量，最后将词性向量与[0041]用大量真实数据训练的词向量一定程度上解决了标注数据少的情况下使用深度[0043]从用户数据中筛选出包含各个标签的常用数据来人工标注，使用Bakeoff-3评测[0045]000B-actorI-actorI-actor0B-movie_nameI-movie_nameI_movie_)；的每个字xi由one-hot向量映射为低维稠密的字向量(characterembedding)xi∈R2是[0054]模型的第二层是双向LSTM层，自动提取句子特征。将一个句子的各个字的输出的隐状态序列与反向LSTM的在各个位置输出的隐状态进行)∈Rn*m；7候可以利用此前已经标注过的标签，之所以要加2是应为要为句子首部添加一个起始状态以及为句子尾部添加一个终止状态。如果记一个长度等于句子长度的标签序列y＝(y1，得到，一部分是由LSTM输出pi决定，另一部分则由CRF的转移矩阵A决定。进而可以利用[0063]如果这个算法要式子实现的话，需要注意的是指数的和的对数要转换成在CRF中上式的第二项使用前向后向算法来高效计8[0073]从大量采集到的用户数据中通过K-means聚类、频次等分析用户影视搜索的基本人工按BIO标准标注训练数据，由于没现成可用的标注数据，利用大量用户真实数据及)；[0082]使用紧密(dense)向量表示每个词，加载预先训练好的字向量(Word2Vec)与词性量由Word2Vec训练的字向量和从词性中提取出9[0094]000B-director_nameI-director_nameI-director_name00B-mov