计算机应用技术论文：文本分类 朴素贝叶斯分类 多变量伯努利模型 多项式模型 特征选择.doc

计算机应用技术论文：基于朴素贝叶斯方法的中文文本分类研究【中文摘要】计算机与网络技术自出现以来,发展迅速,并日趋完善,互联网已成为获取信息的主要来源。由于网络中大部分信息是文本数据,作为有效组织与管理文本数据重要基础的文本自动分类已成为具有重要应用价值的研究领域。基于贝叶斯理论的朴素贝叶斯分类方法具有简单、有效、速度快的优点,成为文本分类算法的重点研究内容之一。本文首先对文本分类涉及到的中文分词、文本向量表示及特征权重计算等关键技术做了比较详细的分析研究;然后针对朴素贝叶斯文本分类的模型以及常用特征选择方法对朴素贝叶斯文本分类的性能影响进行了详细的研究与分析;最后,设计并使用Java在MyEclipse平台上实现了基于朴素贝叶斯方法的中文文本分类系统。本文重点分析了多变量伯努利模型与多项式模型,通过实验对比得出在中文文本分类中多项式模型优于多变量伯努利模型。为了进一步提高分类精度,本文对多项式模型的平滑因子进行了改进,实验表明具有良好的分类效果。由于朴素贝叶斯分类模型是建立在属性之间条件独立性假设之上,因此特征选择的好坏与否对分类精度有较大影响。本文通过实验表明信息增益和2统计量是朴素贝叶斯文本分类较好的特征选择方法。【英文摘要】Since the technology of computer and network appeared, it had been developed very rapidly. Network has becoming one of the most mainly-used information source. Because most of the information in the network is text data type, automatic text categorization which is the important basic of effective organization and management text data has become an important study field. Naive Bayes classification method is based on the Bayesian theory,which is accepted as simple and effective probability classification meth.【关键词】文本分类 朴素贝叶斯分类 多变量伯努利模型 多项式模型 特征选择【英文关键词】Text Categorization Naive bayes classification Multi-variate Bernoulli Model Multinomial Model Feature Selection【目录】基于朴素贝叶斯方法的中文文本分类研究摘要5-6Abstract6第1章 绪论9-141.1 研究背景及意义91.2 文本分类研究现状9-111.3 朴素贝叶斯与文本分类11-121.4 本文的工作121.5 本文的组织结构12-14第2章 文本分类技术14-222.1 文本分类的过程14-152.2 文本向量表示15-192.2.1 文本预处理15-162.2.2 向量空间模型16-172.2.3 特征权重17-192.3 文本分类方法19-202.3.1 决策树分类器192.3.2 k 近邻分类器19-202.3.3 朴素贝叶斯分类器202.3.4 支持向量机分类器202.4 性能评估方法20-212.5 本章小结21-22第3章 朴素贝叶斯分类模型22-323.1 贝叶斯基础理论22-243.1.1 贝叶斯定理22-233.1.2 极大后验假设与极大似然假设233.1.3 事件的独立性23-243.2 朴素贝叶斯分类器24-253.3 朴素贝叶斯文本分类25-283.3.1 朴素贝叶斯文本分类算法25-263.3.2 多变量伯努利模型26-273.3.3 多项式模型27-283.3.4 两个模型的区别283.4 朴素贝叶斯分类器的改进28-293.5 实验设计与结果比较29-313.5.1 实验1：多项式模式与多变量伯努利模型比较29-303.5.2 实验2：改进后的多项式模型与多项式模型比较30-313.5.3 实验小结313.6 本章小结31-32第4章 选择性朴素贝叶斯方法32-404.1 常用的特征选择方法32-354.1.1 文档频率324.1.2 信息增益32-334.1.3 2 统计量33-344.1.4 互信息34-354.2 实验设计与结果分析35-384.3 特征选择实验比较38-394.4 本章小结39-40第5章 朴素贝叶斯文本分类的设计与实现40-425