基于深度学习TextCNN模型的新闻分类方法设计

湖南商务职业技术学院毕业设计

目录

1引言........................................................................................................................1

1.1项目背景和意义............................................................................................1

1.2项目的目的和目标........................................................................................2

2相关技术与工具介绍............................................................................................3

2.1深度学习模型概述........................................................................................3

2.1.1深度学习历史与发展.........................................................................3

2.1.2深度学习在自然语言处理中的应用.................................................4

2.2文本预处理技术介绍....................................................................................5

2.2.1文本预处理的重要性.........................................................................5

2.2.2常用的文本预处理技术.....................................................................6

2.3开发环境与工具............................................................................................7

2.3.1Python简介........................................................................................7

2.3.2PyCharm开发工具的简介..................................................................7

2.3.3第三方库简介.....................................................................................8

2.3.4Pytorch深度学习框架简介..............................................................9

3方法设计与实现....................................................................................................9

3.1数据集收集与预处理....................................................................................9

3.1.1数据集的获取.....................................................................................9

3.1.2数据集预处理...................................................................................10

3.2深度学习模型选择与设计..........................................................................13

3.2.1深度学习模型的选择.......................................................................13

3.2.2模型的设计.......................................................................................13

3.3模型的编译与训练......................................................................................16

3.4结果展示......................................................................................................17

4小结......................................................................................................................19

参考资料.........................................................................................................................21

I

湖南商务职业技术学院毕业设计

基于深度学习TextCNN模型的新闻分类方法设计

1引言

1.1项目背景和意义

在现代社会，信息传播的速度和容量正在以前所未有的速率增长。特别是

在新闻行业，随着数字化转型的深入，大量的新闻内容每天都在互联网上产生。

这一方面带来了信息丰富的便利，另一方面也导致了信息过载的问题。用户面

对如此庞大的信息量，如何快速获取自己感兴趣的内容，成为了一个迫切需要

解决的问题。同时，对于新闻内容提供者而言，如何在短时间内对大量内容进

行准确的分类，以便于内容的推荐和检索，也是一个挑战。

传统的新闻分类工作多依赖于人工编辑，这不仅耗时耗力，而且难以应对

日益增长的数据量。而自动化的新闻分类系统则可以快速处理大量数据，并且

提供相对一致的分类标准。近年来，随着人工智能技术的发展，尤其是深度学

习技术在自然语言处理（NLP）领域的成功应用，使得基于深度学习的文本分类

方法成为研究热点。深度学习模型，特别是卷积神经网络（CNN）在图像处理领

域取得了巨大成功之后，也被逐渐应用于文本数据的处理。与传统机器学习模

型相比，深度学习模型能够自动学习到更深层次的数据特征，因此在文本分类

任务中展示了更高的效能。

TextCNN是一种专门为文本分类设计的卷积神经网络模型。通过利用卷积

层来提取文本中的局部特征，并通过池化层来捕获最重要的特征，TextCNN已

经在多项NLP任务中展现出了卓越的性能。这种模型的成功应用启示我们，深

度学习技术具有通过学习大量数据中蕴含的深层次模式来提高新闻分类效果的

潜力。

然而，尽管深度学习在新闻分类中的应用充满前景，但实际操作中仍然面

临着一些挑战。首先，新闻文本的分类准确性直接影响到信息检索的效率和用

户体验，因此模型的性能需要不断优化。其次，新闻数据通常包含大量的噪声

信息，如无关的图片、广告、以及不规则的文本格式等，如何有效地对新闻数

据进行预处理，以提高模型的学习效率和分类准确性，是一个需要解决的问题。

再次，随着网络环境的多样化，新闻文本的风格和用词也在不断变化，如何让

模型具备良好的泛化能力，以适应不断变化的数据分布，也是研究中需要关注

的重点。

1

湖南商务职业技术学院毕业设计

基于上述背景，本研究旨在设计一种基于深度学习TextCNN模型的新闻分

类方法。通过该方法，我们希望能够提高新闻分类的自动化程度和准确性，从

而帮助用户在信息爆炸的时代中快速获取到他们感兴趣的内容，同时也能为新

闻提供者提供一个高效率的内容管理工具。这不仅有助于提升信息的可接入性

和可用性，也对进一步推动深度学习技术在实际应用中的发展具有重要的意义。

1.2项目的目的和目标

在信息技术日益发展的当下，新闻资讯作为人们获取信息的主要途径，扮

演着越来越关键的角色。人们对信息的需求日益增长，对信息处理的要求也越

来越高。因此，如何有效地管理和整理海量的新闻数据，提供快速准确的分类

服务，成为了一个急需解决的问题。本项目的核心目的在于设计并实现一种基

于深度学习TextCNN模型的新闻分类方法，旨在解决传统新闻分类方式效率低

下、准确性不高的问题，提高新闻数据处理的自动化程度和分类的精确性，以

更好地服务于信息检索和推荐系统。

在新闻分类的领域内，虽然已有诸多研究，但仍存在诸多挑战。首先，新

闻文本的长度、风格和结构差异性较大，这对分类模型的适应能力提出了要求；

其次，新闻的实时性要求分类模型具有较强的学习和更新能力，能够快速适应

新出现的事件和话题；最后，模型的解释性也是当前研究的一个热点，如何使

模型的决策过程更加透明，有助于增强用户对自动分类结果的信任。本项目将

聚焦于以上问题，致力于研发一个既精确又高效的新闻分类系统。

本项目的主要目标包括以下几个方面：

1、设计一个高效的新闻文本预处理流程：创新性地设计文本清洗、分词、

向量化等预处理步骤，为深度学习模型提供高质量的输入数据。

2、构建并优化TextCNN模型：在TextCNN基础架构上进行改进，通过调

整和优化网络结构、超参数等，提升模型在新闻分类任务上的表现。

3、评估模型的分类性能：使用THUCNews数据集进行训练和测试，通过精

确度指标评估模型的性能。

4、提升模型的实用性和泛化能力：通过不断训练和调整，使模型能够适

应新的数据分布，提高对实际新闻流的分类准确性。

项目贡献主要体现在以下几个方面：

1、理论贡献：本研究将拓展深度学习在新闻文本分类领域的理论研究，特

别是TextCNN模型的应用。

2

湖南商务职业技术学院毕业设计

2、技术创新：通过对TextCNN模型的改进和优化，提高模型对复杂新闻文

本的处理能力，为后续的研究者和实践者提供新的视角和方法。

3、实际应用价值：本研究将直接推动新闻分类技术的发展，提高信息检

索系统的效率和用户体验，对新闻推荐系统、媒体监测和内容管理等领域具有

重要的应用价值。

2相关技术与工具介绍

2.1深度学习模型概述

2.1.1深度学习历史与发展

深度学习作为机器学习领域的一个分支，它的历史可以追溯到上个世纪的

人工神经网络研究。早期的神经网络由于受限于计算能力和数据量，长期未能

实现大规模应用。然而，随着时间的推移，几个关键的里程碑促使深度学习迅

速发展，成为现代人工智能的核心技术之一。

20世纪80年代，反向传播算法的提出标志着神经网络研究的一个重要进

展。这一算法能够有效地训练多层前馈神经网络，为后来深度学习的发展奠定

了基础。然而，由于当时的计算能力和数据量都十分有限，深度神经网络并未

得到广泛应用。

进入21世纪，随着计算能力的显著提高，特别是GPU（图形处理单元）在

计算加速方面的突破，深度学习开始展现出其强大的潜力。2006年，Geoffrey

Hinton等人提出了深度置信网络（DBNs），利用逐层预训练的方式解决了深层

神经网络训练困难的问题，这被认为是深度学习时代的开始。

2012年，AlexNet在ImageNet挑战中大放异彩，它的成功应用使得深度学

习得到了更广泛的关注，卷积神经网络（CNN）成为了图像识别领域的标准工具。

自此之后，深度学习在语音识别、自然语言处理、游戏智能等多个领域取得了

显著成就。

在自然语言处理（NLP）领域，深度学习技术也开始崭露头角。诸如词嵌入

（WordEmbedding）技术的发展显著提升了机器对文本的理解能力。2013年，

Mikolov等人提出的Word2Vec模型使得单词能够转化为具有语义信息的向量表

示，这对于后续的文本相关深度学习模型提供了重要的输入特征。

近年来，随着深度学习技术的不断发展，模型结构也越来越复杂，如递归

神经网络（RNN），长短期记忆网络（LSTM）和门控循环单元（GRU）等模型在

3

湖南商务职业技术学院毕业设计

处理时序数据方面取得了不错的效果。此外，Transformer模型的提出进一步

推动了NLP领域的革命，BERT等预训练语言模型的出现，使得深度学习模型在

各项NLP任务上都达到了新的高度。

深度学习历史的发展是一个不断求新求变的过程。每一次技术的突破和创

新都不断推动了其在各个领域的应用边界。尽管如此，深度学习仍面临着过拟

合、解释性不足、需要大量标注数据等挑战。这也提示我们，在探索深度学习

的边界的同时，更应该注重它的可靠性、通用性和透明度的提升。在未来，随

着新算法、新架构的不断涌现，以及更为强大的计算资源和更大规模的数据集

的利用，深度学习无疑将继续在AI领域扮演重要角色，并在科学研究和工业应

用中创造更多的可能。

2.1.2深度学习在自然语言处理中的应用

深度学习在自然语言处理（NLP）领域的应用，可以说是革命性的。NLP的

目的是使计算机能够理解和解释人类语言，包括语音和文字。在深度学习出现

之前，许多NLP任务依赖于复杂的特征工程，这需要大量的领域知识和人工努

力。深度学习的兴起为NLP带来了从数据中自动学习特征表示的能力，这极大

地改变了传统的工作流程。

深度学习在文本分类任务中的应用非常广泛，其中包括情感分析、主题分

类和意图识别等。卷积神经网络（CNN）和循环神经网络（RNN）是最早应用于

这些任务的深度学习架构。CNN擅长捕捉局部特征，例如文本中的关键短语或

单词组合，而RNN则能够处理序列数据，捕捉文本中的上下文信息。

深度学习在语言模型方面也有显著的贡献。语言模型旨在计算一个语句的

概率分布，这对于许多NLP任务都是基础。Word2Vec和GloVe等词嵌入技术能

够将词汇映射到高维空间，使得语义相近的词汇在向量空间中也相近。这些预

训练的词向量被广泛用于各种NLP任务，作为模型输入的一部分。

序列到序列（Seq2Seq）模型是另一个重要的里程碑，这种模型通常包含一

个编码器和一个解码器，适用于机器翻译、文本摘要等任务。LSTM和GRU等RNN

变种由于其在处理长序列时的优势，常常被用作Seq2Seq模型的组成部分。注

意力机制最初是在Seq2Seq模型中引入的，用于提高模型对关键信息的关注度，

它允许模型动态地聚焦于输入序列的重要部分。这一机制的提出，为后来的

Transformer模型铺平了道路。Transformer完全基于注意力机制，摒弃了传统

的RNN结构，极大提高了模型的训练效率并改善了性能。

近年来，BERT、GPT等预训练语言模型的出现，再次推动了NLP领域的发

4

湖南商务职业技术学院毕业设计

展。这些模型在大规模的文本语料库上进行预训练，学习到丰富的语言表示，

然后可以在特定任务上进行微调。这种预训练加微调的范式，已经成为当前NLP

研究的主流方法。训练语言模型的成功，不仅在于其在多个NLP任务上取得了

先进的结果，还因为其能够捕捉语言的深层次语义信息，并且能够有效地转移

到不同的任务和领域。

总的来说，深度学习不仅在自然语言处理领域带来了技术上的革新，而且

也推动了该领域研究方法的根本转变。未来，随着深度学习技术的不断进步，

其在自然语言处理领域的应用还将更加广泛和深入，这将进一步促进从语言数

据中提取知识、理解语言和生成语言的能力。

2.2文本预处理技术介绍

2.2.1文本预处理的重要性

在自然语言处理任务，特别是在使用深度学习模型进行文本分类的过程中，

文本预处理是不可或缺的一个步骤。它涉及将原始文本数据转化为可以被模型

理解的格式，确保信息以一种易于处理且能够有效表示其原始含义的方式呈现。

在本项目中，我们侧重于基于深度学习TextCNN模型的新闻分类方法设计，文

本预处理不仅是模型性能的基础，而且直接关系到分类结果的准确性和模型的

泛化能力。

文本预处理的主要目标是提取和转换数据，以便深度学习模型能够更好地

学习和识别其中的模式。这一过程包含多个关键步骤，每一个步骤都旨在提升

最终模型的性能。模型的准确性很大程度上取决于输入数据的质量。在新闻分

类中，原始数据可能含有大量不相关的信息，比如HTML标签、特殊符号、拼

写错误等。这些噪音如果不被清理，将对模型造成干扰，影响它对文本中有价

值信息的学习。有效的预处理步骤能够清洗和规范化文本数据，从而提升

TextCNN模型对新闻文章主题的识别准确性。

深度学习模型通常需要大量的计算资源和时间进行训练。通过预处理减少

输入数据的维度和复杂性，可以有效减轻模型训练的计算负担，加快训练速度。

例如，去除停用词可以减少词汇表的大小，而词干提取可以将不同形式的单词

归并为其原始形式，这些都有助于减少模型需要处理的信息量。

在新闻分类任务中，泛化能力是评价模型性能的关键指标之一。通过归一

化文本的表现形式（如小写转换、同义词合并等），预处理步骤能够降低模型

过度拟合到训练数据上特有的表达方式的风险，从而提升模型在未见数据上的

5

湖南商务职业技术学院毕业设计

表现。深度学习模型对数据的表达方式非常敏感。文本预处理中的词嵌入步骤

将单词转换为向量形式，这些向量能够捕捉和表达单词之间的语义关系。在本

项目中，我们使用搜狗新闻Word+Character300d预训练词向量，这将极大地丰

富模型学习的语义特征，使TextCNN能够更深入地理解文本内容。

文本预处理对于深度学习模型在自然语言处理任务中的表现至关重要。在

本项目的研究工作中，我们将详细探讨预处理步骤如何优化TextCNN模型的性

能，包括在处理THUCNews数据集时对预处理策略的选择和实施。通过对预处

理步骤的精心设计和优化，我们期望能够在新闻分类任务中取得优异的性能。

2.2.2常用的文本预处理技术

文本预处理是自然语言处理（NLP）中的一个关键环节，尤其是在准备数据

以供深度学习模型使用时。以下是一些常用的文本预处理技术：

1.清洗文本：移除HTML标签、URL链接、非打印字符等；删除噪音数据，

如特殊符号和数字，如果它们对当前任务不重要的话。

2.大小写转换：将所有文本转换为小写，以避免“Apple”和“apple”被

当作两个不同的词。

3.分词（Tokenization）：将文本分割成单词或短语。对于中文，这通常

涉及到词的分割，因为中文写作是不留空白的。

4.停用词去除：去除常见的词汇，如“的”、“是”、“在”，这些词通

常对文本的意义贡献不大。

5.词干提取（Stemming）与词形还原（Lemmatization）：通过词干提取

去除单词的前缀和后缀，得到词的基本形式；词形还原则转换单词为其词根形

式，考虑了词汇的用法和时态。

6.词嵌入（WordEmbedding）：将词转换为向量形式，使得计算机能够处

理。在本项目中，使用的是搜狗新闻Word+Character300d预训练词向量。

7.去除低频词：删除在语料库中仅出现少数几次的单词，这些单词可能是

拼写错误或者对模型训练帮助不大。

8.标点符号处理：根据需要保留或删除标点符号。在某些NLP任务中，标

点符号可能承载重要信息。

9.序列填充（Padding）：将所有文本序列填充或截断为相同长度，以便

可以批量处理。

10.数据增强：通过同义词替换、反义词替换、随机插入、随机交换词序

等技术增加文本数据的多样性，有助于改善模型的泛化能力。

6

湖南商务职业技术学院毕业设计

以上步骤可以根据具体的应用和需要进行组合或省略。在设计TextCNN模

型进行新闻分类的过程中，预处理不仅能够提升模型训练的效率，还能够增强

模型对于文本的理解能力，从而在分类任务上获得更准确的结果。

2.3开发环境与工具

2.3.1Python简介

Python是一种高级编程语言，由吉多·范罗苏姆在1989年底发明，并于

1991年首次发布。它以易于学习和阅读的清晰简洁的语法闻名，这使得Python

成为初学者和经验丰富的开发者都喜爱的语言。

Python是一种解释型语言，这意味着开发者可以编写代码并立即运行看到

结果，这为快速开发带来便利。它支持多种编程范式，包括面向对象、命令式、

函数式和过程式编程。

在本项目的研究中，Python的应用尤为关键。作为目前最流行的编程语言

之一，Python在数据科学、机器学习和人工智能领域占据着中心地位。它背后

强大的社区支持和丰富的库资源，如NumPy进行数值计算、Pandas用于数据分

析，以及用于深度学习的框架如TensorFlow和PyTorch，都极大地促进了研究

和开发的进展。在我们的新闻分类项目中，Python提供了构建、测试和部署

TextCNN模型所需的所有工具和库，使得从数据预处理到模型训练再到评估和

部署的整个过程都可以高效地在一个统一的环境中完成。Python的这些特性不

仅加快了研究的进度，而且还提高了研究工作的质量和可靠性。

2.3.2PyCharm开发工具的简介

PyCharm是由捷克公司JetBrains开发的一个强大的PythonIDE（集成开

发环境），专为Python语言的专业开发设计。它提供了一系列强大的功能，以

支持Python的高效开发流程，包括智能代码编辑器、错误检测与修复、项目管

理工具、版本控制集成等。

PyCharm拥有智能代码完成功能，可以基于上下文自动提供代码补全建议，

极大地提高了编码效率。它还包含了代码检查工具，能够实时检测代码中的错

误并提出修复建议，帮助开发者避免常见的编程失误。此外，它的重构工具可

以帮助开发者安全地对代码结构进行修改，而不用担心破坏项目的其他部分。

PyCharm提供了对于多个框架的支持，如Django、Flask和Pyramid等，

使得Web开发变得更加便捷。对于科学计算和数据分析，PyCharm集成了IPython

7

湖南商务职业技术学院毕业设计

Notebook，支持Anaconda以及NumPy和Matplotlib等科学包。

在我们的文本分类项目中，PyCharm作为主要的开发工具，为编写、调试

和运行TextCNN模型提供了便利。其综合的工程管理和插件系统保证了开发流

程的连续性和项目组织的清晰性，这对于保持代码质量和加快开发进度都至关

重要。

2.3.3第三方库简介

在本项目的TextCNN模型开发和新闻分类研究中，我们广泛地利用了以下

几个关键的Python第三方库，它们在处理数据、模型训练以及性能评估方面起

到了至关重要的作用：

1.NumPy：

在本研究中，NumPy用于高效地处理和转换数据。由于其对多维数组的强

大支持，NumPy使得数据预处理、特征抽取和批量操作变得更加高效和简便。

在构建TextCNN模型的数据输入时，我们依赖NumPy进行向量化操作，以及在

模型训练过程中对批数据进行快速计算。

2.Matplotlib.pyplot与Seaborn：

这两个库被用于可视化分析和结果展示。Matplotlib提供了一个类似于

MATLAB的绘图框架，而Seaborn则在此基础上提供了更多高级接口，使得绘制

更加丰富的统计图形变得简单。在我们的研究中，这些工具被用来绘制模型训

练过程中的损失变化、准确率提升以及最终分类结果的混淆矩阵，帮助我们直

观地理解模型性能和优化方向。

3.tqdm：

tqdm是一个快速、可扩展的进度条工具，它能够在长循环中给出一个直观

的进度提示。在训练TextCNN模型时，考虑到数据集较大且模型训练过程较长，

tqdm被用来显示训练进度，增强用户体验。

4.Scikit-learn(sklearn)：

虽未在初始列表中，但Scikit-learn作为一个强大的机器学习库，在模型

评估阶段扮演着重要角色。我们利用其提供的accuracy_score,

classification_report和confusion_matrix等函数，来评估TextCNN模型的

准确度、召回率、F1分数等关键指标，以及生成混淆矩阵。这些度量帮助我们

深入了解模型的性能，并指导后续的优化工作。

通过结合使用这些库，本研究能够高效地进行数据处理、模型训练和结果

评估，从而在新闻分类任务中实现了准确和可靠的性能。

8

湖南商务职业技术学院毕业设计

2.3.4Pytorch深度学习框架简介

在本项目的开发过程中，我们采用了PyTorch，这是一个由Facebook的人

工智能研究团队开发的开源深度学习库。自2017年首次发布以来，PyTorch因

其易用性、灵活性和强大的性能而在学术界和工业界广受欢迎。下面简要介绍

PyTorch及其在本研究中的应用。其核心特性如下：

1.动态计算图：PyTorch的一个显著特点是它的动态计算图（也称为即时

执行），这使得模型可以在运行时动态改变。这种灵活性特别适合于处理变长

的输入和构建复杂的动态结构。

2.直观的API：PyTorch提供了清晰、易用的API，这让模型的构建、训

练和调试过程变得直观。它能够让研究人员和开发者以最少的努力实现想法。

3.底层优化和GPU加速：PyTorch支持CUDA，这意味着它可以利用NVIDIA

GPU来显著加速数学计算，从而提高训练和推理的效率。

4.丰富的库和社区支持：PyTorch背后有一个活跃的社区，提供了大量的

预训练模型和扩展库，涵盖计算机视觉、自然语言处理等多个领域。

在本项目中，我们利用PyTorch构建了基于TextCNN的新闻分类模型。

PyTorch的动态计算图特性为模型的设计和实验提供了极大的灵活性，使得迭

代开发和测试变得更加高效。通过PyTorch提供的高级抽象，我们能够轻松定

义模型架构、进行模型训练和评估，同时也能够利用其强大的GPU加速功能来

缩短训练时间。

3方法设计与实现

3.1数据集收集与预处理

3.1.1数据集的获取

在本项目中，我们使用了THUCNews数据集进行模型的训练和测试。

THUCNews是由清华大学自然语言处理实验室从新浪新闻中精心挑选并整理的一

个大规模的中文文本分类数据集。该数据集包含了约83万篇新闻文章，覆盖了

财经、房产、股票、教育、科技、社会、时政、体育、游戏、娱乐等10个领域

的新闻内容。

数据集的获取过程如下：

1.访问数据源：THUCNews数据集可以从清华大学自然语言处理实验室的

官方网站或其他数据共享平台获取。一般提供下载链接，支持直接下载压缩包。

9

湖南商务职业技术学院毕业设计

2.下载数据：通过提供的链接下载数据集的压缩文件。考虑到数据集的体

积可能较大，下载过程可能需要一定的时间。

3.解压数据：下载完成后，需要解压压缩包。解压后，数据一般以文本文

件的形式存储，按类别分布在不同的文件夹中。

4.数据预览：在开始预处理之前，首先对数据进行简单的预览，了解数据

的基本结构和内容。这一步骤有助于后续的数据清洗和预处理工作。

在本研究中，我们将利用THUCNews数据集进行TextCNN模型的训练和验证，

通过对这个数据集的深入分析和学习，旨在开发出一个既准确又高效的新闻分

类模型。

3.1.2数据集预处理

在本项目中，对THUCNews数据集的预处理是构建高效TextCNN模型的重要

基础。预处理流程的目标是将原始新闻数据转换成适合模型训练、验证和测试

的格式。下面详细介绍这一流程：

1.数据清洗

首先，对原始数据进行清洗，包括去除HTML标签、特殊符号、数字，以及

非中文字符。此步骤旨在减少数据噪声，保留有意义的文本内容，处理结果如

图3-1所示：

图3-1数据内容（部分）

10

湖南商务职业技术学院毕业设计

图3-2数据读取代码

2.数据分割与标注

将数据集分为训练集、验证集和测试集，比例为70%、15%、15%。对每篇

新闻文章按照其所属类别进行标注，确保每个类别的新闻均匀分布在三个数据

集中。类别与索引的映射存储在json文件中，如图3-2所示：

图3-3标签分类

3.文本分词

对于中文文本，进行分词处理，将句子切分成词语序列。分词的准确性直

接影响后续模型的性能。

11

湖南商务职业技术学院毕业设计

图3-4构建词表

4.去除停用词

移除文本中的停用词，如“的”、“是”、“在”等，这些词在不同文本

中频繁出现，但对于理解文本含义贡献较小。

5.文本向量化

利用预训练的词向量，本文使用的是搜狗新闻Word+Character300d，将

文本转换为向量形式。这一步是连接文本数据和深度学习模型的桥梁。

6.构建数据加载器

使用PyTorch的TensorDataset和DataLoader，将处理好的数据打包，便

于模型进行批量训练、验证和测试。

图3-5数据加载

12

湖南商务职业技术学院毕业设计

7.数据集存储格式

最后，将预处理后的数据按照以下格式保存为`.txt`或`.json`文件，分别

用于训练集（train.txt）、验证集（val.txt）和测试集（test.txt）。

通过以上步骤，我们能够确保数据集被正确处理和格式化，为训练高效的

TextCNN模型奠定了坚实的基础。这一流程不仅有助于提升模型的性能，还确

保了模型的泛化能力，使其能够准确地在未见数据上进行分类预测。

3.2深度学习模型选择与设计

3.2.1深度学习模型的选择

在本项目中，我们选择TextCNN作为解决新闻分类问题的深度学习模型。

TextCNN，由YoonKim于2014年提出，是一个基于卷积神经网络（CNN）构建

的文本分类模型。该模型通过卷积层来捕捉文本中的局部特征，并使用池化层

来抽取最关键的信息，从而进行有效的文本分类。TextCNN以其结构简单、效

率高、以及出色的性能而广受欢迎，特别适合于处理新闻数据这种长度不一、

主题多样的文本。

TextCNN模型之所以被选为本研究的核心算法，主要是因为其在提取文本

局部相关特征方面的高效能。这对于新闻分类来说尤其重要，因为新闻文本常

常包含了丰富的局部信息，如特定的人名、地名、事件等关键词，这些都是分

类决策的重要依据。此外，TextCNN的并行处理能力使得模型训练过程更加高

效，这对于需要处理大量数据的新闻分类任务尤为关键。

针对本项目的目标和数据特点，我们还对TextCNN模型进行了适当的改进

和优化。首先，通过调整卷积层中卷积核的尺寸和数量，以更好地适应新闻文

本的特性。其次，引入了正则化技术，如dropout，以减少过拟合，提高模型

的泛化能力。最后，采用了预训练的词向量，例如搜狗新闻Word+Character

300d，作为模型的输入，这不仅加速了模型的收敛速度，也提升了分类的准确

率。

总之，通过选择并优化TextCNN模型，本项目旨在构建一个既准确又高效

的新闻分类系统，以应对新闻数据处理的需求，并提高信息检索和推荐系统的

效率。

3.2.2模型的设计

TextCNN是为文本处理特别设计的卷积神经网络，网络结构图如图3-3所

13

湖南商务职业技术学院毕业设计

示。

图3-6TextCNN网络结构

在我们的项目中，这个模型用于新闻文本分类，它通过以下几个步骤实现

从文本信息到分类结果的转换：

1.词嵌入层：

输入的文本首先被转换成词向量，我们使用预训练的词向量来初始化这些

词嵌入，以便捕获语言中的语义信息。每个单词被嵌入到一个低维空间中，使

得词与词之间的语义关系以向量的形式表示。

2.卷积层：

接着，多个不同大小的卷积核（滤波器）被应用于嵌入层的输出。这些卷

积核覆盖了不同数量的连续单词，比如3个、4个或5个，能够捕获句子中的

短语或词组特征。这种机制模拟了n-gram模型的功能，允许模型学习文本中不

同长度的局部模式。

3.池化层：

然后，每个卷积核的输出被送入一个最大池化（Max-over-timepooling）

层，这一层将每个特征图中的最大响应提取出来。这样做可以捕获文本中最重

要的信号，并减少输出的特征维度。

4.全连接层与Dropout：

最大池化的输出被拉平成一个长的特征向量，然后传递给全连接层。为了

减少过拟合，引入Dropout作为正则化手段。Dropout会随机丢弃一些神经元

的输出，增强模型的泛化能力。

5.输出层：

最后，全连接层的输出通过softmax函数进行分类。Softmax层会输出每

个类别的概率分布，这些概率表明了给定文本属于每个新闻类别的可能性。

14

湖南商务职业技术学院毕业设计

在本项目中，TextCNN模型的这一设计使其特别适合于新闻分类任务。它通

过学习文本中的局部模式和全局模式，以及利用预训练词向量中蕴含的丰富语

义信息，有效地对新闻文章进行了分类。模型的简洁性也保证了训练和预测的

高效性，同时易于实现和调优。通过适当调整卷积核大小、数量和Dropout率，

我们可以对模型进行精细调整，以适应特定的数据集和任务需求。

图3-7模型构建代码

图3-8输出模型结构

15

湖南商务职业技术学院毕业设计

3.3模型的编译与训练

模型的训练过程如图3-4所示，我们可以观察如图所示的训练和验证准确

率（Accuracy）以及损失（Loss）曲线，模型的性能表现和训练动态。

图3-9训练过程

图3-10训练过程可视化结果

从准确率曲线我们看到，训练准确率（蓝线）和验证准确率（橙线）都随

着训练轮次的增加而提高，显示出模型在训练集和验证集上都在学习并改进其

分类性能。尽管验证准确率略低于训练准确率，这是正常现象，它反映了模型

对未见数据的泛化能力。

在损失曲线中，我们看到了类似的趋势：随着训练过程的进行，训练损失

（蓝线）和验证损失（橙线）都在下降，这表明模型在减少误差，其预测与真

实标签的差距在缩小。

训练时的参数设置包括：

预训练词向量：使用了搜狗新闻预训练词汇表embedding_SougouNews.npz，

16

湖南商务职业技术学院毕业设计

这有助于模型更好地理解文本数据，尤其是对于具有丰富语义的新闻内容。

批处理大小（BATCH_SIZE）：设置为128，这是在GPU内存允许的范围内

选择的，既能够保证模型的训练效率，又不至于因为过大的批量造成内存溢出。

工作进程数（WORKERS）：根据操作系统平台的不同设置了工作进程数。这

有助于数据加载的并行处理，提高训练效率。

训练轮数（EPOCHS）：设置为25轮，这通常足以使模型在当前数据集上收

敛到一个相对稳定的状态。

学习率（LEARNING_RATE）：设置为1e-3，这是一个起始学习率，在训练

过程中可以通过学习率调整策略进行调整。

早停机制（PATIENCE）：设定为100，如果在连续100个批次中模型在验

证集上的损失没有改进，则触发早停，终止训练。这有助于避免过拟合。

整个训练过程中，模型的性能都在稳步提高，没有出现明显的过拟合迹象，

这表明所选模型架构和参数设置与新闻分类任务和数据集相匹配。此外，早停

机制确保了训练的及时终止，避免了不必要的计算资源浪费。

3.4结果展示

实验结果展示了基于TextCNN模型的新闻分类任务的性能，具体体现在两

个混淆矩阵图中，如图3-11、图3-12和图3-13所示。

图3-11模型识别结果1

图3-12模型识别结果2

17

湖南商务职业技术学院毕业设计

图3-13模型识别结果3

在图3-14的混淆矩阵中，每一行表示实际的类别，而每一列表示预测的类

别。对角线上的数值较大，表明了大多数新闻被正确分类。例如，财经（finance）

类别中有845篇文章被正确地分类，而股票（stocks）有924篇，游戏（game）

有935篇。这些高对角线值指示模型在大多数类别上表现出色。

同时，非对角线的值表示模型的误分类情况。例如，在教育（education）

类别中，有45篇文章被错误地分类为财经，24篇文章被分类为房产（realty）。

虽然误分类的数量相对较小，但它们提供了对模型混淆点的见解。特别是在一

些相似主题的分