基于深度学习R-CNN型的农作物病害检测方法设计

湖南商务职业技术学院毕业设计

目录

1引言.............................................................1

1.1项目背景和意义..............................................1

1.2项目的目的和目标............................................1

2相关技术与工具介绍...............................................2

2.1深度学习模型概述............................................2

2.2目标检测技术介绍............................................3

2.3Web框架技术.................................................4

2.3.1Python简介............................................4

2.3.2开发工具的简介........................................5

2.3.3第三方库简介..........................................5

2.3.4Pytorch深度学习框架...................................6

3方法设计与实现...................................................7

3.1数据集收集与预处理...........................................7

3.1.1数据集的获取..........................................7

3.1.2数据集预处理..........................................7

3.2深度学习模型选择与设计.......................................9

3.2.1深度学习模型的选择....................................9

3.2.2模型的设计............................................9

3.3模型的编译与训练............................................11

3.4模型的评估与优化............................................11

3.4.1模型的评估...........................................11

3.4.2模型的优化...........................................13

3.5前端设计与实现..............................................13

3.5.1系统前端设计.........................................13

3.5.2设计效果展示及分析...................................14

4小结............................................................15

参考资料...........................................................16

I

湖南商务职业技术学院毕业设计

基于深度学习R-CNN型的农作物病害检测方法设计

1引言

1.1项目背景和意义

随着全球气候变化和农业生产的规模化、集约化，农作物病害问题日益严

重，对农业生产造成了巨大的经济损失。传统的农作物病害检测方法主要依赖

于人工目视观察和经验判断，这种方法不仅效率低下，而且容易受到主观因素

的影响，导致误诊和漏诊。因此，开发一种高效、准确的农作物病害检测方法

迫在眉睫。近年来，深度学习技术在图像识别、目标检测等领域取得了显著的

进展。其中，R-CNN（Region-basedConvolutionalNeuralNetworks）作为一

种经典的深度学习模型，已经在目标检测领域取得了良好的应用效果。

基于R-CNN的农作物病害检测方法可以通过训练大量的农作物病害图像数

据，自动学习并提取病害特征，实现病害的自动识别和检测。提高检测效率和

准确，基于深度学习R-CNN型的农作物病害检测方法可以自动完成病害的识别

和检测，大大提高了检测效率。同时，通过大量的数据训练，模型可以学习到

更丰富的病害特征，提高了检测的准确性。降低人力成本，传统的病害检测方

法需要大量的人工参与，而基于深度学习的方法可以自动化完成检测任务，大

大降低了人力成本。促进农业生产智能化，该方法的成功应用将推动农业生产

向智能化方向发展，实现农业生产的自动化、精准化和智能化，提高农业生产

的效益和质量。推动深度学习在农业领域的应用，该项目的成功实施将为深度

学习在农业领域的应用提供有力的技术支撑和案例支持，推动深度学习在农业

领域的广泛应用和发展。

所以，基于深度学习R-CNN型的农作物病害检测方法设计具有重要的现实

意义和应用价值，将为农业生产提供有力的技术支撑和保障。

1.2项目的目的和目标

在农业生产中，农作物病害是一个长期存在的问题，对农作物的产量和质

量造成了严重影响。传统的农作物病害检测方法主要依赖于人工目视观察和经

验判断，这种方法不仅效率低下，而且容易受到主观因素的影响，导致误诊和

漏诊。为了解决这一问题，我们提出了基于深度学习R-CNN型的农作物病害检

测方法设计的毕业设计项目。

1

湖南商务职业技术学院毕业设计

项目的核心目的是利用深度学习技术，特别是R-CNN模型，实现农作物病

害的自动识别和检测。通过构建和优化R-CNN模型，我们可以从大量的农作物

病害图像数据中自动学习并提取病害特征，从而实现对病害的准确检测。这种

方法不仅可以大大提高检测效率，还可以减少人为因素的干扰，提高检测的准

确性。项目的目标不仅仅是开发一个模型，更是要构建一个完整的农作物病害

检测系统。这包括数据的收集、整理和标注，模型的训练、优化和评估，以及

检测结果的展示和应用。

通过这个系统，用户可以方便地上传农作物病害图像，并得到快速、准确

的检测结果。此外，我们还将关注系统的实际应用效果。通过与农户、农业合

作社等合作，我们将验证所设计的农作物病害检测方法的实际应用效果，并根

据反馈进行持续优化和改进。我们的目标是让这一技术真正服务于农业生产，

为农民提供更为智能、可靠的技术支持，推动农业生产的自动化、精准化和智

能化。

本项目的目的是利用深度学习技术解决传统农作物病害检测方法的不足，

提高检测效率和准确性；而项目的目标则是构建一个完整的农作物病害检测系

统，并推动其在农业生产中的实际应用，为农业生产提供更为智能、可靠的技

术支持。

2相关技术与工具介绍

2.1深度学习模型概述

深度学习模型是机器学习领域中的一个新的研究方向，主要是通过学习样

本数据的内在规律和表示层次，让机器能够具有类似于人类的分析学习能力。

深度学习的最终目标是让机器能够识别和解释各种数据，如文字、图像和声音

等，从而实现人工智能的目标。深度学习模型的核心是神经网络，特别是深度

神经网络。深度神经网络由多个隐藏层组成，可以学习输入数据的复杂特征表

示。通过逐层传递和学习，深度神经网络可以对输入数据进行分层次的特征提

取和抽象，从而学习到更加本质和有用的信息。

深度学习模型在很多领域都取得了显著的成果，如计算机视觉、语音识别、

自然语言处理、推荐系统等。在计算机视觉领域，深度学习模型可以识别图像

中的物体、场景和情感等；在语音识别领域，深度学习模型可以实现语音到文

本的转换和语音合成等；在自然语言处理领域，深度学习模型可以实现文本分

类、情感分析和机器翻译等；在推荐系统领域，深度学习模型可以根据用户的

2

湖南商务职业技术学院毕业设计

历史行为和数据预测用户的兴趣和需求，从而为用户提供更加个性化的推荐服

务。

总之，深度学习模型是一种强大的机器学习工具，可以自动学习数据的内

在规律和表示层次，从而实现对各种数据的识别和解释。随着数据的不断增长

和计算能力的不断提升，深度学习模型将会在更多领域得到应用和发展。

2.2目标检测技术介绍

目标检测技术是计算机视觉领域中的一个重要研究方向，旨在从图像或视

频中自动检测出感兴趣的目标物体，并确定它们的位置和大小。目标检测技术

在许多实际应用场景中发挥着重要作用，如安全监控、自动驾驶、人机交互等。

目标检测技术的核心在于如何准确地从背景中分离出目标物体，并确定它

们的位置和大小。这通常需要通过训练深度学习模型来实现。目前，基于深度

学习的目标检测算法已经成为主流方法，其中最具代表性的算法包括R-CNN系

列、YOLO系列和SSD等。R-CNN系列是目标检测领域中最经典的算法之一，其

基本思想是使用区域提议网络（RegionProposalNetwork，RPN）生成一系列

可能包含目标物体的候选区域，然后对每个候选区域进行分类和回归，以确定

目标物体的类别和位置。

R-CNN系列算法在精度上具有较高的性能，但计算复杂度较高，需要较长

的推理时间。YOLO系列算法则采用了不同的思路，它将目标检测视为一个回归

问题，直接在整张图像上进行端到端的训练。YOLO算法将目标检测视为一个单

次前向传递的过程，可以快速地检测出图像中的目标物体，并且具有较高的实

时性能。但是，YOLO算法在精度上可能略逊于R-CNN系列算法。

SSD算法则结合了R-CNN系列和YOLO系列算法的优点，它使用小卷积核来

预测固定大小的默认框（defaultboxes）的偏移量和类别置信度，从而实现了

快速的目标检测。SSD算法在速度和精度之间取得了较好的平衡，适用于实际

应用场景。除了上述算法外，还有许多其他的目标检测算法，如FasterR-CNN、

MaskR-CNN、RetinaNet等。这些算法在不同场景下各有优劣，需要根据具体

的应用场景和需求选择合适的算法。

总之，目标检测技术是计算机视觉领域中的一个重要研究方向，基于深度

学习的目标检测算法已经成为主流方法。随着技术的不断发展，目标检测技术

在许多实际应用场景中将会发挥更加重要的作用。

3

湖南商务职业技术学院毕业设计

2.3Web框架技术

Flask是一个轻量级的Web应用框架，基于Python编程语言开发，旨在

快速搭建Web应用程序。Flask是一个简单但功能强大的框架，由Werkzeug

工具箱和Jinja2模板引擎构建而成。

Flask框架的一些主要特点和优势,简洁轻便,Flask设计简单、易学易用，

整体结构精简，可以快速上手。易扩展,Flask框架本身功能简洁，但支持通过

扩展插件来增加功能，可以根据项目需求选择性添加扩展。Jinja2模板引擎,

Flask使用Jinja2模板引擎来实现模板渲染，使得在Web应用中生成动态内

容变得更加灵活和简单。RESTful支持,Flask对RESTful设计风格有良好的

支持，能够轻松构建RESTfulAPI。集成开发服务器,Flask包含一个简单的

集成开发服务器，便于开发和测试应用程序。

总的来说，Flask是一个灵活、简单且功能丰富的Web应用框架，适合快

速开发小到中型规模的Web应用程序和API。如果你是Python开发者并且希

望以简单和直观的方式构建Web应用，Flask可能会是一个很好的选择。开发

环境与工具

2.3.1Python简介

Python是一种面向对象的解释型计算机程序设计语言，由GuidovanRos

sum于1989年发明，1991年第一次公开发行。Python语法简洁清晰，特色之

一是强制使用空白符（whitespace）作为语句缩进。Python是纯粹的自由软

件，其源代码和解释器CPython遵循GPL（GNUGeneralPublicLicense）协

议。它常被昵称为胶水语言，能够把用其他语言制作的各种模块（尤其是C/C+

+）很轻松地联结在一起。一种常见的应用情形是，使用Python快速生成程序

的原型（有时甚至是程序的最终界面），然后对其中有特别要求的部分，用更

合适的语言改写，比如3D游戏中的图形渲染模块，性能要求特别高，就可以用

C/C++重写，而后封装为Python可以调用的扩展类库。Python具有丰富的和强

大的库，常被称为标准库。标准库涵盖了多个常见的任务，如文件处理、网络

编程、数据库接口、图形界面开发、科学计算等。

此外，还有大量的第三方库可供使用，例如NumPy、Pandas、Matplotlib

等，这些库在科学计算、数据分析和机器学习等领域非常流行。Python支持多

种编程范式，包括面向过程、面向对象和函数式编程。它也支持多种编程风格，

包括脚本编程和面向对象编程。这使得Python成为一种非常灵活和易用的语

4

湖南商务职业技术学院毕业设计

言。

总的来说，Python是一种功能强大、易于学习、应用广泛的编程语言，适

用于Web开发、数据分析、人工智能、科学计算等多个领域。

2.3.2开发工具的简介

PyCharm是一种Python的集成开发环境（IDE），由JetBrains公司开发。

它带有一整套可以帮助用户在使用Python语言开发时提高其效率的工具，包括

但不限于调试、语法高亮、项目管理、代码跳转、智能提示、自动完成、单元

测试、版本控制等。此外，该IDE还提供了一些高级功能，以支持Django框架

下的专业Web开发，同时支持GoogleAppEngine和IronPython。

PyCharm的主要特点包括,智能代码补全,PyCharm提供了智能代码补全功

能，可以自动完成代码片段，减少手动输入错误。语法高亮,它支持语法高亮，

使得代码更易于阅读和理解。PyCharm内置了强大的调试工具，可以帮助开发

者快速定位和解决代码中的问题。IDE提供了代码重构功能，可以帮助开发者

优化代码结构，提高代码质量。PyCharm支持多种版本控制系统，如Git、SVN

等，方便开发者进行代码版本管理。它提供了丰富的可视化接口，如项目管理、

运行配置等，使得开发者可以更方便地进行开发工作。PyCharm还支持自动部

署功能，可以自动将代码部署到指定的服务器上，方便开发者进行持续集成和

持续部署。

总之，PyCharm是一款功能强大的Python集成开发环境，可以帮助开发者

更高效地编写、调试、测试和部署Python应用程序。无论是初学者还是经验丰

富的开发者，都可以从中受益。

2.3.3第三方库简介

基于深度学习R-CNN型的农作物病害检测方法通常会使用到一些第三方

库，这些库提供了深度学习模型的构建、训练、评估以及推理等功能。以下是

几个常用的第三方库简介,TensorFlow,TensorFlow是Google开发的一个开源

深度学习框架，被广泛应用于各种机器学习和深度学习任务中。它提供了丰富

的API和工具，支持多种深度学习模型，包括R-CNN系列模型。

TensorFlow具有高效的计算性能，支持分布式训练，并且与Python等编

程语言兼容。PyTorch,PyTorch是Facebook开发的一个深度学习框架，具有动

态计算图和直观易用的编程接口。它支持GPU加速，提供了丰富的深度学习算

法和模型库，包括R-CNN系列模型。PyTorch在研究和原型设计方面非常受欢

5

湖南商务职业技术学院毕业设计

迎，因为它具有灵活性和易用性。Keras,Keras是一个高级深度学习框架，基

于TensorFlow、Theano或CNTK等后端引擎。它提供了简洁易用的API，方便

用户快速构建和训练深度学习模型。Keras内置了多种常见的深度学习层和模

型，包括R-CNN系列模型，使得模型构建变得更加简单。

这些第三方库都提供了强大的深度学习功能和灵活的工具，使得基于R-CN

N型的农作物病害检测方法的设计和实现变得更加容易和高效。根据具体的需

求和项目规模，可以选择合适的库来进行开发。

2.3.4Pytorch深度学习框架

PyTorch是一个基于Python的开源深度学习框架，由Facebook人工智能

研究院（FAIR）开发并维护。它提供了丰富的深度学习API接口，如Autograd、

Tensors、Optimizers等，使得构建深度学习模型变得简单高效。同时，PyTor

ch支持动态计算图，无需事先定义模型结构，可以灵活地调整模型结构，适用

于复杂场景下的模型构建。

PyTorch具有以下几个主要特点,动态计算图,PyTorch使用动态计算图，这

意味着模型结构可以在运行时动态调整。相比之下，TensorFlow等静态计算图

框架需要事先定义好模型结构。强大的GPU加速,PyTorch可以利用GPU进行高

效的并行计算，从而加速深度学习模型的训练。这使得PyTorch在处理大规模

数据集和复杂模型时具有显著优势。易于使用,PyTorch的API设计简洁直观，

易于上手。它提供了丰富的文档和教程，帮助开发者快速掌握深度学习技术。

生态系统丰富,PyTorch拥有庞大的生态系统，支持多种编程语言（如C++、Ja

va等）和硬件平台（如CPU、GPU、FPGA等）。

此外，PyTorch还提供了丰富的预训练模型和工具库，方便开发者进行模

型训练和应用开发。PyTorch在众多领域都有广泛的应用，如自然语言处理、

计算机视觉、语音识别等。一些知名的企业和研究机构，如Twitter、GMU和S

alesforce等，都采用了PyTorch作为他们的深度学习框架。

PyTorch是一个功能强大、易于使用且生态系统丰富的深度学习框架。它

适用于各种规模的深度学习项目，并为开发者提供了灵活、高效的工具来构建

和训练模型。

6

湖南商务职业技术学院毕业设计

3方法设计与实现

3.1数据集收集与预处理

3.1.1数据集的获取

数据集我们在OpenDataLab获取到开源数据集RIDERLungCTDataset是

玉米病害和严重程度(CD&S)数据集由511、524和562个田间采集的原始图

像组成，对应于三种常见的叶面玉米病害，即北方叶枯病(NLB)、灰叶斑病(G

LS)和北方叶斑病。

图3-1数据集截图

3.1.2数据集预处理

数据预处理是指在数据分析或机器学习任务之前，对原始数据进行清洗、

转换和整理的过程。数据预处理的目的是使数据更适合用于后续的分析和建模，

以提高模型的准确性和性能。常见的数据预处理步骤包括：

（1）缺失值处理，检测并处理数据中的缺失值，可以通过填充平均值、中

位数、众数或使用插值等方法来处理缺失值。

（2）异常值处理，识别和处理数据中的异常值，可以通过删除、替换或禁

止异常值来提高模型的准确性。

（3）数据标准化，对数据进行标准化或归一化处理，以消除不同特征的尺

度差异，使其处于相同的量级范围中。

7

湖南商务职业技术学院毕业设计

（4）特征选择：选择对模型预测目标有最大影响的特征，可以通过相关性

分析、特征重要性评估等方法来进行特征选择。

（5）数据转换：对数据进行转换，如对数变换、正态化、独热编码等，以

满足模型的假设或提高模型的性能。（下图是数据集预处理的核心代码）

图3-2数据预处理

图3-3数据预处理

8

湖南商务职业技术学院毕业设计

3.2深度学习模型选择与设计

3.2.1深度学习模型的选择

在选择深度学习模型时，需要考虑多个因素，包括模型的性能、复杂度、

计算资源需求以及具体的应用场景。对于农作物病害检测这一特定任务，以下

是几个可以考虑的深度学习模型及其特点：

R-CNN系列模型：R-CNN（Region-basedConvolutionalNeuralNetworks）

是最早的基于深度学习的目标检测算法之一。它通过区域提议网络（RegionP

roposalNetwork,RPN）生成候选区域，然后对每个候选区域进行分类和回归。

R-CNN系列模型具有较高的检测精度，但计算复杂度较高，需要较长的推理时

间。因此，对于实时性要求较高的应用场景，可能需要考虑其他模型。

YOLO系列模型：YOLO（YouOnlyLookOnce）是一种端到端的目标检测算

法，它将目标检测视为一个回归问题，直接在整张图像上进行训练。YOLO系列

模型具有较快的推理速度，适用于实时性要求较高的场景。然而，在精度方面，

YOLO可能略逊于R-CNN系列模型。

SSD模型：SSD（SingleShotMultiBoxDetector）结合了R-CNN和YOLO

的优点，使用小卷积核来预测固定大小的默认框（defaultboxes）的偏移量和

类别置信度。SSD在速度和精度之间取得了较好的平衡，适用于多种应用场景。

在选择模型时，还需要考虑以下几点，一是数据集大小，深度学习模型的

性能在很大程度上取决于训练数据集的规模。如果数据集较小，可能需要选择

复杂度较低的模型，以避免过拟合。二是计算资源，不同的深度学习模型对计

算资源的需求不同。例如，R-CNN系列模型需要更多的计算资源来训练和推理。

因此，在选择模型时需要考虑可用的计算资源。

综上所述，在选择深度学习模型时，需要综合考虑模型的性能、复杂度、

计算资源需求以及应用场景等因素。针对农作物病害检测任务，根据具体需求

选择R-CNN系列模型。

3.2.2模型的设计

我们将设计一个基于R-CNN（Region-basedConvolutionalNeuralNetwo

rks）的农作物病害检测模型。该模型将包含以下几个关键部分：

特征提取网络，选择ResNet-50或VGG16等预训练的CNN模型作为特征提

取网络。这些模型已经在大型图像分类数据集上进行了预训练，具有良好的特

9

湖南商务职业技术学院毕业设计

征提取能力。移除这些模型的最后几层（通常是全连接层），以便将其用于我

们的检测任务，如图3-4所示。

图3-4模型结构

CRNN是一种网络架构，由卷积层、循环层和转录层三部分组成。其底层结

构包括以下三个步骤，一是卷积层用于提取输入图像的特征序列，二是循环层

用于预测特征序列的每一帧的标签分布，三是转录层将循环层每帧的预测结果

转化为标签序列。

因此，CRNN的底部包含卷积层，用于自动提取特征序列，循环层用于预测

卷积层输出的特征序列的每一帧，顶部的转录层将循环层的每帧预测转换为标

签序列。虽然CRNN由不同类型的网络架构组成，如CNN和RNN，但利用损失函

数联合训练可以提高整体性能。

CRNN本体部分代码，在Init输入的维度是（1，32，w）w宽度不需要限制。

建立CNN模块，搭建两层LSTM神经网络，如图3-5所示

图3-5CRNN本体部分代码

10

湖南商务职业技术学院毕业设计

CNN卷积代码如下图3-6所示。

图3-6CNN卷积

3.3模型的编译与训练

要进行模型的编译与训练，我们需要准备数据集、定义损失函数和优化器、

设置训练参数，并编写训练循环.下图3-7是模型训练的核心代码。

图3-7模型训练

3.4模型的评估与优化

3.4.1模型的评估

模型评估是机器学习中的关键环节，用于衡量模型在未见过数据上的表现，

11

湖南商务职业技术学院毕业设计

从而帮助我们了解其泛化能力和预测准确性。对于R-CNN等目标检测模型，评

估通常涉及多个方面。首先，精度-召回率曲线（Precision-RecallCurve）是

目标检测中常用的评估指标。通过调整检测阈值，可以得到不同精度和召回率

的组合，绘制出相应的曲线。理想情况下，我们希望模型能够在高召回率的同

时保持高精度。平均精度（AveragePrecision,AP）是另一个重要指标。对于

每个类别，可以计算出一个精度-召回率曲线，AP是该曲线下方的平均精度值。

将所有类别的AP取平均，得到的mAP（meanAveragePrecision）是目标检测

任务中最重要的评估指标之一，用于综合衡量模型在不同类别上的检测能力。

本项目中PR曲线图如下图3-8所示。

图3-8PR曲线图

交并比（IntersectionoverUnion,IoU）是衡量预测边界框与真实边界

框之间重叠程度的重要指标。IoU值越高，说明预测框与真实框的重叠部分越

多，模型的定位能力越强。通常，IoU阈值设置为0.5或0.75，只有当预测框

与真实框的IoU超过这个阈值时，才认为预测是正确的。模型的推理速度（In

ferenceTime）也是一个关键评估指标，尤其是对于实时应用或嵌入式设备。

本次评估模型时，通常需要测量其在单个图像上的推理时间以及批量图像上的

平均推理时间。下图3-9为模型评估师，IoU的输出值。

图3-9交并比IoU的输出值

12

湖南商务职业技术学院毕业设计

3.4.2模型的优化

模型的优化是一个迭代的过程，它旨在提高模型的性能并减少过拟合。在

模型的优化阶段，我们可能会采取多种策略来调整和改进模型。我们使用ReLU

激活函数来进行模型优化，ReLU激活函数通常用于神经网络的隐藏层，因为它

有助于解决梯度消失问题，并且计算效率高。

我们首先定义了一个线性层，然后创建了一个随机的输入张量。将这个张

量传递给线性层后，我们得到了一个输出张量，模型优化代码如下图3-10所示。

最后，我们应用ReLU激活函数，将所有负值转换为0，得到了ReLU激活后的

输出张量。

图3-10模型优化代码图

3.5前端设计与实现

3.5.1系统前端设计

基于深度学习R-cnn模型的农作物病害的模型部署选择了Flask框架，该系

统包括了用户的上传和识别。前端界面如下图3-11所示。

13

湖南商务职业技术学院毕业设计

图3-11前端展示

3.5.2设计效果展示及分析

用户通过点击上传按钮，选择一张需要预测的图片，系统接收之后对图片

进行预处理，然后调用训练好的模型，并向前端页面返回预测结果，效果如下

图3-12所示。

图3-12效果展示

农作物病害检测项目在农业生产中扮演着至关重要的角色。这些项目通过

采用各种检测方法来识别和监测作物的病害问题，有助于农业从业者及时发现

并处理潜在的疾病威胁，从而保障作物的健康生长和最大产量。

农作物病害检测项目使用多种方法进行病害检测，其中包括目视观察、病

原体检测和生化检测等。这些方法在不同层面上提供了全面的分析，确保了检

测结果的准确性和可靠性。通过目视观察，检测人员可以在作物叶片、果实和

茎部发现可能存在的症状并做出初步判断。而病原体检测则更进一步，可以精

14

湖南商务职业技术学院毕业设计

确地识别和确认具体病原体的种类和数量，为病害的防治提供准确依据。生化

检测则通过检测作物组织和分泌物中的特定生化物质，深入分析作物生理状态，

并判断其患病程度和对抗能力。

农作物病害检测项目以其综合的检测方法、先进的仪器设备和科学的样品

处理方法，为农业生产的病害管理提供了坚实的技术支撑。通过持续改进和不

断优化，这些项目将继续发挥重要作用，帮助农业从业者更好地管理和保护农

作物，确保农产品的生产和质量。

4小结

本次毕业设计，我深入了解并实践了深度学习技术在农业领域的应用，尤

其是基于R-CNN的目标检测模型在农作物病害检测中的有效性和实用性。

R-CNN是一种经典的目标检测模型，它通过候选区域提取、特征提取和分

类三个步骤实现对目标的检测。我们首先进行了数据收集与标注，构建了包含

多种农作物病害的图像数据集；然后，使用ReLU激活函数来进行模型优化，通

常ReLU激活函数用于神经网络的隐藏层，有助于解决梯度消失问题