基于BP人工神经网络的数字识别

1、基于 BP 人工神经网络的数字识别摘 要人工神经网络技术在现在取得了巨大的发展, 它具有的高度非线性, 使我们 能表达一些至少是目前尚无法用计算理论表达清楚的外部世界模型; 同时, 神经 网络所具有的自学习, 自组织能力使我们能在与外部世界的交互作用下, 实现无 法用当前的计算理论表达清楚的功能;对于那些无法建立精确数学模型的系统, 神经网络有着独特的优势。本课题主要研究基于 BP 神经网络的方法来实现数字识别。首先对图像进行 灰度化、 二值化、 平滑去噪、 归一化、 细化的预处理, 以便于进行像素值的提取, 对设计好的神经网络进行训练, 对比训练的结果与期望的结构, 并根据对比的结 果对神经

2、网络的一些权值进行修改, 最终得到训练好的神经网络。 并选择测试样 本,进行仿真测试。整个仿真实验中, 对含数字的图片进行处理, 其数字识别效果可在本课题中 的 MATLAB 仿真实验中体现。关键词 :神经网络;灰度化;预处理;仿真测试目 录摘要 . II 目录 . III 1 背景介绍 . 4 1.1研究背景 . 4 1.2 数字识别的发展现状 . 41.3 本课题主要的研究内容 . 42 图像预处理 . 5 2.1 彩色图像的灰度化 . 5 2.2 灰度图像的二值化 . 5 2.3 梯度锐化 . 5 2.4 去离散化噪声 . 52.3 归一化调整 . 53 模式识别 . 6 3.1 特征提

3、取 . 6 3.2 BP神经网络 . 6 3.2.1 BP算法的多层感知器 . 6 3.2.2 BP算法过程 . 7 3.3 BP神经网络的设计与训练 . 9 3.3.1 BP神经网络的设计方法 . 9 3.3.2 BP神经网络仿真程序设计 . 93.3.3 BP神经网络测试 . 94仿真实验结果 . 95 总结 . 错 误!未定义书签。 参考文献 . 错误!未定义书签。1. 背景介绍1.1. 研究背景为了解决计算机字符的自动识别、 高速加工处理 , 使计算机达到真正智能化 , 人们对计算机识别进行了多年的研究 , 并取得了很大的进步。数字识别是字符识 别的一个分支,一般通过特征匹配及特征判别

4、的方法来进行处理 , 目前识别率还 较低。因此 , 为了提高识别率 , 还要寻求新的方法和途径。近年来 , 人工神经网络技术取得了巨大的发展 , 它所具有的优势:固有的并行 结构和并行处理、知识的分布存储、容错性、自适应性、模式识别能力 , 为手写 体数字识别开辟了新的途径。数字识别作为模式识别的一个重要分支 , 在邮政、税务、交通、金融等行业 的实践活动中有着及其广泛的应用。数字识别作为模式识别领域的一个重要问题, 也有着重要的理论价值。 一方 面,阿拉伯数字是世界各国通用的符号,因此,数字是一个重要枢纽。在符号识 别领域, 数字识别为这一领域提供了一个算法研究的平台。 另一方面, 数字的识

5、 别方法很容易推广到其它一些相关问题, 特别是对英文字母的识别, 但到目前为 止机器的识别本领还无法与人的认知能力相比,这仍是一个有难度的开放问题。 1.2. 数字识别的发展现状模式识别 (Pattern Recognition是对表征事物或现象的各种形式的 (数值 的、文字的和逻辑关系的 信息进行处理和分析,以对事物或现象进行描述、辨 认、 分类和解释的过程。 它是信息科学和人工智能的重要组成部分。 而数字识别 作为模式识别的一个分支。 在日常生活和科研中具有十分重要的作用。 数字识别 的算法一般是采用以知识、 神经网络、 人工智能为基础的模板匹配法、 轮廓多边 形相关、 傅立叶系数法等方法

6、来进行识别的。 以上方法识别效率高, 但是实现较 为复杂。1.3. 本课题主要的研究内容MATLAB 软件包含了被称为 Toolbox 的各类应用问题的求解工具。神经网络 工具箱正是在 MATLAB 环境下所开发出来的许多工具箱之一。 设计者则可以根据 自己的需要去调用工具箱中有关神经网络的设计与训练的程序 , 使自己能够从烦 琐的编程中解脱出来 , 集中精力去思考和解决问题。 人工神经网络 (ANN是理论化 的人脑神经网络的模型, 是模仿大脑神经网络结构和功能而建立起来的一种信息 处理系统。神经网络的一个最主要的功能就是分类, , 这个功能有助于机器的模 式识别。 本课题就是利用神经网络的分

7、类功能 , 并借助于 MATLAB 软件的神经网络 工具箱,采用具有自适应学习速率和附加动量因子的 BP 型神经网络,从而实现罗马数字的模式识别。2. 图像预处理由于自然和人为因素影响, 可能造成数字图像笔划缺损、 噪声严重及几何形 变等现象。故识别前必须对图像进行必要的预处理。图像处理流程如图 1所示。图 1 图像预处理流程2.1. 彩色图像的灰度化图像输入后一般都是 256色彩色图像, 因为 256色位图调色板内容复杂, 很多 算法无法进行,所以要进行彩色图像的灰度化。灰度化后灰度图像的 RGB 值是相 等的,只有亮度的不同,灰度值大的像素亮度也大,灰度值小的图像亮度暗,灰 度值为 255

8、的像素为白色,灰度值为 0的像素为黑色。2.2. 灰度图像的二值化彩色图像灰度化后每像素只有一个值, 即灰度值, 二值化就是根据一定标准 将图像分成黑白二色。 因为本课题所做的是扫描图像, 所以用给定阈值法, 给定 阈值为 220。2.3. 梯度锐化因为二值化后的图像字体模糊, 所以有必要进行梯度锐化。 梯度锐化同时对 噪声也起一定的去除作用,在这里采取 Roberts 算子对图像锐化,可以让模糊的 边缘变清楚,同时选用合适阈值可以减弱和消除细小的噪声。2.4. 去离散噪声由于图像的扫描和传输过程可能夹带噪声, 所以需要去离散噪声。 具体方法 是:扫描整个图像, 当发现一个黑色像素就考察和它直

9、接或间接相连的黑色像素 有多少,如果大于一定值(具体数值视情况定 ,就可以认为它非离散点,否则 就认为他是离散点,将其从图像中去掉。2.5. 归一化调整因为扫描的字符大小存在差异而对同一尺寸的图像进行识别准确率高一些, 所以要进行归一化调整。 归一化方法是先得到原来字符的高度, 并与系统要求的 高度比较, 得出高度变换系数, 然后根据这个系数得到变换后应有的宽度, 得出 高度、 宽度后, 把新图像里的点按照插值的方法映射到原图像, 为了以后特征提 取方便, 进行 BP 网络训练时缩短训练时间, 高和宽不宜设置过大。 这里取高为 m , 宽为 n 。3. 模式识别3.1. 特征提取经过预处理,

10、把原来大小不同、 分布不规律的各字符变成大小一样、 排列整 齐的字符。 下面要从预处理完的字符中提取最能体现这一个字符的特征向量, 将 提取出的训练样本中的特征向量代入 BP 网络中就可以对 BP 网络进行训练。 提取出 待识别的样本中特征向量代入训练好的 BP 网络中就可以进行识别。 在这里采取逐 像素特征提取法, 方法是对图像进行逐行逐列扫描, 当遇到黑色像素时, 取其特 征值为 1, 当遇到白色像素时, 取其特征值为 0。 这样扫描结束后就形成一个维数 与图像中像素点的个数相同的特征向量矩阵。3.2. BP 神经网络3.2.1. BP算法的多层感知器采用 BP 算法的多层感知器是至今为止

11、应用最广泛的神经网络, 在多层感知器 的应用中,一般习惯将单隐层感知器称为三层感知器,所谓三层包括了输入层、 隐层和输出层。三层 BP 神经网络如图 2所示。 图 2 三层 BP 网 三层感知器中,输入向量为, 隐层输出向量为 , 输出层输出向量为 , 期 望输出向量为 ,输入层到输出层的权值为,隐藏层到输出层的权值矩阵为 , 各层之间的信号关系如下: 对输出层有: 对隐藏层有: 上式中,变换函数 f (x 均为单极性 sigmoid 函数 F (x 具有连续可导的特点, 以上共同构成三层感知器的数学模型3.2.2.BP 算法过程(1初始化对权值矩阵 W 、 V 赋随机数, 将样本模式计数器

12、p 和训练次数计数器 q 置为 1, 误差 E 置 0,学习率 设为 01内的小数,网络训练后达到的精度设为一个正的小数。(2输入训练样本对,计算各层输出用当前样本对 X , d 序列赋值 (3计算网络输出误差设共有 P 对训练样本,网络对于不同的样本具有不同的误差: 采用均方根误差作为总误差: (4计算各层误差信号 (5调整各层权值 (6检查是否对所有样本完成一次轮训若 p<,P,计数器 p 、 q 增 1,返回步骤(2 ,否则转步骤(7 。 (7检查网络总误差是否达到精度要求BP 学习算法的流程如图 3所示。图 3BP 学习算法的流程图 3.3.BP 神经网络设计与训练3.3.1.B

13、P 神经网络的设计方法按照 BP 神经网络设计方法选用两层 BP 网络。采用 newff 函数来建立 BP 网络。 其输入节点数为 16×16=256, 隐层传输函数为 Sigmoid 函数。 假设用一个输出节 点表示 10个数字,则输出层传输函数为 pureline ,隐层节点数为101(1256=+a a ,取 25。3.3.2. 神经网络仿真程序设计构造训练样本集,并构成训练所需的输入向量 p 和目标向量 t. 通过画图工具 获得数字。本例构造了新宋体 12号、 8号字体各 10个,黑体 12号、 8号各 10个,及 宋体加粗 18号字体。3.3.3. 神经网络测试。由于图像处

14、理的复杂性, 对于不同噪声的污染选择不同的方法, 选择没有噪 声的数字进行测试。 选择训练样本中的任意数据进行测试, 结构非常正确。 选择 生成的新宋体 8号大小的数字进行测试。结果正确,选择其他类型的字体进行测 试,则结果不是完全正确。4. 仿真实验的结果简单起见, 只对含有单独数字的图片样本进行识别, 不涉及分割字符等前期 处理。使用 BP 网络进行数字识别的流程如下:首先利用大量的训练样本来训练网络, 以得到以文件形式保存的权值。 训练 样本为精心选择的可以很好地反映样本可分特性的已知数据。 将训练样本图片进 行特征提取后,就可以送入 BP 网络进行训练。其次, 训练完 BP 网络后就可

15、以用它对未知数据进行识别了。 首先要经过预处 理,然后进行特征提取,最后送入 BP 网络直至得出结果。数字识别效果如图 4、 5、 6所示。 图 4 数字 0的识别效果 图 5 数字 4的识别效果 图 6 数字 9的识别效果5. 总结数字识别是多年来的研究热点, 将神经网络应用于数字识别是神经网络应用 最为成功的方面之一, 人工神经网络在模式识别问题上, 相比其他传统方法有其 优势:要求对问题的了解较少; 可以对特征空间进行较复杂的划分; 适用于高速 并行处理系统来实现。本课题结合神经网络技术, 对数字识别问题进行了探讨和研究, 主要研究成 果如下:(1针对数字数据,首先进行了灰度化、二值化、

16、平滑去噪、归一化、 细化等常规预处理, 然后对处理完的数字图像进行特征提取, 提取了能体现字符 特点的特征向量。 (2针对数字识别问题, 研究了 BP 神经网络分类器的建立和识 别过程。仿真结果表明, 对于字体和字号与训练样本集相同的测试样本, 无论图像中 的数字在什么位置, 都可以识别出来, 而对于字体和字号与训练样本集不同的测 试样本, 只有一部分能正确识别。 并且对于带有噪声的数字, 运行程序的实验结 果是不理想的, 所以本课题程序有待于进一步的整理和调试。 为提高识别率, 可 以增加训练样本,或通过增加字体的特征向量等途径来解决。参考文献 1 李望晨.BP 神经网络改进及其在手写数字识别中的应用.第 3-4 页.哈尔滨工 业大学硕士学位论文,2006.6 2 刘长安.人工神经网络的研究方法及应用电子工业出版社出版,2004.7 3 R.C.Gonzales 等. 阮秋崎等译.数字图像处理 电子工业出版社出版,2002.5 4 王正林，刘明.精通 MATLAB 7M.