（计算机应用技术专业论文）基于bp神经网络的字符识别技术研究.pdf

。 k ，一 飞 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作 及取得的研究成果。据我所知，除了文中特别加以标注和致谢的地方 外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含为 获得电子科技大学或其它教育机构的学位或证书而使用过的材料。与 我一同工作的同志对本研究所做的任何贡献均己在论文中作了明确的 说明并表示谢意。 答名如期 签名： 么曼竺l 二 q 日期：沙) 论文使用授权 年夕 月砂6 日 本学位论文作者完全了解电子科技大学有关保留、使用学位论文 的规定，有权保留并向国家有关部门或机构送交论文的复印件和磁盘， 允许论文被查阅和借阅。本人授权电子科技大学可以将学位论文的全 部或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫描 等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后应遵守此规定) 签名：导师签 月；日 _ l 一 ， l 少 - ， l k i 心 垫墨 摘要 如今模式识别技术广泛应用于人工智能领域，如网络搜索引擎，文件自动分 类，生物特征识别，图形图像识别等。作为其中的一个分支，图像字符的识别一 直以来都是研究的热点，如车辆牌照、邮政编码、手写文档、印刷文档、网页验 证码识别等等都存在对图像识别的需求。由于图像字符的识别技术在诸多需要对 信息进行自动识别处理的领域都有着极大的理论意义与实用价值，我们针对上述 需求，以图像字符为对象，通过对神经网络字符识别以及相关的图像处理技术的 研究，总结出一套完整的、行之有效的字符识别方法，同时封装出可供重用的函 数库供应用开发使用。本文将对以上内容的研究过程进行整理，主要介绍一下几 个方面： 1 计算机图形图像处理方法研究 w i n d o w s 操作系统下的增强图形设备接口( g d i + ) 研究，分析图像识别及预处理 所需的关键图形对象和图像操作方法的描述。 2 字符目标定位算法研究与实现 由于图形识别是以字符为单位进行，因此需要字符目标进行定位，我们设计了 边缘检测方法以确定字符在图片上所呈现的区域范围，再将字符对象从背景图像 中提取出来。 3 图像优化算法研究与实现 不同来源的图片识别效果也千差万别，为提高识别准确度，需要对目标字符进 行预处理，包括灰度化、二值化、锐化、去噪点、斜度调整等操作，本文分析了 这些操作的关键步骤或提供了实现思路。 4 神经网络采用方法的研究与实现 重点研究了感知器状态提取法在图像识别中的使用。通过对比发现感知器状态 提取法结合以信息熵为判断依据的特征筛选法，在运行效率以及识别适应性方面 都比传统的逐像素特征提取法有了很大的提高。 5 字符识别方法研究与实现 以误差回传神经网络( b p ) 模型为基础的字符识别的方法研究，对开源项目 a f o r g ef r 锄e w o r k 中的神经网络部分进行分析，利用其对b p 网络结构的封装实现 神经网络的创建、训练和字符识别。 6 对核心处理函数进行封装 通过代码实现前阶段的研究得出的算法，封装成可重用的模块。模块以n e t j 堕望l 一 程序集的形式进行封装，可以方便的供c # ，c + + ，v b n e t 等程序调用。 7 测试平台的设计和实现 为了验证研究的成果，编写相应的测试程序进行验证，根据结果再对各阶段算 法进行优化改良。 关键词：神经网络、b p 、字符识别、位图 i i k 吣 a b s t r a c t a b s t r a c t 怕d a y s ，t h ep a t b e mr e c o g n j t i o n 哦h n o i o g yw i d e i ya p p | 鹤i nt h ea r t j f i c i a ii n t e i l i g e n c e d o m a i n ，i l 埏n e “旧一( s r c he n g i n e ，d o c u m e n ta u 幻m a t i cs 0 嘣n g ，b i o i o g i c a lf e a t u 暇 r i 当g n i t i o n ，g r a p hp a l 士e mn e c o g n i t o na n ds oo n a s ab 阳n c h ， g 阳p h i cc h a r a c t e ，s r e o o g n i t i o nh a sb e e na r o u s e dg e n e 陀1 n t e r e s t ，i i k et h ev e h i c i e si i o e n s ep l a t e ，t h ez i p d e ， t h eh a n d - w n t 七e n d o c u m e n t s ，p n n t n gd o c u m e n 嗡 t h ew e b p a g ec o n 行n 1 1 a t o n d e 嘣o o g n i t i o na n ds o o ne ) ( i s t st ot h ep a 仕e mr e g n i t i o nd e m a n d b e c a u 轮g 怕p h i cc h a 陀c t e r t s n 暑g n i 廿o n 眦h n 0 1 0 9 yl nm a n yn e e d st oc a r r yo na u t o m a t cd i a g n o s i sp t d o e s s j n gt ot h e i n f o 丌n a t i o nt h ed o m a i nl dh a v et h ee n o r m o u st h e o r ys i g n i f i c a n c ea n dt h eu s ev a i u e ，w ei n v i e wo ft h ea b 0 、，ed e m a n d ，t a k et h eg 阳p h i cc h a 阳c b e ra st h eo b j e c = t s ，b a s e do nt h er e s e a r c h o f n e u 隐i n e t v v o r kc h a 旧c t e r r e g n i t i o na n d r e i a 乞e di m a g e r y p n o c 酷s i n gt e c h n o i o g s u m m a r z e sas e tc o m p r e h e n s i v e i t h ee 仟e 酬v ec h a r a c 断彻g n i t i o nm e t h o d m e a n w h i i e ， s 朗i st h ei b r a r yw h i c hm a ys u p p l yt 0e n t r u s tw j t hh 朗v yr e s p o n s b i l i t yt os u p p i yt h e a p p i c a t o nd e v e i o p m e n tu s e t h i sa 内c l ew i lc a r r yo nt h er e o r g a n i z a t o nt oa b o v e n t e n t 。s r e s e ar i c hp 眦e s s ，m a i n i yi n t 剃u c e sn e x ts e v e 阳ia s p e c t s ： 1 ( b m p u 乞e rg 陀p hi m a g e r yp r o c e s s i n gm e t h o ds t u d y s t u d yw i n d o v v so p e 阳t n gs y s t e m 。sg 旧p h 心d e v g ei n t e r f a c ep i u s ( g d i + ) ，a n a i y z e e s s e n t a ig 阳p h ko b j e c ta n di m a g eo p e r a t i n gp r o c e d u r ew h i c hp a t t e mr e g n i t i o na n d t h ep r i e t r 羽t m e n tn e e d e d 2 r e s 翰r c ha n dr 昀i i z ；n gf o rt h ea | g o r i t h mo ft a r g e to b j e c tl o c a i i 趵t l o n b e c a u s et h ep a t c i e mn e g n i t i o ni sc a r r e so nt a k et h ec h a 阳c 七e ra st h eu n i t ，t h e r e f o r e n e e dt oi o c a t et h ec h a 阳c t e ro b j e c to nt h ep i c t u r e w ed e s i g n e dt h em a r g i n a lc h e c k m e t h o db y 毛od e t e n l l i n et h a tc h a r a c t e ra r e ac o v e r a g ew h i c hp r e s e n 乞e do nt h ep i c t u r e ， t h e ne x t 阳c tt h ec h a 旧c t e ro b j e c tf o mt h eb a c k g r o u n di m a g e s 3 f 论s e a r c ha n dr e a i i z i n gf o ri m a g eo p t i m i z a t o na i g o r i t h m 1 1 1 ed i 仟e r e n to r g i np i c t u r e 嘣瑚n i t j o ne 胞c tt db ea i s oi n f i 介t e i yv a n e d ，f o rp r o m o t e t i e g n i t i o na c c u 隐c y ，n 朗d st oc a r r yo nt h ep r e t r e a t m e n tt ot h eg o a ic h a 瞄c 七i n c i u d i n g m a l 皑g r a b i n ar z a t i o n ，s h a r p e n ，d e n o i s i n g ，a s o e n ta d j u s t r n e n to p e r a t i o n sa n ds 0o n ， u i ， a b s t r a c t t h i sa r t i c i eh a sa n a i y z e dt h e 轮o p e 阳t i o n m m i t 恻s t e po rp r 0 、，d 酷i d 朗f o r 陀a i i z i n g 4 r e s r c ha n dr e a i z et h em e t h o d s0 fn e u 阳in e t w o 水n e c o g n i z i o n s t u d i e c it h en 苎0 e p t o rs t a t ee 乜a c t i o n p n d o e s si np a t t e mn 捌n i t i o na se m p h a s i s t h r o u g ht h e n 的s td i s v e 吖r e c e p t o rs t a t ee ) ( t 阳c t i o np r o s s ，mb n e w i t t l j u d g m e n tb yi n f o r m a t i o ne n b _ 0 p wh a dt h ev e b i ge n h a n c e m e n ti ne 仟i d e n c ya n d c o m p a t b i t yc o m p a r 削t dt h e 的d i t i o n a ii e 仕e rp e lc h a 阳c t e r s 廿c 似晌c t i o np r o c e s s 5 r e s e a r c ha n dr e a i i z et h ec h a 阳c t e r 陀g n i t i o nm e t h o d 1 苔i ( et h eb pn e u r a in e t l o r kn l o d e ia st h ef o u n d a t i o no fc h a r a c t e rn 亭0 0 9 n i t o nm e t h o d s t u d yt h en e u 陀l n e h o r kp a r t0 fo p e ns o u 脱p r o j e 吐a 的r g ef 阳m e w o 心u s 笛j tt o r e a z et h en e u r a in e t w o r j ( f o u n d a t i o n ，r e a l i z et h ec r e a t i o n ，勺旧i n i n ga n dc h a r a c t e r r e g n i t i o nb yt h ef 阳m e w o r k 6 ( = a r n e so nt h es e a it 0t h e 陀p r o c e s s i n gf u n c t i o n r e a z et h ea i g o n t h mw h i c hb e f o r et h e d et h es t a g er e s e a r c hr e s u i t s ，毙a i sm o d u i et h a t c a nb er e 。u s i n g t h em o d u i ec ar r e so nt h es 朗ib yt h e n e ta s 轮m b l y ，m a y 向c i l i t a t e s u p p i i e s 雠，“+ ，v b n 瓯e t c 7 d e s i g na n d 嘲l i z et h et e 鲥n g t oc o n f i r mt h ea c h i e v e m e n to f 陀s e a r c h ，c o m p i i e st h e 鹏s p o n d i n g 乜e s to r d e r 的c a r r y o nt h ec o n f i r m a t l o n ，c a r r e so nt h eo p t m i z e di m p r i d v e m e n ta g a i na o c o r d i n gt ot h er | e s u l t t 0v a r i o u ss t a g e sa l g o r t h m k e y w o r d s ：n e u r a ln e 帆o r l ( s 、b p 、c h 嬲瓜e ri 沁c o g n i t i o n 、b m n 印 l v t 。， k q 目录 目录 第一章绪论1 1 1 人工神经网络的发展概况及现状1 1 1 1 人工神经网路的起源1 1 1 2 神经元模型2 1 1 3 神经网络的结构4 1 1 4 神经网络的学习过程6 1 1 6 神经网络的研究与应用7 1 2 字符识别的研究历史及现状7 1 2 1 字符的表示7 1 2 2 字符识别的过程9 1 2 3 字符识别的方法9 1 2 4 基于神经网络的字符识别1 1 1 3 本论文的选题和研究内容1 2 1 3 1 选题背景1 2 1 3 2 选题的应用价值1 2 1 3 3 课题的可行性1 2 1 3 4 本课题的研究内容1 2 1 3 5 本课题的研究目标1 3 第二章相关技术1 4 2 1 图像处理1 4 2 1 1 图像的存储1 4 2 1 2 图像的颜色系统1 5 2 1 3b m p 图像的文件格式1 7 2 1 4g d i + 图形1 7 2 2 感知器模型1 8 2 2 1 单层感知器1 8 2 2 2 多层感知器1 9 2 3 误差回传神经网络一一b p 网络2 0 2 3 1b p 网络的学习期2 0 2 3 2b p 网络的工作期j 2 l 2 3 3 正向传播2 1 2 3 4 反向传播2 2 2 3 5b p 网络学习算法2 3 2 3 6b p 网络的优点2 4 v 目录 2 3 7b p 的改进2 4 第三章字符识别方法的研究与实现2 6 3 1 字符识别模型的建立2 6 3 2 实验环境的搭建2 6 3 3 图像预处理2 6 3 3 1 位图灰度化2 7 3 3 2 图片二值化2 8 3 3 3 图片锐化处理3 0 3 3 4 去噪点处理3 1 3 3 5 图片的初步裁剪3 1 3 3 6 整体倾斜度调整3 3 3 3 7 字符分割；3 3 3 3 8 图像的归一化处理3 5 3 3 9 特征提取3 5 3 4 字符识别3 6 3 4 1 传统的字符识别方法3 6 3 4 2 改进的字符识别方法3 9 3 4 3 实验测试4 1 3 4 4 实验结果分析4 4 第四章总结和展望4 6 致谢 参考文献 附录 v i ， 8 9 1 4 4 5 i i ；l l q 第一章绪论 第一章绪论弟一早硒化 随着人工智能技术的发展，越来越多的人研究模式识别技术及其应用，模式 识别被广泛应用于多种人工智能领域，如图像字符识别、语音识别、手写识别、 生物特征识别、文件分类、网络搜索引擎等。模式识别方法和技术较多，在现在 的模式识别方法中，基于人工神经网络的模式识别方法依旧是比较年轻的模式识 别方法，人工神经网络和人脑有很多的相同的特性，如高度并行性、良好的容错 性、强大的记忆性等，自适应学习能力与容错能力都较强，可用于模式识别、信 号处理、知识工程、专家系统、优化组合、机器人控制领域。本章将简述人工神 经网络原理、模型及人工神经网络技术的发展概况，随后介绍字符识别技术的研 究历史及发展现状，最后介绍本论文的选题和研究内容。 1 1 人工神经网络的发展概况及现状 1 1 1 人工神经网路的起源 在计算机的技术中，人工神经网络是一种较新和发展中的科学，人工神经网 络模仿人们大脑神经突触联接的结构实现应用系统和相应功能。工程与学术界也 常直接简称为“神经网络 或“类神经网络 。 众所周知，大脑高度复杂，能并行处理大量的工作，具有学习、识别、推理论 证、判断和修复等功能。这些复杂机理运作都需要依靠生物的神经系统进行传送 和处理各种信号。生物神经系统是一个有高度组织和相互作用的数量巨大的细胞 组织群体。人类大脑的神经细胞大约在1 0 一1 0 1 3 个左右。神经细胞也称神经元， 是神经系统的基本单元，每条神经与其它几千条神经相连，通过这种交错的连接 方式，不同数量的能量通过神经进行收发。它们按不同的结合方式构成了复杂的 神经网络。神经的一个非常重要的功能是它们对能量的接受并不是立即做出响应， 而是将它们累加起来，当这个累加的总和达到某个临界阈值时，它们将它们自己 的那部分能量发送给其它的神经，这个过程可看作是量变到质变的过程。大脑通 过调节这些连结的数目和强度进行学习，将学习的结果以记忆的方式存放，当再 次遇到类似的信号可以迅速做出识别。通过神经元及其联接的可塑性，使得大脑 电子科技大学硕士学位论文 具有学习、记忆和认知等各种智能。 和生物的大脑不同，传统的计算机是顺序工作的，在同一时刻只能处理一条 指令，如果要进行多任务和复杂事物的实时处理需要更快的速度和并行处理能力。 计算机在数值运算和逻辑运算方面具有高速运算能力，但对诸如视觉、听觉、联 想记忆和形象思维等问题的处理能力差。大脑具有思考的功能，大脑的神经能在 毫秒内高速响应，促使大脑在微秒内进行信号的处理，在进行特定的信号识别处 理时神经的处理速度比今天已有的最快的计算机的处理速度还要快。大脑信息处 理的并行速度己达到了极高的程度。例如对人脸识别，对人脑而言，几秒钟便可 识别，但如果用计算机来识别，以现有的技术，是不可能在短时间内完成的。所 以计算机目前不可能全面解决认知问题和机器智能化问题它对高层次脑功能的 宏观模拟很有效，而对一些低层次的模式处理则至今还有许多困难。 把计算机的高速运算能力和模拟实现大脑的并行分布式联想处理能力结合起 来推动了人工智能的发展。人工神经网络的产生来源于上述理念，是受到自然界 的生物( 人或其他动物) 上亿条神经的运作方式的启发而产生的。神经网络是一种 运算模型，用计算机来模拟人脑的结构，用许多小的处理单元模拟生物的神经元， 用算法实现人脑的学习、识别、记忆、思考过程。 1 1 2 神经元模型 神经元是神经网络操作的基本信息处理单位。神经元模型是神经网络的设计 基础，图卜1 显示了最早神经元的模型之一的m p 模型，属于一种阈值元件模型。 m p 模型是大多数神经网络模型的基础。 输入信号 突触权值 恐 殇， 偏置 激活函数 图卜1 神经元模型 2 输出 y k 榔甲巩 第一章绪论 神经元模型的三种基本元素： 1 链接权或突触权 表示每个对应的权值或者强度表示特征。图中w ，k 1 一、 j 吼为神经元各个突触的权 值。突触权的一般限定在一定范围内取值。 2 加法器 用来求输入信号神经元的被相应突触作用以后的加权和，经过这个操作将构成 线形的组合器。图中用符号表示。 3 激活函数 用来限制神经元输出的振幅，也称为压制函数，经过这个函数作用以后将把输 出的结构限定在某一特定范围。激活函数选择单调的上升函数，而且要求是有界 的函数，因为细胞的传递信号不可能无限的增加，必须要有一个最大值。通常情 况神经元输出范围限定在 0 ，1 或者 一1 ，1 的闭区间上。常使用的激励函数有 阈值函数、分段线性函数、s i g m o i d 函数。其中s i g m o i d 函数也称为s 型函数，它 是人工神经网络中用的最多的激励函数。图中用，表示。 和神经元相关的其他元素： 1 输入分量：图中x 1 一x m 表示 2 外部偏置：图中b k 表示 3 神经元输出：图中y k 表示 神经元模型是这样一个模型：神经网络接收大量的输入信号，输入信号经过突 触权值进行放大或缩小，把经过权值作用后的输入信号累加起来形成一个输出信 号，再通过激活函数把这个输出信号限制在允许范围里面的特定值。 用数学公式来描述神经元如下： 甜t = y w “x ，公式：卜1 2 乙 公瓦：l - l _ ，；l y i = 厂 + 瓯) 公式：卜2 可以使用连续型的函数来表达神经元的非线性变换能力，激活函数f 常采用s 型函数，它是一个严格的递增的函数，在线性与非线性的行为之间表现出了很好 的平衡。它常采用的一个例子是1 0 9 i s t i c 函数，定义如下： m t ) 2 瓦啬 公式：1 3 其中q 是s 函数的倾斜参数。s 函数的图像如图卜2 所示。 电子科技大学硕士学位论文 。，r i “) i 厂 o 1 1 3 神经网络的结构 图卜2s 函数 上节描述了单个神经元模型，神经网络由成千上万个神经元组成，它们之间 是如何连接在一起的呢? 研究发现，物体在人脑中反映带有分组的特征，物体部 分看成黑区，非物体部分看成白区。这点启发我们可以将神经元分成不同的组， 按照分组的方式组织神经元。如果用拓扑结构来表示，不同的组就放入不同的层 中，使用层次结构来组织神经元。一个网络要有用，必须要有从外界获得各种输 入和可以预测的输出，神经网络的输入输出不是用眼睛来感知，也不是用手去触 摸，而是依靠输入、输出以及隐藏部分的相互作用构成，于是划分了输入、输出 和隐藏层。 层次的划分形成了神经元之间三种不同的互连模式：层内联接、循环联接、 层间联接。 1 层内联接 同一层内的神经元之间的联接，可对神经元起到加强或抑制的作用，当需要 增强神经元的作用，联结权值取正值，当需要减弱神经元的作用，联结权值取负 值。 2 循环联接 神经元和自身之间的联接，用于不断加强本身的激活值，使本次的输出与上 次的输出相关，这是一种特殊的反馈信号。 3 层间联接 不同层之间的神经元相互联接。主要用来实现层与层之间信号的传递。在复 杂的网络中，层间的传递信号既可以是向前的，也可以是向后的，前者称为前馈 信号，后者称为反馈信号。反馈普遍存在的，一般在动态系统中出现较多，系统一 个输入信号经过网络变换后产生一个输出，这个输出信号将影响系统之前的输入 信号，于是将这个信号反馈回输入端，产生一个新的输入信号，如此反复，形成 4 第一章绪论 了一个或多个围绕着系统传输的封闭路线。我们希望系统的不断循环迭代，在某 一时刻输入和输出不再发生变化或者变换很小，系统稳定下来，这时候的输出可 看作是最为理想的输出。稳定性是反馈系统突出的特征。 按照信号的传送方式和需要使用的层的数量我们将神经网络的结构划分成为 以下三种： 1 单层网 单层网是最简单的分层网络，源节点构成输入层，直接作用于神经元的输出 层。如图卜3 所示。 源节点( 输入层)神经元输出层 图1 3 单层神经网络 2 多层网 多层网是在单层网的基础上增加一层或多层隐藏节点层，相对应的隐藏节点 称为隐藏单元或隐藏神经元。隐藏层位于输入层和输出层之间，可提高网络的计 算的能力。如图卜4 所示。 图l - 4 多层神经网络 3 反馈网 反馈网是将输出信号反回到输入端，形成一个循环结构，引入反馈后可解决 上一次的输入无记忆的问题，可对输入信号起到加强和修复的作用，提高网络的 性能。如图卜5 所示。 电子科技大学硕士学位论文 图1 5 多层神经网络 1 1 4 神经网络的学习过程 神经网络的一个重要的特性是能从外界的环境中学习，并且能够被外界的环 境所激励，在不断激励的过程中促使自身权值发生改变，如此反复的学习，最终 达到预想的目的。人们的学习过程主要分为有3 种：有导师的学习、无导师的学习 和强化学习。从模仿人的学习过程中，人们提出了多种神经网络的学习方式，按 学习方式进行神经网络模型分类，可以分为相应的2 种，有导师学习网络、无导师 学习网络。根据学习方式不同又形成了多种学习规则，常见的学习规则有： 1 误差修正学习 这是一种有导师的学习过程，基本思想是计算神经元的希望输出与实际的输 出之间的差值，然后根据公式来修改联接权值，最终减少这种偏差。 2 基于记忆的学习 这是一种无导师的强化学习过程，基本思想是将以往的经验存储起来，形成 记忆，在存储的最近记忆中找到期望的输出。 3 h e b b 型学习 这是一种无导师的强化学习过程，基本思想是通过改变神经元之间的结合强 度进行神经网络的学习，这种学习方式仅根据和它相关的神经元的联接的活化水 平进行权值的修改，如两神经元同时兴奋，联接则加强，反之即减弱。 4 竞争型学习 这是一种无导师的学习过程，基本思想来源于达尔文的进化论一一“适者生 存”，所有的神经元相互争夺响应外界刺激的权利，竞争取胜的神经元的联接权值 增强，更有利于朝成功方向发展。 5 随机型学习 这是一种有导师的学习过程，基本思想是结合随机过程、概率和能量等概念来 调整网络的变量( 联接权或神经元的状态) ，从而使网络的能量函数最小( 或最大) 。 能量函数可以定义为问题的目标函数或者网络输出的均方差函数。 6 第一章绪论 1 1 5 神经网络的研究与应用 对神经网络的研究可以分为理论研究和应用研究两大方面。 1 对神经网络的理论研究 神经网络的理论研究可分为以下两类： ( 1 ) 根据神经的基础理论知识研究人类思维和智能机制。 ( 2 ) 利用神经基础理论的研究成果，用数理知识推导和证明，设计性能更加优 越、功能更加完善的神经网络模型，不断研究神经网络相关的算法和性能，如： 收敛性、稳定性、容错性、鲁棒性等；开发新的神经网络数理理论，如：神经网 络动力学、动态模糊神经网络等。 2 对神经网络的应用研究 神经网络的应用研究可分为以下两类： ( 1 ) 软件模拟以及硬件实现神经网络的应用研究。 ( 2 ) 神经网络在各个领域中应用的研究。神经网络可用于信号处理，模式识别， 趋势预测，专家系统，优化组合，机器人控制等领域。 黟 基于人工神经网络的字符识别是神经网络用于模式识别的应用。 研究人工神经网络普遍采用自下而上的方法，首先了解和认识脑的神经系统 结构，然后研究脑的功能，进一步研究大量简单神经元的海量信息处理能力和它 们的动态行为。目前，利用神经网络的理论解决了很多困扰计算机科学和符号处 理的难题，取的了比较令人满意的答案，对某些一般性问题的求解更显示出某独 特的能力，包括时间和空间信息存贮、统计、自组织能力，联机并行搜索能力， 自组织联想记忆能力以及从一些相互关联的活动中自动获取知识能力等。人工神 经网络引起了人工智能的很多研究者们的大力关注，并普遍认为神经网络的方法 适合于低层次的模式处理。 1 2 字符识别的研究历史及现状 1 2 1 字符的表示 不同的语言使用不同的符号表示，这些符号可以使用音、调或单字来表示。以 结构方式形成的符号有不同的组织方式，大部分是按照空间位置和结构来组织的。 高度结构化的英文字母集能很容易在一个独立的空间上表示，中度结构化的希腊 字母是以音和调表示，就像中文拼音上标注音调，这样一个字符就要分两部分表 7 电子科技大学硕士学位论文 示，无论哪种表示都要有一定的意义，要识别和了解符号的意义就必须使用和学 习。上述的符号学习个数较少，另外一些字符( 如汉字) 一个符号就可以表示一 个意思，而英文字母要多个符号表示一个单词。这种语言由上千个符号组成，识 别这些符号需要大量的学习。 各种符号在计算机中如何表示呢? 最初的方式是对字母和简单的数学符号进 行编码。到了1 9 世纪6 0 年代字符编码采用了一个统一的标准，这个标准名命名 为a s c i i 码，它是采用8 位二进制进行编码，总共可以表示2 5 6 种符号。这些符 号通过应用程序可以以不同的字体和字形呈现给用户。 在当时，a s c i i 码表示的2 5 6 个编码能够满足大量的计算机应用。但是随着计 算机运用越来越广泛以及i n t e r n e t 的普及，大量的非拉丁语系的符号需要使用计 算机来存储，对这些符号需要重新进行编码。最早采用的方式是扩展a s c i i 码， 这种方式在进行网页浏览时有时会出现乱码。把这些不同语系的符号统一起来就 是一个需要解决的问题。 到了1 9 世纪9 0 年代，采用1 6 位的二进制位进行编码，可以表示6 5 5 3 6 个不 同的符号。这种新的编码方式叫做u n i c o d e 编码。它基本上可以表示人们所知的 单个编码。前2 5 6 个表示a s c i i 码的字符，识别时只需要读取低8 位即可。u n i c o d e 编码是一种新的字符编码标准，可以表示世界上几乎所有书面语言。现在大部分 硬件和软件已经支持u n i c o d e 编码。 各种字符可通过多种途径显示出来，可通过计算机的输出设备如显示器，打 印机呈现给用户，也可以通过印刷的方式显示，当然也可以刻在石碑、木牌上。 此外，字符可以以不同的字体、字形显现出来。其中一种就是采用点阵的方式来 描述字符。点阵是一系列点组成的方阵，以点的亮和灭来显示字符。有字符图像 的地方亮，无字符图像的地方灭。这两种状态可以用计算机的二进制0 和1 来表 示。比如可以采用7 9 的点阵表示一个英文字符t ，如图卜6 所示。存储字母t 的点阵需要用9 个字节表示，分别是1 1 1 1 1 1 l ，1 1 1 1 1 1 1 ，0 0 1 1 1 0 0 ，0 0 1 1 1 0 0 ，0 0 1 l l o o ， 0 0 1 1 1 0 0 ，0 0 1 1 1 0 0 ，0 0 1 】0 0 ，0 0 1 】1 0 0 。 图卜67 9 点阵 8 l 、l 第一章绪论 1 2 2 字符识别的过程 日常生活中，人类需要对大量的信息进行处理，信息处理过程中人类需要识 别客体和环境。在日常的生活中，往往包含大量图像和声音的识别。字符识别是 对包含有特定信息的图像字符的识别。人类对字符识别的过程是这样的：通过视 觉器官获得字符信息，通过不断的强化学习将字符的特征记录到大脑中，再次看 到该字符时从自己的记忆中迅速找出与之匹配的字符，完成识别。这是一个复杂 的信息处理过程。 随着计算机技术的发展，人类不断研究复杂的信息处理过程。这些复杂的过 程很多都需要用到模式识别。模式识别指的是以数学理论和方法为基础，研究使 用计算机来对事物的规律进行自动处理和判读。模式识别的一个应用是对光学字 符的识别，计算机对字符的识别主要是对光学字符的识别，简称o c r 。 计算机识别光学字符的过程与人类识别字符的过程相似。过程是这样的：首 先将字符图象进行处理，抽取能够表达字符的主要特征，然后将特征与字符的编 码形成一个对应关系，存储在计算机中，这一过程称之为“训练 。识别过程就是 将输入的字符图象经处理后与计算机中的所有字符进行比较，找出最相近的字符， 这个字符就是最终的识别结果。这一过程称之为“匹配 。总的来说光学字符的识 别很多时候是指对扫描的文本资料的识别，需要对图像文件进行分析处理，获取 文字及版面信息。识别过程如图卜7 。 图像输入卜+预处理版面分析 1 2 3 字符识别的方法 图1 7 光学字符识别过程 字符切割i 擎 字符识别 目前用于字符识别的方法比较多。传统经典的字符识别方法是统计模式识别 法和结构模式识别法。 统计模式字符识别方法就是给定一个样本集，这个样本集的数量是有限的， 设定一个统计模型或者给出一个判别函数，设计一个准则，通过特定的学习算法 把m 维特征空间划分为n 个区域，每一个区域对应一个类别。如对所有的符号字符 划分为英文大写字母、小写字母、数字、汉字等类别。模式识别系统在进行工作 9 生i皇王型垫奎堂堡主堂垡堡奎 t j f f 时只要判断被识别的对象落入哪一个区域，就能确定出它所属的类别。如待识别 字符“a ”就会落入大写字母这个类别里。由噪声和传感器所引起的字符发生变哈 ( 如字符被污损) ，可通过图像预处理而部分消除；而模式本身固有的变异性( 如 各种图像字符的结构不同) 的控制方法可采用选择不同特征，得出不同的特征值， 然后给出一个理想的条件，让待识别的图像字符尽可能地在该特征值的分布中存 在。因此一个统计模式识别系统应该包含预处理、特征抽取、分类器等部分( 如 图卜8 ) 。统计识别法适用于识别有噪声的字符，但没有很好地利用结构信息，对 含有结构信息的字符识别效果不好。 图l - 8 统计模式字符识别 结构模式字符识别法是一种使用字符的基本组成元素及其相互间的结构关系 对字符进行描述和识别的方法。如中文的汉字，可利用汉字的笔画，偏旁部首， 剩余部分以及相互关系建立特征向量，进行字符识别。一个结构模式字符识别系 统包括预处理、字符模式表达、语法推断和语义分析四个主要部分( 如图卜9 ) 。这 是一种理想化的字符识别方法，可进行语义的输出。这种方法利用字符特别是汉 字的结构关系来识别，但抗干扰能力低。 图1 9 结构模式字符识别 将上述两种方法结合起来使用，字符识别效果较好。 字符识别的另一种方法是模糊模式识别法。这是引进模糊逻辑的理论、方法、 思想来解决模式识别的问题。模糊逻辑是对布尔逻辑的扩展，能够处理部分真实 l o 第一章绪论 问题。布尔逻辑认为所有事物及陈述都可以用真或假，是或否，对或错，0 或1 ， 黑或白这种二元项来表达，模糊逻辑中使用真实度替代了布尔真值的两种状态。 真实度需要用一个值来衡量，这个值称之为模糊特征，模糊特征是指根据一定的 模糊化规则把原来的一个或多个特征变量划分成多个模糊变量，每个模糊变量表 达原特征的某一局部特征，用这些新的模糊特征代替原来的特征进行模式识别。 结果模糊化是指把样本空间分成若干个子集，是用模糊子集的概念代替确定子集， 从而得到模糊的分类结果的方法。模糊化规则一般是经过试验专门定制的，根据 具体应用领域的规定确定的，如字符识别的笔划特征提取中，字符中部的笔划更 能反映字符的本质特征，可以根据模糊特征的思想设计合理的函数，如以同心圆 的方式，从里向外的设置字符的权值依次递减，从而可以提取出更能反映问题本 质的新特征。 模板匹配法也是一种常见的字符识别方法，常见的有外围轮廓匹配法和基于 h a u s d o r f f 距离的模板匹配方法。 外围轮廓匹配法使用一组数组来描述外围的轮廓，记录字符边框上各点到达 框内字符特定像点的最短距离。识别时将待识别字符采用同样方法取得的数组与 预先得到的模板的外围轮廓描述数组相比较，判断两者的差别。这个差别由欧氏 距离衡量。欧氏距离计算的是两点之间的真实距离，欧氏距离看作信号的相似程 度，距离越近就越相似。 基于h a u s d o r f f 距离的模板匹配方法将字符图像的边缘点作为特征点。记录 这些点所在位置的同时，还记录了每一点8 邻域点( 上、下、左右和4 个对角) 的情况，因此每个边缘点有9 个特征值，采用h a u s d o r f f 距离对待识字符进行模 板匹配，h a u s d o r f f 距离描述两组点集之间相似程度的一种量度，同样是距离越近 就越相似。 以上是传统的字符识别方法，运用神经网络的基础理论进行字符识别是一种 新的字符识别方法。 1 2 4 基于神经网络的字符识别 用人工神经网络进行字符识别主要有两种方法：一种方法是先对待识别的字 符进行特征的提取，然后使用所获得的特征来培训神经网络的分类器。这种网络 识别效果与字符特征的提取有关，而字符的特征提取往往比较耗时。如何提取字 符待征是研究的关键。另一种方法是充分利用神经网络的特点，直接把待处理图 电子科技大学硕士学位论文 像输入网络，由网络自动实现特征提取直至识别。这种网络互连较多、待处理信 息量大，字符识别效果较理想。 1 3 本论文的选题和研究内容 1 3 1 选题背景 模式识别技术所研究的理论与方法已经成功地应用于许多科学和技术领域， 作为其中的一个分支，图像字符的识别一直以来都是研究的热点，如车辆牌照、 邮政编码、手写字符、光学字符、网页验证码等图像字符的识别，在诸多需要对 信息进行自动识别处理的领域都有着极大的理论意义与实用价值。 1 9 世纪4 0 年代，人们开始研究人脑的工作原理，广泛开展了模仿脑模型的人 工神经网络理论的研究。由于人工神经网络具有和人脑相似的高度并行性、良好 的容错性和联想记忆的功能、具有自适应和自学习能力等特点，特别是以改进型 的b p 网络为代表的神经网络具有良好的自学习能力、强大的分类能力、容错能力， 可以实现输入到输出的非线性映射，因此可以把神经网络的相关理论运用于字符 识别，可扩大字符识别的范围，提高字符识别的速度和准确性。 1 3 2 选题的应用价值 字符识别可用于对符号信息自动处理的领域，适用于各国语言字符的识别， 车牌字符的识别、工业领域( 如金属材料) 字