（计算机科学与技术专业论文）基于bp神经网络的印刷字符识别系统.pdf

l i irl i l lr li ii ll i ii ri y 171813 4 m a c h i n ep r i n t e dc h a r a c t e rr e c o g n i t i o ns y s t e mu s i n gf e a t u r e p o i n te x t r a c t i o na n db pn e u r a ln e t w o r kc l a s s i f i e r s p e c i a l t y ：g q 垫! p 堕! 曼! p p ! i 曼亟! 曼堡h 垒q ! q g y m a s t e rd e g r e ec a n d i d a t e ：一c a m a c h oj a r a , s h a n i rm a j a y r a s u p e r v i s o r ： 里q l ih q n g s c h o o lo fi n f o r m a t i o ns c i e n c ea n de n g i n e e r i n g c e n t r a ls o u t hu n i v e r s i t y c h a n g s h a ，h u n a n ，p r c h i n a 原创性声明 本人声明，所呈交的学位论文是本人在导师指导下进行的研究工作 及取得的研究成果。尽我所知，除了论文中特另, jd n 以标注和致谢的地方 外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含为获得 中南大学或其他单位的学位或证书而使用过的材料。与我共同工作的同志 对本研究所作的贡献均已在论文中作了明确的说明。 作者签名：么盥e l 期：丝z 翌年旦生月兰生日 学位论文版权使用授权书 本人了解中南大学有关保留、使用学位论文的规定，即：学校有权 保留学位论文并根据国家或湖南省有关部门规定送交学位论文，允许学位 论文被查阅和借阅；学校可以公布学位论文的全部或部分内容，可以采用 复印、缩印或其它手段保存学位论文。同时授权中国科学技术信息研究所 将本学位论文收录到中国学位论文全文数据库，并通过网络向社会公 众提供信息服务。 作者签名：堡翅导师签名磐垒 e l 期： p a b s t r a c t o p t i c a lc h a r a c t e rr e c o g n i t i o nh a sb e c o m et h ea i mo fm a n yr e s e a r c h e ss t u d i e si n t h el a s td e c a d e s a n dt h a ti sj u s tc a u s ei t si n f l u e n c ei nm a n yd i f f e r e n ti n d u s t r i e s s u c ha sb a n k i n g ，s h i p p i n g ，c o m m e r c e ，c o m m u n i c a t i o n s ，m a r k e t i n g ，l i c e n s ep l a t e r e c o g n i t i o n ，e t c d u et ot h eg r e a ti m p o r t a n c ea n dp r o m i s i n gf u t u r eo ft h i sf i e l d ，w e f o u n du s e f u lt oc r e a t eas y s t e ma b l et or e c o g n i z em a c h i n ep r i n t e dc h a r a c t e r s a l t h o u g h ，w eu n d e r s t a n dt h a tc r e a t i n gas y s t e mw i t hao n eh u n d r e dp e r c e n tc o r r e c t r e c o g n i t i o nr a t ei sq u i t ep r o b a b l yi m p o s s i b l ei no u rw o r l do fn o i s ea n dd i f f e r e n t f o n ts t y l e s ，b e c a u s ea l g o r i t h m sg e n e r a l l yo p e r a t eo nad i f f e r e n ts e to ff e a t u r e st h a n h u m a n sf o rc o m p u t a t i o n a lr e a s o n s b u tw es t i l lc a nd e v e l o pas y s t e ma b l et o r e c o g n i z eac o n s i d e r a b l ea m o u n to fs a m p l e s t h e r e f o r e ，t h i sd i s s e r t a t i o np r e s e n t s as y s t e mt h a t u s i n gf e a t u r e c h a r a c t e r e x t r a c t i o na n dn e u r a ln e t w o r kc l a s s i f i e rt r a i n e dw i t ht h e b a c k p r o p a g a t i o n a l g o r i t h m , c a nr e c o g n i z em a c h i n ep r i n t e de n g l i s hc h a r a c t e r s t h es y s t e mf i r s ta p p l i e sb i n a r i z a t i o nt ot h ei m a g ea n da v o i d st h i n n i n g ( a n do t h e r m a j o rp r e p r o c e s s i n g ) b ya s s u m i n gt h a tt h ei n p u td a t ai sn o tp a r t i c u l a r l ya b e r r a n t w i t ht h i sa s s u m p t i o n ，i tt h e np r o c e e d st ol o o kf o rf e a t u r ep o i n t s w eh a v ed e s c r i b e dt w om e t h o d sf o rf e a t u r ep o i n te x t r a c t i o n ：t h ef i r s to n ei s c a l l e dd i s c r e t ef e a t u r ep o i n te x t r a c t i o n ，t h i sm e t h o ds c a n st h ei m a g e sl o o k i n gf o r c e r t a i np r e d e f i n e dp o i n t s ；t h es e c o n dm e t h o di sz o n i n g ，w h i c hw o r k sd i v i d i n gt h e i m a g ei nz o n e sa n dc a l c u l a t e st h ea v e r a g e 黟a yl e v e lf o re a c h a f t e r w a r d s ，t h ed a t a c o l l e c t e df r o mt h ef e a t u r ee x t r a c t i o np r o c e s si si n p u ti n t ot h en e u r a ln e t w o r k t h i s n e t w o r kw a sd e s i g nw i t ht h r e el a y e r sa n dw o r k su s i n gb a c k p r o p a g a t i o n a d d i t i o n a l l y ，s o m ea d j u s t m e n t sh a v eb e e nm a d e t ot h en e t w o r ki no r d e rt oo b t a i n o p t i m u mr e s u l t s f i n a l l y ，w ep e r f o r m e df u r t h e rn e u r a ln e t w o r ka n a l y s i so ns a m p l e d a t aa n dc o m p a r et h eo b t a i n e dr e s u l t sf r o mt h et w op r o p o s e dm e t h o d sa n dt h e e x p e r i m e n t sc o r r o b o r a t et h eg o o dt h ee f f i c i e n c ya n dp e r f o r m a n c eo ft h ep r o p o s e d r e c o g n i t i o ns y s t e m i nt h el a s ts e c t i o nw ed i s c u s st h ec o n c l u s i o n sa n df u t u r ew o r k k e yw o r d sf e a t u r e r e c o g n i t i o n ， m a c h i n e e x t r a c t i o n ，o p t i c a l c h a r a c t e r r e c o g n i t i o n ，p a t t e m p r i n t e d c h a r a c t e r r e c o g n i t i o n ，b a c k - p r o p a g a t i o n 摘要 光学字符识别( o c r ) 是人类的一项琐碎任务，但要建立一个计算机程 序进行字符识别是很困难的。识别这些模式仅仅是这些琐碎任务中的一件， 人能很好的做到但计算机不能，主要原因是实际应用中有许多可变因素。例 如，由随机变化的模式组成的噪声，特别是靠近边缘处，并且有许多噪音的 字符很可能被计算机程序解释成一个完全不同的字符。另一个混乱的来源是 高水平的抽象化；必须认识到有成千上万风格的常用类型和字符，其中大部 分对识别程序是没有用的。这些因素以及其他原因使得这个领域非常有趣和 有挑战性，这就是为什么选择这方面作为论文的研究来源。还应该提到的 是：在过去几十年里，光学字符识别已成为许多研究者的研究目标，是因为 它在许多不同的行业，如银行业，航运，商业，通信，市场营销，车牌识别 等有重要影响。由于这一领域的重要性和美好未来，人们对这一领域的研究 兴趣非常浓厚。 光学字符识别在大约1 9 2 9 年开始并由古斯塔夫陶舍所做。光学字符识 别，通常缩写为o c r ，是图像的机械或电子转换成机器可编辑的文本。虽 然，在这一领域的学术研究仍在继续，对光学字符识别的重点已转移到技术 证明。用光学技术，例如光学反射镜和透镜技术的光学字符识别，用扫描仪 和计算机算法的数字字符识别，起初都被认为是单独的领域，现己扩大到包 括数字图像处理领域中。 商业上，光学字符阅读器出现在2 0 世纪5 0 年代，从那时起，字符和文档 识别技术已经提供了非常先进的产品和系统，以满足整个开发过程中的工业 和商业的需要。同时，基于此项技术的企业投资到研究和开发更先进的技 术。在这里我们可以看到一个良性循环，即新技术促使新的应用，以及新的 应用支持开发更先进的技术。 因此，我们认为研究和发明一个能够识别机打印字符的系统是非常有意 义的。虽然，我们知道创造一个百分之百正确识别率的系统在充斥噪音和不 同的字体风格的世界里很可能无法实现，因为在不同系列的特征上算法的作 用普遍多于人类不同的功能设置。不过，我们仍然可以开发一个能够识别出 大量样品的系统。总之，本论文提出了一个识别系统，这个系统使用功能特 i i 征提取和神经网络分类器的反向传播算法训练，可以正确识别一定数量的印 刷英文字符。 事实上，这存在着几个不同的技术来识别字符，但我们选择使用人工b p 神经网络。这是因为人工神经网络在o c r 中应用可以大大简化代码，提高识 别质量，同时实现良好的性能。利用光学字符识别的另一个好处是神经网络 系统的可扩展性，它能够识别比初始定义的更多的字符集。因此，人工神经 网络( a n n ) 是一种奇妙的工具，有助于解决此类问题。人工神经网络，往 往善于解决对于传统技术过于复杂的问题，例如，没有一个算法解决问题或 对于这个问题解决方案的算法由于过于复杂而无法找到，它们是优良的模式 识别器和强大的分类器。对于不同的分类问题，提供了理想的解决方案，如 讲话，性格，信号识别，以及预测功能和系统建模( 其中的物理过程很难理 解，或者是高度复杂的) ，由于这些优势，所以我们选择b p 神经网络作为分 类器。 该系统首先应用于二值化，是指一个灰度图像转换成二值图像，以及其 他主要的预处理，通过假设输入数据有噪声。有了这个假设，然后继续寻找 特征点。特征点的选择问题意味着从一整套可用的功能子集的选择，允许判 别性地选择合适的子集。一个良好的特征点集的选择是分类过程的关键，如 果所考虑的特征点集不包括所有的信息需求，以区分属于不同阶级的样本， 不管学习算法的有效性，所达到的性能可能会不理想。 在我们的工作中，所描述的特征点提取一共有两种方法：第一种是所谓 的离散特征点提取，这种方法扫描图像的某些预先确定的点，依次检查每一 个像素，同时它检查其8 个邻居点，并对现有的系统有1 0 个显着特征点的定 义，这足够实现我们的目标，其优势是不会拥有太多无趣的点，使特征点提 取更快和更可靠。第二种方法是所谓的分区，这需要以图像的亮度图为基础 功能，划分区域中的图像，并计算每个亮度图的平均水平。 一旦我们从特征提取中收集数据，仍然需要修复图像。其功能需要我们 从特征矩阵转移到一个向量形式，以使用它作为输入向量送入神经网络来学 习和分类。为了达到这个目标，需要改变矩阵的值，以适应变化的差别。这 只是因为根据分类器( 神经网络) 每个字母都是一种模式。基本上，每个训 练模式包括：两个浮点数字的一维数组的以及输入和输出( 目标) 阵列。输 入数组包含每个特征提取方法的每个字母的特征向量表示，输出数组代表预 i i i 期的反应，在输出数组系统能够识别和字符一样多的元素。因此，为了使人 们认识所有的英文词汇字母，我们将需要2 6 个输出数组元素。 我们在所有的模式设置完毕后，加入神经网络。该网络被设计成一个使 用三层s 形输出功能和反向传播算法。但清晰的反向传播运行很慢，我们希 望它更快。因此，我们有一些可以被设置为加快学习阶段的调整。对一些输 出功能进行调整与修改，这使系统运算要求不高，其次我们依照一些技术在 每一层找到适当的隐藏层和神经元的数量。进行一些测试之后，发现变量更 适合我们设计的系统。随着这些都作了调整，并对网络进行有效训练，可以 尝试对表现最好的训练集中识别所有的模式。 在实验部分，用不同的样本进行了多次试验。在第一个实验中，从英语 词汇所有的2 6 个字母中选择了一个非正规的图像数据集( 模糊，倾斜和洗图 像) ，发现训练时间之间存在差异，这是因为使用离散特征接近网络所用的 收敛时间比使用分区方法要长。另一个重要区别是识别率，用分区制得n 8 5 的识别率，但是用离散特征只得至1 j 7 8 的识别率，略低于分区制。 第二个实验是调查输入特征向量的大小如何会影响识别率的准确性。因 此，我们尝试了四种不同的图像大小，并运用两种方法进行测试。对于离散 特征方法，注意到增加特征向量的大小越多，在网络融合所花费的时间越 多，而字符的识别率下降越多。至于分区方法，用同一种方法进行实验，但 网络的行为结果却不同，在这种情况下，发现随着向量大小的增加，可以得 到更好的识别率，直至到达一个点才开始下降。 我们还进行了第三个实验，这一次是当我们在样本中分别添加模糊和噪 声时观察网络的行为。首先，我们添加模糊特性到样本中，通过使用高斯方 法对字符数据加入噪声。之后，将模糊的样本输入到系统，接着进行识别过 程，正如预期的那样，用分区制和离散特征方法都增加了模糊量样本的识别 率。即用分区方法也可以取得较高的识别率。在这个实验的第二部分，为了 研究，如果增加噪音到样本中将得到什么样的结果，采用椒盐噪声添加到字 符中。在四个运行阶段的每一步，我们都增加噪音量，这明显降低两者的识 别率。我们注意到，用图像噪音并用分区的方法可得到更好的效果。 最后，总结我们的工作，文章开始提到如何调查和对模式识别的研究， 特别是光学字符识别系统，详细阐述了它的背景、定义、应用和技术。选择 离散特征和分区制作为特征提取的两种方法。研究的另一项内容是分类器， 选择b p 神经网络，实验证明了这种网络的优越性。在达到良好的识别性能的 i v 同时能够改善质量，并使得系统更具有扩展性，能够识别比初始定义更多的 字符集。 仔细分析和研究了上述过程之后可以发现，先前提到的两个特征点提取 的技术在结合神经网络分类器，对机器印刷的英文字符识别时存在差异。实 验结果表明上述描述的光学字符识别系统的性能相当高。当考虑到所测试几 个非正常的图像( 原始的，干净的，模糊的，有噪声的图像) 时，我们没有 使用任何噪声滤波技术。在我们的研究中，使用分区制技术获得高达8 5 的 识别率，用离散特征技术获得7 8 5 7 的识别率。显然，我们看到的分区制技 术稍微好一点，尽管大多数实验中得知，两种技术的得到的识别率都很高。 此外，我们对样本进行添加噪声和不同幅度模糊处理两种方法做了比 较，结果显示：性能呈现一定程度下降，并对于这两种方法是令人满意的。 尽管用分区制得到了更好的识别率。结果还表明：使用神经网络设计光学字 符识别系统，发现面向对象模型是适当的和有益的。 未来的研究工作包括用更多的样本数据进一步对字符识别系统进行测 试。另外，还可以通过结合上面提到的两种特征提取方法改进系统，以提高 识别能力和获得更好的学习过程。往后还将尝试使用不同的学习算法提高系 统的适应性和健壮性。 关键字特征选择，光字符识别，模式识别，机器印刷字符，b p 神经网络 v c o n t e n t s a b s t r a c t i 摘j i l 辱i i l i s to f f i g u r e s v i i i l i s to f t a b l e s x l i s to f a b b r e v i a t i o n s x i c h a p t e r1 i n t r o d u c t i o n 1 1 1m o t i v a t i o nf o rt h er e s e a r c h 1 1 2d e f i n i t i o no ft h ep r o b l e m 1 1 3 o b j e c t i v ea n de x p e c t e dr e s u l t s - 1 1 4r e s e a r c hm e t h o d 2 1 5o r d e ro ft h i sd i s s e r t a t i o n 2 c h a p t e r 2t h e o r e t i c a lf r a m e w o r k 4 2 1 o p t i c a lc h a r a c t e rr e c o g n i t i o n 4 2 1 1 b a c k g r o u n d 4 2 1 2d e f i n i t i o no fo c r 4 2 1 3 c o m m e r c i a lo c r ss y s t e m s 5 2 1 4c u n r e n ta p p l i c a t i o n so fo c r s “6 2 1 5 a p p r o a c h e st oc h a r a c t e rr e c o g n i t i o n 6 2 2p a t t e r nr e c o g n i t i o ns y s t e m s 7 2 3f e a t u r ee x t r a c t i o n 8 2 3 1 d i s c r e t ef e a t u r e s 9 2 3 2 z o n i n g 9 2 4 b a c k p r o p a g a t i o nn e u r a ln e t w o r k 1 0 c h a p t e r 3 d e v e l o p m e n to f t h eo c rs y s t e m 1 2 3 1 s y s t e md e s i g n 1 2 3 1 1 n e u r a ln e t w o r ka r c h i t e c t u r e 1 2 v i 3 1 2 c o m p o n e n t so f t h es y s t e m 1 4 3 1 3d a t as t r u c t u r em o d e l 1 6 3 2 p r e p r o c e s s i n g ”1 7 3 3 a p p l i c a t i o no f t h ef e a t u r ee x t r a c t i o nm e t h o d s 18 3 3 1 d i s c r e t ef e a t u r e s 一1 9 3 3 2 z o n i n g - 2 2 3 4 g e n e r a t i n gp a t t e r n s “2 2 3 5 a d j u s t i n gn e t w o r kt oi m p r o v ep e r f o r m a n c e 2 3 3 5 1 s c a l i n gd a t at oi m p r o v ep e r f o r m a n c e 2 4 3 5 2 s i g m o i df u n c t i o n 2 4 3 5 3 a d j u s t i n gt h es h a r p n e s s g a i n 2 5 3 5 4 a m o u n to f h i d d e nl a y e r s 一2 6 3 5 5a m o 吼to f n e u r o n si nt h eh i d d e nl a y e r 2 8 3 6 u s e ri n t e r f a c e ”2 9 c h a p t e r4e x p e r i m e n t s 3 4 4 1 e x p e r i m e n te n v i r o n m e n t 3 4 4 2 e x p e r i m e n tp r o c e d u r e s ：3 4 4 3 e x p e r i m e n t sr e s u l t sa n da n a l y s i s 一3 5 c h a p t e r5 c o n c l u s i o na n df u t u r ew o r k 4 3 5 1 c o n c l u s i o n s 4 3 5 2 f u t l 盯ew o r k “4 4 r e f e r e n c e s 4 5 a c l m o w l e d g m e n t s 4 9 p u b l i c a t i o a sd u r i n gt h eg r a d u a t ep e r i o d 5 0 v i i l i s to ff i g u r e s 1 。1 。_ _ _ _ _ 。_ 一 f i g u r e2 1b a c k p r o p a g a t i o nn e t w o r ka r c h i t e c t m e 1 0 f i g u r e3 1i n p u tp a t t e r n s 1 3 f i g u r e3 - 2c a l c u l a t i o no f t h ee r r o rv a l u e 1 4 f i g u r e3 - 3s y s t e mc o m p o n e n t s 15 f i g u r e3 - 4c l a s sd i a g r a mo ft h es y s t e m 17 f i g u r e3 - 5g r a ys c a l ei m a g e 18 f i g u r e3 - 6p r o c e s s e di m a g e 18 f i g u r e3 - 7x sn e i g h b o rp i x e l s 1 9 f i g u r e3 - 8b i n a r i z e di m a g eo f h 2 1 f i g u r e3 - 9d i s c r e t ef e a t u r ep o i n t sl a b e l e d 。2 2 f i g u r e ：；- 10z o n i n gm e t h o d 2 2 f i g u r e ：；一11g r a p ho f t h es i g m o i df u n c t i o n 2 4 f i g u r e ：；一1 2m o d i f i e ds i g m o i df u n c t i o n 2 5 f i g u r e ：；- 13g e n e r a t i o n o f t h ei n p u tp a t t e r n s 3 0 f i g u r e ：；一1 4c r e a t en e t w o r k 3 0 f i g u r e ：；- 15t r a i n i n gp r o c e s s 31 f i g u r e ：；一16r e s u l t sa f t e rt h et r a i n i n gi sf i n i s h e d 31 f i g u r e3 - 1 7l o a d i n gi m a g et or e c o g n i z e 3 2 f i g u r e3 18e x t r a c t e df e a t u r e s 3 3 f i g u r e3 1 9r e c o g n i t i o no f l e t t e r “f ”一3 3 f i g u r e4 1r e c o g n i t i o nr a t ec o m p a r i s o n 3 6 f i g u r e4 - 2d i f f e r e n tv e c t o rs i z e ( d i s c r e t ef e a t u r e s ) 3 7 f i g u r e4 - 3d i f f e r e n tv e c t o rs i z e ( z o n i n g ) 3 8 f i g u r e4 - 4z o n i n gw i t hb l u rs a m p l e s 3 9 f i g u r e4 - 5d i s c r e t ef e a t u r e sw i t hb l u rs a m p l e s 4 0 f i g u r e4 - 6z o n i n gv sd i s c r e t ef e a t u r e s 4 0 f i g u r e4 - 7z o n i n gw i t hn o i s ys a m p l e s 4 1 v i i i f i g u r e4 - 8d i s c r e t ef e a t u r e sw i t hn o i s ys a m p l e s 4 1 f i g u r e4 - 9z o n i n gv sd i s c r e t ef e a t u r e s 4 2 i x l i s to f 霸b l e s t a b l e2 - 1o c rs o f t w a r ea p p l i c a t i o n s 5 t a b l e3 1p r i m i t i v ef e a t u r e sp o i n t s 2 0 t a b l e3 2t e s t st of i n dt h ec o r r e c ta m o u n to f h i d d e nl a y e r s 2 7 t a b l e3 - 3t e s t st of i n dt h ec o r r e c ta m o u n to f n e u r o n si nt h eh i d d e n1 a y e r 一2 8 t a b l e4 1r e s u l t so ft h ef i r s te x p e r i m e n t 3 5 t a b l e4 2d i f r e r e n tv e c t o rs i z e ( d i s c r e t ef e a t u r e s ) 3 7 t a b l e4 - 3d i f f e r e n tv e c t o rs i z e ( z o n i n g ) 3 8 x l i s to fa b b r e v i a t i o n s b p b a c kp r o p a g a t i o n o c r o p t i c a lc h a r a c t e rr e c o g n i t i o n p r p a t t e mr e c o g n i t i o n a n n - a r t i f i c i a ln e u r a ln e t w o r k o o p 一0 b j e c to r i e n t e dm o d e l x i c h a p t e r 1i n t r o d u c t i o n t h i sc h a p t e rp r e s e n t st h eg e n e r a l i d e ao ft h i sw o r k ，d e f i n i t i o no ft h ep r o b l e m ， o b j e c t i v e sa n d ab r i e fd e s c r i p t i o no ft h ea l lt h ep a r t so ft h et h e s i s j 1m o t i v a t i o nf o rt h er e s e a r c h o p t i c a lc h a r a c t e rr e c o g n i t i o n ( o c r ) i sat r i v i a l t a s kf o rh u m a n s ，b u tt ob u i l da c o m p u t e rp r o g r a mt h a td o e sc h a r a c t e rr e c o g n i t i o ni sq u i t ed i f f i c u l t r e c o g n i z i n gp a t t e r n s i si u s to n eo ft h o s et h i n g sp e o p l ed ow e l lb u tc o m p u t e r sd on o t t h em a i nr e a s o nf o rt h i s i st h em a n ys o u r c e so fv a r i a b i l i t y n o i s ef o re x a m p l e ，c o n s i s t so fr a n d o mc h a n g e st oa p a t t e r n ，p a r t i c u l a r l yn e a rt h ee d g e s ，a n d ac h a r a c t e rw i t hm u c hn o i s em a yb ei n t e r p r e t e d a sac o m p l e t e l yd i f f e r e n tc h a r a c t e rb yac o m p u t e rp r o g r a m a n o t h e r s o u r c eo fc o n t u s i o n i st h eh i g hl e v e lo fa b s t r a c t i o n ；t h e r ea r et h o u s a n d ss t y l e so ft y p ei nc o m m o n u s ea n da c h a r a c t e rr e c o g n i t i o np r o g r a mm u s tr e c o g n i z em o s to ft h e s et ob eo fa n y u s e t h e s ea n d o t h e rr e b s o n sm a _ k et h i sa r e av e r yi n t e r e s t i n ga n dc h a l l e n g i n g ，w h i c hi sw h yw ec h o o s e t h i sa r e ao u rs o u r c eo fr e s e a r c h w es h o u l da l s om e n t i o nt h a tt h ef i e l do fo c r h a sb r o a d e n e di t si n f l u e n c ei nm a n y d i f f e r e n ti n d u s t r i e sl i k ei nb a n k i n g ，s h i p p i n g ，c o m m e r c e ，c o m m u n i c a t i o n s ，m a r k e t i n g ， l i c e n s ep l a t er e c o g n i t i o n ，e t c t h e r e f o r e ，i tw o u l db ev e r yu s e f u lt od oa r e s e a r c hi nt h i s a r e aa n dd e v e l o pas y s t e ma b l et or e c o g n i z em a c h i n ep r i n t e dc h a r a c t e r s 1 2 d e f i n i t i