关 键 词：

基于 BP 神经网络 图像 压缩 算法 设计

资源描述：

基于BP神经网络的图像压缩算法的设计,基于,BP,神经网络,图像,压缩,算法,设计

内容简介：

毕业设计（论文）说明书 题目：基于BP神经网络的图像压缩算法的设计 系 名 信息工程系 专 业 自动化 学 号 6012202372 学生姓名 刘泽宇 指导教师 扈书亮 2016年 6 月 6 日毕业设计（论文）任务书题目：基于BP神经网络的图像压缩算法的设计系 名 信息工程系 专 业 自动化 学 号 6012202372 学生姓名 刘泽宇 指导教师 扈书亮 职 称 讲 师 2015年12月10日一、原始依据（包括设计或论文的工作基础、研究条件、应用环境、工作目的等。）工作基础：了解MATLAB2012的基本使用以及BP神经网络基本思想； 研究条件：MATLAB2012以及神经网络的基本思想；应用环境：基于MATLAB2012的数字图像有损压缩；工作目的：熟练使用MATLAB2012神经网络工具箱； 掌握人工智能的基本思想，熟练掌握BP神经网络的基本原理； 建立三层BP网络，实现灰度图片压缩；二、参考文献1郑午.一种小波域内的BP神经网络图像压缩方法J.微计算机信息.2009(09). 2刘洋,唐向宏,余志卫.基于子块分类的BP神经网络图像压缩J.杭州电子科技大学学 报.2009(02).3熊校良,杨光临,段晓辉.SPIHT算法对BP神经网络图像压缩处理的改善J.电子测量 与仪器学报.2008(06). 4刘立程.基于BP人工神经网络的图像压缩技术过程及分析J.微计算机信息.2007(06). 5王书宇,施宁,李子杰.基于PSO-BP神经网络的图像压缩算法J.电脑知识与技术(学术交流).2007(23).6T.S.Huang.Picture bandwidth compression.Proc.Picture coding symposium(PSC,89).Gordon and Breach.1972. 7沈兰荪.图像编码与异步传输.人民邮电出版社.2001年. 8夏正良.数字图像处理.东南大学出版社.1999年. 9肖自美.图像信息理论与压缩技术.中山大学出版社.2000年. 10吴乐南.数据压缩的原理和应用.电子工业出版社.1995年. 11张益贞，刘滔.Visual C+实现 MPEG/JPEG 编码解码技术.人民邮电出版社.2003 年 12钟玉琢，王琪，贺玉文著.基于对象的多媒体数据压缩编码国际标准及其校验模型.科学出版社.2000年. 三、设计（研究）内容和要求（包括设计或研究内容、主要指标与技术参数，并根据课题性质对学生提出具体要求。）1、掌握人工智能的基本思想，熟练掌握BP神经网络的基本原理；2、建立三层BP网络，实现灰度图片压缩；3、采用基于分类的BP神经网络和最速下降法实现图像压缩,通过增加隐含层的神经元数来提高重建图像的质量。对算法、激活函数和隐含层神经元数等关键参数的讨论分析。指导教师（签字）年 月 日审题小组组长（签字）年 月 日天津大学仁爱学院本科生毕业设计（论文）开题报告课题名称基于BP神经网络的图像压缩算法的设计系 名 称信息工程系专业名称自动化学生姓名刘泽宇指导教师扈书亮一、课题来源及意义随着多媒体即使和通信技术的发展，图像信息的存储和传输在社会生活中的作用越来越大。然而图像信息的数据量大，图像信息数字化，并实现存储和在有限的信道内进行实时传输，图像压缩是必须解决的问题之一。图像压缩的目的是为了减少图像冗余的数据，并且在在保证图像质量良好的情况下实现图像压缩。传统的压缩方法无法满足这些要求，所以我们运用BP神经网络来进行图像压缩，来解决问题。BP神经网络系统技术具有良好的容错性，自组织和自适应性的功能。对于BP神经网络自身而言，它不必借助某种预先确定的数据编码算法，它可以根据图像自身的信息特点，自主地完成图像编码和压缩，并且BP神经网络是人工神经网络中比较典型和经常使用的一种网络结构，已经被广泛地应用于图像处理领域。在基于BP神经网络理论之上，又提出了使用BP神经网络方法完成分形图像压缩的大量计算，其中，利用反向求全系数，最快下降法和BP神经网络的并行计算，从而使图像在压缩和解压缩的过程中均可以并行且快速执行。二、研究目标1、熟练MALAB的安装、基本概念；2、了解三层BP网络反向求全系数法；3、掌握基于matlab的图片压缩基本方法；三、研究内容1、掌握人工智能的基本思想，熟练掌握BP神经网络的基本原理；2、建立三层BP网络，实现灰度图片压缩； 3、采用基于分类的BP神经网络和最速下降法实现图像压缩,通过增加隐含层的神经元数来提高重建图像的质量。对算法、激活函数和隐含层神经元数等关键参数的讨论分析。四、研究方法与手段根据题目要求，本系统主要通过MATLAB来进行操作，并且运用反向求全系数法和最快下降法进行设计计算。三层BP网络结构示意图一个三层BP网络有三个输入，一个输出，分别是输入层，隐含层和输出层，隐含层节点数小于输出层节点数。其原理是输入信号通过隐层点作用于输出点，经过非线性变换产生输出信号，通过调整输入节点和隐层节点之间的联接强度，隐层节点和输出节点之间的联接强度，是误差沿梯度方向下降，从而确定与最小相对应的网络参数，这个过程需要利用MATLAB软件来建立程序，从而实现图片压缩。实现图片压缩的的方法是利用最快下降法和反向求全系数法对图片进行压缩。其中最快下降法又称作是梯度法，即当f(x)可微时，方向导数为负，说明函数值沿着该方向下降，方向导数越小，说明下降越快。工作基础：了解MATLAB2012的基本使用以及BP神经网络基本思想；研究条件：MATLAB2012以及神经网络的基本思想；应用环境：基于MATLAB2012的数字图像有损压缩；工作目的：熟练使用MATLAB2012神经网络工具箱；掌握人工智能的基本思想，熟练掌握BP神经网络的基本原理；建立三层BP网络，实现灰度图片压缩；五、进度安排1、2015.12.252016.03.05 查找资料，通过书籍和视频学习MATLAB的基本概念和语法，初步练习使用MATLAB软件。了解BP神经网络的基本原理及人工智能的基本概念。完成开题报告。2、2016.03.062016.03.29 掌握MATLAB中的图片处理的基本方法。3、2016.03.302016.04.20 编写程序，完成MATLB中对于图像的预处理，实现灰度图片处理.4、2016.04.212016.05.25 完成基于样本的神经网络的训练以及图像压缩，并对其性能进行统计和总结。5、2016.05.262016.06.10 撰写论文，准备答辩。六、主要参考文献1郑午.一种小波域内的BP神经网络图像压缩方法J.微计算机信息.2009(09).2刘洋,唐向宏,余志卫.基于子块分类的BP神经网络图像压缩J.杭州电子科技大学学报.2009(02).3熊校良,杨光临,段晓辉.SPIHT算法对BP神经网络图像压缩处理的改善J.电子测量与仪器学报.2008(06).4刘立程.基于BP人工神经网络的图像压缩技术过程及分析J.微计算机信息.2007(06). 5王书宇,施宁,李子杰.基于PSO-BP神经网络的图像压缩算法J.电脑知识与技术(学术交流).2007(23).选题是否合适： 是 否课题能否实现： 能 不能指导教师（签字）年 月 日选题是否合适： 是 否课题能否实现： 能 不能审题小组组长（签字）年 月 日摘要 近年来，随着各种数字图像通信技术的发展，数字图像海量数据的存储和传输，成为多媒体技术最基本的问题。传统的图像压缩方法很多，但大多存在压缩比低、误差大的缺点。随着神经网络理论的深入研究，神经网络技术的并行计算能力、非线性映射和自适应能力等优点得到了国内外学者的充分重视，各种神经网络模型在图像处理领域中得到了广泛的应用。 本文主要研究基于BP神经网络的图像压缩算法，论文的主要内容如下： 首先，系统介绍图像压缩的特点及其发展过程。全面系统地概述几种典型压缩算法的优点，并同时指出其存在的若干问题，为本论文指明了主要的研究方向。 然后，分析了标准 BP 算法的工作原理，结合图像压缩进行计算机仿真，阐明了BP网络在图像压缩领域中的优点和不足之处。关键词：BP神经网络；图像压缩；MATLAB2012； ABSTRACTIn recent years, with the development of digital image communication technology, the storage and transmission of massive data of digital image has become the most basic problem of multimedia technology. Traditional image compression methods are many, but most of them have the disadvantage of low compression ratio and large error. With the deeply research of the neural network theory and neural network technology of parallel calculation, nonlinear mapping and adaptive ability, etc. get the full attention of scholars at home and abroad, various neural network models have found wide application in the field of image processing.This paper mainly studies the image compression algorithm based on BP neural network, the main contents of this paper are as follows:Firstly, the characteristics and development process of image compression are introduced. The advantages of several typical algorithms are systematically summarized, and some problems are pointed out. The main research directions are pointed out in this paper.Then, the working principle of the standard BP algorithm is analyzed, and the computer simulation is carried out with the image compression, and the advantages and disadvantages of the BP network in the field of image compression are expounded.Keywords: BP neural network;image compression;MATLAB2012; 目录第一章绪论11.1人工神经网络的国内外发展现状11.2图像压缩方法的现状21.3本文的主要内容4第二章BP神经网络62.1BP网络模型处理信息的基本原理62.2训练样本构造72.3BP神经网络模型创建72.4BP网络模型的缺陷分析及优化策略92.5图像压缩基本方法112.6基本BP算法公式推导13第三章基于BP神经网络的图像压缩算法设计153.1压缩图片153.2解压缩图片163.3实验仿真结果18第四章总结与展望224.1总结224.2展望22参考文献24外文资料中文译文致谢6天津大学仁爱学院2016届本科毕业生毕业设计（论文）第一章绪论1.1人工神经网络的国内外发展现状人工神经网络的研究始于1943年，由心理学家W.S.Mc Culloch 和数学家 W. Pitts所提出的 MP 模型。该模型除连接全部调整外，其他与现在的阈值单元模型基本相同。MP 模型的提出不仅具有开创意义，而且还为以后的研究工作提供了依据。1949 年心理学家 D.0.Hebb 提出了神经元之间突触强度调整的假设。他认为学习过程是在突触上发生的，连接权的调整正比于两相连神经元之间激活值的乘积。这就是有名的 Hebb 学习规则。直到现在，Hebb 学习规则仍然是人工神经网络的一个极为重要的学习规则。50 年代末，F. Rosenblatt 提出了著名的感知机(perception)模型，这是第一个完整的人工神经网络。这个模型由简单的阈值单元构成，初步具备了诸如学习性、并行处理、分布存贮等神经网络的一些基本特征，从而确立了从系统角度进行人工神经网络研究的基础。1961 年 B.Windrow 和 M.E.Hoff 提出了自适应线性单元网络。它可以用于自适应滤波、预测和模型识别。从50年代到60年代初，神经网络的研究受到人们的重视，研究工作进入了一个高潮。进入80年代，特别是80年代末期，神经网络的研究从复兴很快转入了新的热潮。这主要是因为:一方面经过十几年迅速发展起来的以逻辑符号处理为主的人工智能理论和 Von Neumann 计算机在处理诸如视觉，听觉，形象思维，联想记忆等智能信息处理问题上受到了挫折；另一方面，80年代并行分布处理模式的神经网络本身的研究成果，使人们转而看到了新的希望。20 世纪80年代中期以来，神经网络的应用研究取得了很大的进展。与此同时，美国，日本等国在神经网络计算机的硬件实现方面也取得了一些实实在在的成绩。有关神经网络的国际学术组织，学术会议，学术刊物也纷纷成立，召开和创刊。神经网络的应用，已渗透到模式识别，图像处理，非线性优化，语音处理，自然语言理解，自动目标识别，机器人，专家系统等各个领域，并取得了令人瞩目的成果。神经网络理论也已成为涉及神经生理科学，认识科学，数理科学，心理学，信息科学，计算机科学，微电子学，光学，生物电子学等多学科的新兴的，综合性的前沿学科。人工神经网络应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数（activation function）。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。BP神经网络系统技术具有良好的容错性，自组织和自适应性功能。另外，它的一个优点是，它可以直接提供数据压缩能力，不需要借助其他某种预先确定的数据编码算法，它可以根据图像自身的信息特点，自主的完成图像编码和压缩。 在基于BP神经网络系统技术的理论之上，又提出了使用BP神经网络方法完成分形图像压缩的大量计算。其中，利用反向求权系数法，最快下降法来计算，从而使图像在压缩和解压缩的过程中均可以实现并且快速的执行。1.2图像压缩方法的现状图像压缩编码技术对于数字图像信息在网络上实现快速传输和实时处理具有重要的意义。 数字化后的信息，尤其是数字化后的视频和音频信息，具有数据海量性的特点，它给信息的存储和传输造成很大的困难，成为阻碍人类有效获取和使用信息的瓶颈问题之一。因此，研究和开发新型有效的多媒体数据压缩编码方法，以压缩的形式存储和传输这些数据将是最好的选择。为了在最短的时间传递尽可能多的图片，或者为了利用有限的存储容量存储更多的图像信息，或者为了在有限的带宽条件下传输尽可能多的活动图像，就要研究怎样才能最大限度的压缩图像数据，并且保证压缩后的重建图像能够被用户所接受，这就是图像编码所要解决的问题。 图像压缩的算法多种多样，如JPG/JPEG图像使用JPEG压缩标准，JPEG压缩标准使用了变换编码与熵编码的方式。此外还有基于小波变换的图像压缩算法，分形压缩编码，矢量量化压缩编码等。而BP神经网络对灰度图像进行压缩，在保证较好峰值信噪比（PSNR）的情况下，达到了较高的压缩比。也是现如今运用比较广的图片压缩技术。 图像压缩编码技术可以追溯到1948年提出的电视信号数字化，到今天已经有50多年的历史了。在此期间出现了很多种图像压缩编码方法，特别是到了80年代后期以后，由于小波变换理论，分形理论，人工神经网络理论，视觉仿真理论的建立，图像压缩技术得到了前所未有的发展。1948年提出电视信号数字化后，就开始了对图像压缩编码技术的研究工作，至今已有50多年的历史。 50和60年代，限于客观条件，仅对帧内预测法和亚取样内插复原法进行研究；1966年J.B.ONeal对比分析了DPCM与PCM，并提出了用于电视的试验数据； 1969年进行了线性预测编码的实际试验。1969年举行首届图像编码会议, 70年代开始进行帧间预测编码的研究； 80年代开始对运动补偿所用的运动估值算法进行研究。变换编码是1968年H.C.Andrews等人提出的，采用的是二维离散傅里叶变换。此后相继出现了其他的变换编码方法，其中包括二维DCT.对模型编码的研究始于80年代初； 进入90年代以后，ITU-T和ISO制定了一系列图像编码国际标准。如:1990年为会议电视和可视电话制定的H.261标准； 1991年为静止图像编码制定的JPEG标准； 1991年为电视数字图像存储而制定的MPEG-1标准； 1993年为活动图像及其伴音压缩而制定的通用编码国际标MPEG-20； 1994美国“大联盟”公布数字HDTV系统的说明书草案。美国“先进电视H263视频编码系统的研究与实现系统委员会”拟定“数字电视标准”； 1996年ITU-T为甚低码率视频编码而制定的H.263标准； 1998年ITU-T拟定H.263Version2草案，即H.2630； 1998年拟定MPEG-4草案，首次在编码中引入了视频对象和基于内容编码的概念； 图像压缩编码技术从不同的角度出发，有不同的分类方法。根据压缩过程有无信息损失，可分为有损编码和无损编码。根据压缩原理进行划分，可以分为预测编码、变换编码、统计编码等。 有损编码又称为不可逆编码，是指对图像进行有损压缩，致使解码重新构造的图像与原始图像存在一定的失真，即丢失了了部分信息。无损压缩又称可逆编码，是指解压后的还原图像与原始图像完全相同，没有任何信息的损失。预测编码是利用图像信号在局部空间和时间范围内的高度相关性，以已经传出的近邻像素值作为参考，预测当前像素值，然后量化、编码预测误差。变换编码是将空域中描述的图像数据经过某种正交变换转换到另一个变换域中进行描述，变换后的结果是一批变换系数，然后对这些变换系数进行编码处理，从而达到压缩图像数据的目的。统计编码也称为熵编码，它是一类根据信息熵原理进行的信息保持型变字长编码。编码时对出现概率高的事件用短码表示，对出现概率低的事件用长码表示。21世纪是一个科技发达的时代，也是一个信息发到的时代。人们对于图像的要求愈来愈高。图像编码技术的出现及发展，其意义之大已到可以促使现有信息产业的结构发生巨变的程度，从而使通信，广播，计算机产业的界限变得更加模糊了。图像是多媒体技术的重要组成部分，在人们的视觉信息中占百分之七十五左右，并且图片能够直观有趣儿的反应事物，增强视觉效果，使人们对事物的了解更加丰富。随着数码相机摄像机以及多媒体，通信技术等科技的迅速发展，图像信息的存储和传输在社会生活中的地位就越来越高。人们更渴望在存储更多图像的情况下占用更小的空间。目前，国外的些有线电视公司和通信、计算机公司之间的相互合作，如：美国最大的有线电视公司和软件公司合作开发交互电视等都充分体现了其意义之重大。如今很多国家都在大力推广数字电视技术。因为数字电视具有图像质量高、频谱利用率高、可以实现多种业务的动态组合和统计复用、易于加密、具有可扩展性、可分组性和互操作性、可以灵活组成交互网电视系统等优点，而这些优点是模拟电视所无法比拟的。在我国，一些地区基本上完成了数字电视的转换，模拟电视信号己切断。数字电视在视频质量以及与用户的交互性等诸多方面，都是模拟电视所无法相比的。但是数字电视受到数据量庞大的约束，因而要保证数字电视传输质量及数量的要求，视频压缩的技术解决就显得极为重要。所以，最近几年图像编码研究主要集中在视频压缩上，以改进数字电视的性能，促使各等级的数字电视的成功实现，扩大其应用领域。这也表明图像编码技术对数字电视的发展起着至关重要的作用。 然而图像信息的数据量比较大，图像信息数字化，并且实现存储和在有限的信道内进行实时传输，图片压缩就是现在必须要解决的问题之一。因此我们选择三层BP神经网络技术来进行图片压缩处理。1.3本文的主要内容本课题研究内容如下：1、BP神经网络是人工神经网络的其中一种，它利用实际输出与期望输出之差对网络的各层连接权由后向前前逐层进行校正。通过学习BP网络的算法，对BP网络进行反复训练，确定稳定的权值与阈值，进而应用到图像压缩系统中去；2、图像压缩过程分为如下几个阶段：图像块划分、归一化、BP网络训练、熵编码、熵解码、BP网络解码、反归一化以及图像块重建；3、结果显示：采用BP神经网络可以实现31%的图像压缩比率，并且通过修改隐含神经元个数实现压缩图像质量的调节；第二章BP神经网络2.1BP网络模型处理信息的基本原理输入信号Xi通过中间节点（隐层点）作用于输出节点，经过非线形变换，产生输出信号Yk，网络训练的每个样本包括输入向量X和期望输出量t，网络输出值Y与期望输出值t之间的偏差，通过调整输入节点与隐层节点的联接强度取值Wij和隐层节点与输出节点之间的联接强度Tjk以及阈值，使误差沿梯度方向下降，经过反复学习训练，确定与最小误差相对应的网络参数（权值和阈值），训练即告停止。此时经过训练的神经网络即能对类似样本的输入信息，自行处理输出误差最小的经过非线形转换的信息。图2-1BP神经网络原理图 2.1.1BP神经网络结构的确定输入层、隐含层和输出层,隐含层的节点数小于输入节点数,输入节点数与输出节点数相同。在工作过程中，输入信号通过隐含层点作用于输出点，经过非线性变换产生输出信号，通过调整输入节点和隐含层节点的联接强度，使输出模式尽可能的等于输入模式。输入模式将网络数据通过少量的隐含层单元映射到输出模式。当隐含层的单元数比输入模式少时，就意味着隐含层就能更有效的表现输入模式，并把这种表现传送给输出层，输出层节点数和输出层节点数相同。单个隐含层的网络可以通过适当增加神经元节点的个数实现任意非线性映射，所以点个隐含层可以满足大部分的应用。当隐含层神经元的个数较少时，就意味着隐含层能用更少的数来表现输入模式。因此在三层BP神经网络技术中，要通过控制隐含层的数量，来达到使输出层的个数与输入层的个数相同，从而实现压缩图片的目的。在此实验中，运用的是对灰度图像的处理，那么先来了解一下灰度图像的含义。灰度图像是一幅完整的图像，是由红色绿色蓝色三个通道组成的。红色、绿色、蓝色三个通道的缩览图都是以灰度显示的。用不同的灰度色阶来表示“红，绿，蓝”在图像中的比重。通道中的纯白，代表了该色光在此处为最高亮度，亮度级别是255。在计算机领域中，灰度数字图像是每个像素只有一个采样颜色的图像。这类图像通常显示为从最暗黑色到最亮的白色的灰度，尽管理论上这个采样可以任何颜色的不同深浅，甚至可以是不同亮度上的不同颜色。灰度图像与黑白图像不同，在计算机图像领域中黑白图像只有黑色与白色两种颜色；灰度图像在黑色与白色之间还有许多级的颜色深度。但是，在数字图像领域之外，“黑白图像”也表示“灰度图像”，灰度的照片通常叫做“黑白照片”。在一些关于数字图像的文章中单色图像等同于灰度图像，在另外一些文章中又等同于黑白图像。用于显示的灰度图像通常用每个采样像素 8 位的非线性尺度来保存，这样可以有 256 级灰度。2.2训练样本构造将训练用图像的所有像素点作为压缩网络的输入,为控制网络的规模,对图像进行划分。设训练用图像由NN个像素点构成,将其划分成M个子图像块,每个子图像块分别由pp的子像素块构成。为加快训练网络的收敛性,需要对上述生成的像素块矩阵进行归一化处理。对神经网络进行训练用构建的输入矩阵(每一列代表一个输入模式)作为目标输出矩阵,在Matlab中调用训练算法,即调用newff函数开始训练网络,函数的输入参数BTF取值“ trainlm” ,TFi取值“ tansig、logsig”。在这次研究中，采用均值分布预处理：待处理图像的灰度范围为，变换域为，设待处理的像素灰度值为，则对于所有过程的映射，满足公式:，利用该公式将原始图像的像素值划分在0,1的区间内,构成训练样本的所有预处理过程。2.3BP神经网络模型创建BP神经网络是理论和应用中出现最多的一种人工神经网络模型。它是一种多层前向网络，一般用于数据的分类，拟合等领域。BP网络接受一个输入向量，在输出端给出另一个向量，内在的映射关系通过神经元间的连接权值来体现和保存。采用一个隐含层，则整体构成一个三层的网络。把一组输入模式通过少量的隐含层单元映射到一组输出模式，并使输出模式尽可能的等于输入模式。（隐含层神经元的值和相应的全值向量可以输出一个与原输入模式相同的向量）。将图像数据样本集作为输入和信号训练BP网络,则当神经网络训练好之后,网络的耦合权在压缩过程中始终保持不变。三层前馈网中输入向量，如加入可为隐层引阈值；隐层输出向量,如加入，可为输出层引入阈值；输出层输出向量为；期望输出向量为。输入层到隐层间的权值矩阵用V表示，其中为输出层第k个神经元对应的权向量。下面分析各层信号之间的数学关系。 对于输出层，有 k=1,2,.l 式（2-1） k=1,2,.l 式（2-2） 对于隐含层，有 j=1,2,.m j=1,2,.m 式（2-3） 以上两式中，转移函数均为单极 Sigmoid 函数.,具有连续、可导的特点，且有。以上所有公式构成了三层BP神经网络。 BP网络模型包括节点输出模型、作用函数模型、误差计算模型和自学习模型。1.节点输出模型隐节点输出模型： 输出节点输出模型： -非线形作用函数；q -神经单元阈值。2.作用函数模型 作用函数是反映下层输入对上层节点刺激脉冲强度的函数又称刺激函数，一般取为(0,1)内连续取值Sigmoid函数 ：3.误差计算模型误差计算模型是反映神经网络期望输出与计算输出之间误差大小的函数为节点的期望输出值；节点计算输出值。4.自学习模型 神经网络的学习过程，即连接下层节点和上层节点之间的权重矩阵Wij的设定和误差修正过程。BP网络有师学习方式-需要设定期望值和无师学习方式-只需输入模式之分。自学习模型为：学习因子；-输出节点i的计算误差；-输出节点j的计算输出；a-动量因子；2.4BP网络模型的缺陷分析及优化策略 1.学习因子h的优化采用变步长法根据输出误差大小自动调整学习因子，来减少迭代次数和加快收敛速度。a为调整步长，01之间取值 2.隐层节点数的优化隐节点数的多少对网络性能的影响较大，当隐节点数太多时，会导致网络学习时间过长，甚至不能收敛；而当隐节点数过小时，网络的容错能力差。利用逐步回归分析法并进行参数的显著性检验来动态删除一些线形相关的隐节点，节点删除标准：当由该节点出发指向下一层节点的所有权值和阈值均落于死区（通常取0.1、0.05等区间）之中，则该节点可删除。最佳隐含节点数L可参考下面公式计算： ，m-输入节点数；n-输出节点数；c-介于110的常数。3.输入和输出神经元的确定利用多元回归分析法对神经网络的输入参数进行处理，删除相关性强的输入参数，来减少输入节点数。4.算法优化 BP学习算法的基本原理是梯度最速下降法，它的中心思想是调整权值使网络总误差最小。也就是采用梯度搜索技术，以期使网络的实际输出值与期望输出值的误差均方值为最小。网络的学习过程是一种误差边向后传播边修正权系数的过程。 由于BP算法采用的是剃度下降法，因而易陷于局部最小并且训练时间较长。用基于生物免疫机制地既能全局搜索又能避免未成熟收敛的免疫遗传算法IGA取代传统BP算法来克服此缺点。 假设网络的输入层和输出层均有M个神经元组成，隐含层包含l个神经元，切lM，则输入模式必须要进行压缩编码，那么结果就会保存在隐含层里。 输入层到隐含层的变换就相当于是压缩编码的一个过程，而隐含层到输出层的变换就相当于是对压缩编码解码的一个过程。图2-2压缩解压缩过程图假设输入图像为N*N像素大小，被细分为多个n*n的图像块。如果将图像块中每个像素点与一个输入或输出神经元相对应，便得到了图像压缩编码图，如下图所示：图2-3图像压缩编码图BP算法流程如图所示。误差反向传播算法分为两个阶段第一阶段(正向传播过程)，给出输入信息通过输入层经隐含层逐层处理并计算每个单元的实际输出 值；第二阶段(反向传播过程)，若在输出层未能得到期望的输出值，则逐层递归求期望输出和实际输出值的偏差(即误差)，以便根据此误差调节权值。图2-4BP算法流程2.5图像压缩基本方法 首先需要了解图片压缩的概念：减少表示数字图像时所需要的数据量。2.5.1图像压缩的基本原理 去除冗余的数据，这个压缩过程相当于是将二维像素阵列变换为一个在统计上无关联的数据集合。它的实质是以较少的bit有损或者无损的表示原来的像素的矩阵的技术，也被称作是图像编码。 数据压缩技术旨在用更少的信息比特表示相同的内容。图像压缩的基本方法是：图像压缩可以是有损压缩也可以是无损压缩，然而在我们日常生活中比如绘制的技术图，图表或者漫画，以及医疗图像或者是用来存档的扫描图像，有时候还有我们通过数码相机拍的图片等等，我们都需要采用的是无损压缩方法。因为无损压缩可以保证图片的清晰度，防止压缩过程中对图片的损失，而有损压缩，顾名思义就是在低的位速条件下会使图片失真。一般无损压缩运用在一些需要清晰度高的，精确的图片上，而有损压缩则运用在一些要求低的图片上，不影响视觉效果的前提下。 数据压缩包括有损压缩和无损压缩。2.5.2有损压缩 有损压缩是对利用了人类是绝对图像或声波中的某些频率成分不敏感的特性，允许压缩过程中损失一定的信息；虽然不能完全回复原始数据，但是所损失的部分对理解原始图像的影响小 ，却换来了大得多的压缩比。有损压缩广泛应用于语音，图像和视频数据的压缩。常见的声音、图像、视频压缩基本都是有损的。有损压缩可以减少图像在内存和磁盘中占用的空间，在屏幕上观看图像时，不会发现它对图像的外观产生太大的不利影响。因为人的眼睛对光线比较敏感，光线对景物的作用比颜色的作用更为重要，这就是有损压缩技术的基本依据。有损压缩的特点是保持颜色的逐渐变化，删除图像中颜色的突然变化。无可否认的是，利用有损压缩技术可以大大地压缩文件的数据，但是会影响图像质量。有损方法的一个优点就是在有些情况下能够获得比任何已知无损方法小得多的文件大小，同时又能满足系统的需要。有损方法经常用于压缩声音、图像以及视频。2.5.3无损压缩 所谓无损压缩格式，顾名思义，就是毫无损失地将声音信号进行压缩的音频格式。无损压缩格式，是利用数据的统计冗余进行压缩，可完全恢复原始数据而不引起任何失真，但压缩率是受到数据统计冗余度的理论限制，一般为2:1到5:1.这类方法广泛用于文本数据，程序和特殊应用场合的图像数据（如指纹图像，医学图像等）的压缩。由于压缩比的限制，仅使用无损压缩方法是不可能解决图像和数字视频的存储和传输的所有问题。无损压缩格式，就好比用一些压缩软件去压缩音频信号，得到的压缩格式还原成WAV文件，和作为源的WAV文件是一模一样的！总而言之，无损压缩格式就是能在不牺牲任何音频信号的前提下，减少WAV文件体积的格式。无损压缩的优点是：1、100%的保存、没有任何信号丢失。2、音质高，不受信号源的影响。3、转换方便。无损压缩的缺点是：1、占用空间大，压缩比不高。2、缺乏硬件支持。尽管有损压缩和无损压缩不分伯仲，有优点也有缺点，但是它们在个子的领域中发挥着不同的作用。2.6基本BP算法公式推导基本BP算法包括两个方面：信号的前向传播和误差的反向传播。即计算实际输出时按从输入到输出的方向进行，而权值和阈值的修正从输出到输入的方向进行。图2-5BP计算模型 至此，我们构建了一个三层BP神经网络。输入层和隐含层之间的连接权值矩阵为，1iN,1jK。隐含层第j个神经元的阈值可表示为，1jK。同理，输出层和隐含层之间的连接权值矩阵可表示为，1iN,1jK。输出层第i个神经元的阈值可表示为，1iN。通过不断训练网络，调整网络的权重，使得网络的输入与输出的均方差达到最小，最终将N维向量压缩为K维向量。根据BP计算模型来看，隐含层第j个神经元的输出值为: 1jK。输出层第i个神经元的输出值为：，1iN。其中为隐含层传递函数，一般为Sifmoid函数：为输出层传递函数，一般采用线性函数。第三章基于BP神经网络的图像压缩算法设计在基于BP神经网络的图像压缩算法的设计中，图片压缩需要两个过程：1.压缩图片。2.解压缩图片过程如下：图3-1压缩解压过程 3.1压缩图片 （1）在压缩图片时，要对图片进行压缩率的控制，输入比特率统计K为4，数字节点数N为9，行为256，列为256的矩阵。（2）然后是输入数据：I=rgb2gray(imred(test_pic.png);其中rgb代表的是真彩色图像，gray代表的是灰色图像片，此函数的功能是：将真彩色图像转换成灰度图像，而真彩色图像并不发生变化。（3）将格式统一转换成：I=imresize(I,rwo,col),imresize该函数用于对图像做缩放处理。调用格式为：B = imresize(A, m)，返回的图像B的长宽是图像A的长宽的m倍，即缩放图像。 m大于1， 则放大图像； m小于1， 缩小图像。（4）将图像块划分，为了简单，将所有输入图像的大小调整为128*128像素。为了控制神经网络规模，规定网络输入神经元节点数为16，也就是将图像划分为1024个4*4大小的图像块，将每个图像块作为一个样本向量，保存为16*1024大小的样矩阵。这个函数要求输入的图像矩阵是二维矩阵，且图像的行数和列数均是K的倍数，即形成K2*N矩阵，例如K取4，那么输出值是一个16*N的矩阵，而N的大小是根据图像的大小而定的。（5)归一化的处理。为什么要进行归一化，是因为在BP神经网络中要对样本数据进行归一化处理， 保证其值在或之间，提高训练的效率。归一化使用的是mapminmax函数进行的，由于考虑到图像数据的特殊性，像素点灰度值为整数，且处于0-255之间，因此归一化处理的时候，统一将数据除以255。归一化后的图像数据处于0.0745-0.9608之间，也就是位于0-1之间。由于mapminmax函数在使用的时候需要储存每一行数据的最大值和最小值，这样最终的压缩数据里必须包含这一部分数据，从而使得压缩率下降。(6)建立BP神经网络使用feedforwardent函数来创建，并且使用的是LM训练法，即net=feedforwardnet(N,trainlm);LM算法的BP神经网络是基于“误差不断减小”的这一原则，采用LM算法调整网络权值及阈值，从而达到最优目标的一个过程。在程序中，net.trainParam.epochs=1000;代表的是允许最大训练步数为2000步，net.trainParam.goal=0.00004;代表的是训练目标最小误差0.00004，同时确定目标的误差和最大迭代次数之后，调用train函数进行训练。然而当训练目标最小误差变大时，训练时间会提前提前停止，且时间很明显，但是结果会较差。用toc和tic来记录时间。将训练样本的个数结果保存，训练完成后，压缩结果就是每个输入模式所对应的隐含层神经元向量的值，以及网络的权值和阈值。将输入模式输入网络，与输入层和隐含层之间的权值矩阵相乘，再用Sigmoid函数处理，就可以得到隐含层神经元的值：。这时得到的结果为浮点数，为了提高压缩率，将其量化为5-8比特的整数。方法是先对矩阵进行归一化，使其固定在0-1的范围内，再乘以，最后取整数即可。最后用save命令将变量保存起来。 3.2解压缩图片(1)解压缩时，使用load命令加载数据文件。利用imread函数来读取图片文件中的数据，调用格式为：A = imread(filename,fmt)，此程序为：I_RGB=imread(test_pic.png);意思是将彩色真图像读取出来。(2）然后开始解压缩即重建：Y(:,i)=com.lw*(com.d(:,i) +com.b;com是结构体，用于存放不同的元素-数组或者矩阵，当我们列入一组图像时就会形成一组权值和阈值b。我们可以用size函数来看维度：size函数的功能为返回数组的尺寸，基本语法格式为：d=size（X），其含义为返回数组X每一维的大小。此时得到的数据为BP神经网络隐含层的神经元输出值，为了重建图像，需要将其输入到网络中，与隐含层和输出层之间的权重矩阵相乘。其中com.lw*是神经网络的权值，(com.d(:,i)是隐含层，com.b是阈值。由于BP输出的就是它本身，因此在解压缩过程中，将压缩值乘上权值加上b就是bp的输出了。（3）将得到的数据进行反归一化。每个数据除以，得到0-1之间的小树，再将其映射到数据原区间去，即com.lw=double(com.lw)/63;com.lw=com.lw*(maxlw-minlw)+minlw;将图像反归一化时不需要使用自定义的区间范围，只需将每份数据乘以像素峰值255并取整数即可。(4） 将解压缩的图像块进行恢复。假设划分图像块时，是以4*4为单位进行划分的，那么矩阵应该是16*N大小。将每一列抽取出来，重新排列为4*4矩阵，并对每个4*4矩阵按行排列，就可以恢复原图像。由此可见，反归一化就是将压缩后的图像就行恢复的一个过程。(5）计算图像的峰值信噪比PSNR和压缩率rate。psnr一般是用于最大值信号和背景噪音之间的一个工程项目。通常在经过影像压缩之后，输出的影像都会在某种程度与原始影像不同。为了衡量经过处理后的影像品质，我们通常会参考PSNR值来衡量某个处理程序能否令人满意。它是原图像与被处理图像之间的均方误差相对于(2n-1)2的对数值(信号最大值的平方，n是每个采样值的比特数)，它的单位是dB。PSNR是最普遍，最广泛使用的评鉴 画质的客观量测法，不过许多实验结果都显示，PSNR的分数无法和人眼看到的视觉品质完全一致，有可能PSNR较高者看起来反而比PSNR较低者差。这是因为人眼的视觉对于误差的敏感度并不是绝对的，其感知结果会受到许多因素的影响而产生变化（例如：人眼对空间频率较低的对比差异敏感度较高，人眼对亮度对比差异的敏感度较色度高，人眼对一个区域的感知结果会受到其周围邻近区域的影响等。PSNR的计算方法为：PSNR = 10*log10(m*n*a/b)程序中的计算为：psnr=10*log10(2552*row*col/sum(sum(I-I1).2);si=a(i).bytes;用来计算压缩的大小。压缩率的大小与节点个数有关系，节点数即N越少，rate越高，压缩率的计算方法为：rate=double(si)/(256*256)；，其中double(si)是压缩后的大小，而256*256是原图像的大小。将计算出来的峰值信噪比和压缩率放到disp指令中，disp表示只显示结果，不显示变量名,调用格式为：disp(X)，这种调用方法用于输入一个数组中的元素值。在解压缩中就是用来输出峰值信噪比和压缩率。将解压成功后的图像与原图像放到一起可以更加清晰的看出原图像与压缩后的差别。3.3实验仿真结果图3-2结果显示计算出结果为：PSNR : 37.0145 rate: 0.1716,在基于BP神经网络的图像压缩算法的设计中，PSNR值越大，就代表失真越少，图片的效果就越好，相反，压缩率越小，代表失真越小，图片效果越好。修改算法的参数可以调节图像的压缩质量。将隐含层神经元个数设为N=2，N=4，N=6，可以提高压缩率，但图像的质量会出现一定的降低。如图所示：图3-3N=2计算出结果为：PSNR :34.8549rate: 0.0475图3-N=4计算出结果为：PSNR :35.0475rate: 0.0744图3-N=6计算出结果为：PSNR :35.922rate: 0.1160第四章总结与展望4.1总结在这次毕业论文中，对BP神经网络的发展，BP神经网络的基本原理，BP神经网络模型的构建，图像压缩基本方法，以及基于BP神经网络的图像压缩算法设计，做了研究和论述。并将这些算法结合图像压缩进行MATLAB仿真，仿真结果表明利用BP神经网络进行图像压缩可以取得良好的效果。总结如下：1.基于本文的重点研究对象图像压缩，分析和总结了图像压缩，BP神经网络的创建以及BP神经网络的推导公式；2.将BP神经网络和图像压缩技术相结合,在压缩比分别为16,32和64的前提下，NMSE均达到10-5以下，PSNR均在57dB以上,可见利用BP网络进行图像压缩取得了良好的性能；3.在深入研究和探讨BP网络的模型以及算法的基础上，剖析了基于BP网络的图像压缩的机理，并提出了在传输函数中引入陡度因子的改进方法，对传输的导数进行提升，并在修正权值时各层采用不同尺度的 联合改进算法。该算法用于图像压缩取得了良好的效果。以lena.tif为原始图像进行压缩，联合优化算法和标准BP算法相比，训练时间为其20.44%，rate 为其0.1716%，而PSNR达到了37.0145%。可见联合优化算法在减少学习时间，提高压缩质量上的优越性；4.2展望 除了直接利用 BP 网络的细腰型结构特点进行图像压缩外，还可以间接应用神经网络和其他压缩方法相结合。图像压缩神经网络以及二者的结合都是新兴的学科和技术，涉及的学科领域除图像压缩、神经网络两方面的理论与方法外，还包括许多数学理论与方法，如微积分 、微分方程、矩阵论、最优化理论、数值方法等.另外还涉及到信息论、信号处理、 编码理论、模式识别、等相关学科的许多内容。图像压缩的应用越来越广泛，图像压缩技术的研究正方兴未艾，一些新的理论和方法不断提出并得到应用。但是，从目前图像压缩效果及率方面来看，还未达到令用户十分满意的程度。另外,从神经网络的角度而言，虽然其应用领域不断拓宽，应用效果也不断提高，但目前神经网络的许多理论问题尚未完全解决，应用层次有待进一步深入，神经网络方法的硬件实现也一直是一个难题。因此，无论是对图像压缩还是对于BP神经网络，无论是对于理论基础还是实际应用技术，都还有许多有意义的工作值得去做。相信随着广大科研技术人员的不懈努力，图像压缩、BP神经网络及二者结合面的研究和应用将会取得更多新的、实用的成果。纵观当代新兴科学技术的发展历史，人类在征服宇宙空间、基本粒子，生命起源等科学技术领域的进程中历经了崎岖不平的道路。 参考文献1郑午.一种小波域内的BP神经网络图像压缩方法J.微计算机息.2009(09). 2刘洋,唐向宏,余志卫.基于子块分类的BP神经网络图像压缩J.杭州电子科技大学学报.2009(02).3熊校良,杨光临,段晓辉.SPIHT算法对BP神经网络图像压缩处理的改善J. 电子测量与仪器学报.2008(06).4刘立程.基于BP人工神经网络的图像压缩技术过程及分析J.微计算机信息.2007(06). 5王书宇,施宁,李子杰.基于PSO-BP神经网络的图像压缩算法J.电脑知识与技术(学术交流).2007(23).6 T.S.Huang.Picture bandwidth compression.Proc.Picture coding symposium(PSC 89).Gordon and Breach.1972 . 7沈兰荪.图像编码与异步传输M.人民邮电出版社.2001年. 8夏正良.数字图像处理M.东南大学出版社.1999年.9肖自美.图像信息理论与压缩技术M.中山大学出版社.2000年.10吴乐南.数据压缩的原理和应用M.电子工业出版社.1995年. 11张益贞，刘滔.Visual C+实现 MPEG/JPEG 编码解码技术M.人民邮电出版社 2003年.12钟玉琢，王琪，贺玉文著.基于对象的多媒体数据压缩编码国际标准及其校 验模型M.科学出版社.2000年. 13Martin T.Hagan，Howard B.Demuth，Mark H.Beale 著.戴盔等译.神经网络设 计M.机械工业出版社.2002年.14M.KuntSecond genration image coding techniquesProc IEEE,198615W.E.GlennDigital image compression based on visual perception and scene propertiesSMPTE Jour.1993 16杨长生.图像与声音压缩技术M.浙江大学出版社.2000年.17陈衍仪.图像压缩的分形理论和方法M.国防工业出版社.1997年.外文资料中文译文摘要：本科生科研和合作教育的结合被认为是建筑界和工业界的成功之间的关系的一个有效途径，通过本科生研究/合作教育模式的应用报道（UR /合作社）在波多黎各大学mayagEZ发达。本文阐述了乌尔/合作模型发展的行业赞助的项目在红外数据协会实施的成功应用（IrDA）在德克萨斯仪器MSP430单片机协议。该协议已成为便携式计算和通信设备之间的短距离红外数据交换的事实上的行业标准。我们描述了如何在开发的项目，同时提供一些技术细节的协议，突出了学生的学习过程中，你/合作学习教育模式的结构被使用了。讨论说明了如何应用程序的模型提供了一个框架，一个共生关系，赞助公司和学生参与的运动中受益。指数条款：合作经验，本科研究，产业合作，教育模式。简介四多年来，在波多黎各大学mayagEZ电气和计算机工程系举办，与知名的设计公司合作，一个程序，结合传统教育合作（CO-OP）与本科生科研经验 1 。该模型结合了独立获得的结果，通过每个机制，为学生提供了一个全面的经验，研究成果，无论是在学习经验或特定项目的问题和活动的合作实践中的应用。这2个模型的整合已经产生了一些有趣的项目，强调了宝贵的学习经验，它提供了参与的学生，而雇主和涉及的教师也受益。本文报道的经验说明了一个计划项目，解决的问题是实现红外数据协会（IrDA）协议作为一种嵌入式应用的内存和电源效率的软件栈。目标平台是一个超低功耗MSP430，单片机（MCU）德克萨斯仪器 2 发展。本文档的其余部分已被组织起来，以提供一个概述的你/合作模式，项目组织的描述，和详细的项目物流。简要介绍了IrDA协议包括突出学生的学习过程。项目实施和验证细节提供了深入了解学生在硬件和软件方面的聪明的解决方案。最后，结束语总结了有关各方的成就和成果。在预合作阶段，学生进入该计划作为本科研究助理，在教师分配的项目工作。在这第一阶段，教师指导，帮助学生把重点放在特定的工作，以开发和深入了解的研究领域。对于大多数参与者，通常在大二的一年，这是他们的第一个本科研究的经验，他们开始发展自学技能，独立工作的能力，并深化其技术背景的问题被处理。在合作的阶段，二在模型中，学生参与的合作经验。在这里，大多数学生继续工作的项目，他们开始在学校的一部分，他们定期的合作，合作，或作为一个活动，除了他们的共同工作职责。在该模型中，最后一个阶段的模型，学生返回学校本科研究助理，在那里他们完成他们的项目的文档和传播的结果，他们的工作。活动中的活动通常是一段时间的三个常规条款加上夏天，因为合作的阶段是结构化的最后一个常规学期和夏天，在它之前或之后。这使得学生能够充分适应他们的新环境，在企业和社会方面，成为熟悉他们的项目，应用和深化他们的知识，在所选择的领域，并实现最新的目标，由他们的合作主管。此外，程序结构，让学生通过一个全面的学习经验，使他们能够开发基础研究技能的阶段，完善和应用这些技能的第二阶段，并最终发展他们的沟通技巧，通过介绍和技术报告在最后阶段。IrDA协议栈项目在这个项目中解决的问题是发展的动力和高效的内存，IrDA兼容的软件栈，便携式MSP430单片机的任何家庭成员。虽然实现的几个水平已报道的IrDA协议，无论是作为独立的ASIC或对于不同的微控制器的家庭 3 4 软模块，移植到MSP430一直难以解决。除了实施协议 5 物理层的一个早期的尝试，没有完整的实施已被发现为MSP430，包括发现、协商、和IrDA兼容的设备之间交换。此外，一个能够与在MSP430记忆其他应用现有的短码的要求，被移植到所有的家庭成员，并能够利用在主机MCU的低功耗的特点，使该项目特别具有挑战性的。这些要求使得加深他们的知识不仅在嵌入式系统编程接口的学生是必要的，而且对数据通信协议的IrDA协议技术规范（细节200多页），MSP430的建筑和编程规范，并在单片机电源管理标准。工程项目物流在这个项目的第一阶段，一个团队的三名学生被组装工作的问题。然而，不久后，其中一人退出了该项目，让2名学生完成了工作。这些学生在理解IrDA协议做出杰出的工作，单片机的规格，和原型堆在C语言。在这一点上，初步结果，提出了在当地的工业分支机构计划 6 。在初始阶段，随着产业的合作提供了IrDA标准和MSP430技术信息。在第二阶段，一个学生到赞助公司继续合作的合作阶段。这个学生继续在CO-OP的IrDA协议栈的项目工作，让她利用在第一阶段获得的知识。C原型的堆栈，虽然功能没有满足内存需求没有充分利用MSP430的低功耗模式。因此，需要在汇编语言中实现。在完成这项任务，由一个行业顾问的指导是该项目的成功的一个关键因素。下一节提供了协议要求的概述，以及其硬件和软件实现的细节。项目的实施一个IrDA协议栈的结构如图2所示。第一三层自下而上以上红外适配器是强制性的，而在那些最IAS只IrLMP除了需要为特定的应用程序的可选方案。每一层的结构和功能细节的IrDA协议规范 7 是可用的。由于内存限制的其他应用程序共存的规定，该协议的实现版本的IrDA Lite 8 。本规范的一个子集的完整的IrDA协议，