模式识别课程报告

西南科学技术大学模型识别课程的报告：卷积神经网络(CNN )的深度检测方向的发展，日期： 2017.11.7，报告者：第6组，目录Contents，1，神经网络背景，2，卷积神经网络，3，4，5，2，3，4，4 2、全文总结讨论和谢意，深度检测技术的发展，目录Contents， 1，神经网络背景，2，卷积神经网络，3，4，5，2，3，4，5，2，全文总结讨论和谢意，深度测量技术的发展，卷积神经网络20世纪60年代，Hubel和Wiesel在研究猫脑皮质局部敏感和方向选择神经元时，发现其独特的网络结构能有效降低反馈神经网络的复杂性目前，CNN已经成为众多科学领域的研究热点之一，特别是在模式分类领域，该网络能够避免图像复杂的前期预处理，直接输入原始图像，而且与全神经网络相比参数大幅减少，因此得到了更广泛的应用。卷积神经网络的发展、的两个主要杀手被认为是人对外界的认知或从局部至整体，图像的空间关联是局部像素关联，而距离远的像素关联较弱。 因此，不需要对每个神经元感知全局图像，而只需感知本地图像即可。 1 .局部感知：卷积神经网络的两个大杀手，2 .权重共享，目录Contents，1，神经网络背景，2，卷积神经网络，3，4，5，2，全文总结，讨论和感谢，深度检测技术的进化， 输入的图像，最初的卷积层对这个图像进行卷积操作，得到了4个FeatureMap，即通过我们熟知的卷积变换抽出的图像的特征。introduction、22222222222222222000000、1 .轮询层的主要角色为缩减取样。 通过移除FeatureMap中不重要的样本进一步减少参数。 最常见的方法是MaxPooling，而MaxPooling实际上取n*n个采样中的最大值作为采样值。 introduction，在整个卷积神经网络中起“分类器”的作用，是综合以前得到的所有特征。第一阶段、第二阶段、第三阶段、z、目录Contents、1、神经网络背景、2、卷积神经网络、3、4、5、2、全文总结，讨论和感谢、深度检测技术的发展、第一阶段、第二阶段、第三阶段、z、z、各区域通过CNN 即，转换成图像分类问题(类似于imagenet )，下一个分类器可以是独立训练的svm，也可以是简单的softmax分类。 另外，深度对象检测的开山是R-CNN(RegionswithCNN )、训练集： R-CNN使用深度网络进行特征提取，速度： R-CNN采用SelectiveSearch方法，1 .使用一种过分单元将图像分割成小区域(1k2k个) 3 .重复整个图像直到合并到一个区域位置，所谓的候选区域，SelectiveSearch的主要思想：输出所有曾经存在的区域。 其中，综合规则优先综合以下4种区域颜色(颜色直方图)相近的纹理(梯度直方图)后的总面积小：保证综合操作的尺度均匀，避免一个大区域一个接一个地“吃”其他小区域综合后，总面积占BBOX的比例大：综合上述4条规则仅针对区域的颜色直方图、坡度直方图、面积和位置。 可以根据子区域的特征直接计算聚合区域的特征，并且速度很快。使用两个数据库。 一个大型识别库(ImageNetILSVC2012 ) :指定各照片中物体的类别一个小型检测库(PASCALVOC2007 ) :指定各照片中物体的种类和位置。 使用识别库进行预训练得到CNN (有监督预训练)，在检查库中调整参数，最后在检查库中进行评价。 另外，候补区域生成：一张图像用SS法生成1K2K个候补区域，特征提取：在每个候补区域中使用深度卷积网络提取特征量(CNN )，类别判定：将特征量发送给每个类别的SVM分类器，判别是否属于该类别，位置精修：使用回归器微修正候补框的位置，2、 使用SelectiveSearch法从图像中搜索可能是物体的区域，即大小不同的一系列矩形候补框。 由于CNN需要固定输入图像的大小，因此必须将每个输入的候选框缩放到固定大小。 (1)各向异性定标(2)各向同性定标a、扩展后定标b、扩展后定标、候选框搜索阶段、a .网络结构设计阶段、b .网络具有监督预训练阶段、c .精细定标阶段、没有监督预训练阶段不需要人工标记数据，作为神经网络的初始值，采用随机初始化的方法，精度大幅度提高。 然后微调selectivesearch获得的预训练的CNN模型的候选框。 假设有n种受试者，调换预训阶段CNN模型的最后一层，采用在该层直接随机初始化参数的方法继续SGD训练。 另外，选择Alexnet后，特征提取部分由5个卷积层、2个全连接层构成。 通过该网络训练结束后，最后提取特征，可以得到每个输入候补框图像的n维特征向量。 SVM的主要思想可以归纳为两点：分析线性可分离情形，对于不可线性分离情形，可以使用非线性映射算法将低维输入空间中的不可线性样本转换为高维特征空间以实现线性可分离，从而使用高维特征空间或线性算法对样本的非线性特征进行线性分析基于结构风险最小化理论构建最适合特征空间的分割超平面，学习器被全局优化，样本空间中预期风险的概率满足一定的上限。 SVM级联完成分类，第一阶段、第二阶段、第三阶段、z、z、R-CNN算法提取特征的速率太慢，R-CNN算法需要花费较长的时间进行独立的分类设计，针对R-CNN存在的处理速率问题，提出了改进的SPPnet、结论， 随着3深度检测技术的发展，FastR-CNN算法的发展，为了减少、1.r-cnn的多项操作，SPPnet提出了一次提取整个图像的特征，减少大量时间。 2.SPPnet在得到的featuremap中找到候补框区域，进行池操作，提取固定长度的特征向量。 由于SPPnet仍然遵循独立的分类方案，因此提出了进一步改进的FastR-CNN算法，提出了、SPPnet、分类、框回归、3深度检测技术的进步，FastR-CNN算法、和，3深度检测技术的发展，FastR-CNN算法， 根据h，w )，其中h，w表示高度和宽度，3深度检测技术的进步，FastR-CNN算法、Multi-taskloss将原本远离网络的box注册操作整合到网络内部使用、任何size图像、输入、分类和回归、SS、ROI、RP、selectivesearch对一个图像生成大约2000个objectproposal，即ROI。 整个2输入到全卷积网络中，在最后的卷积层中针对每个ROI求出映射关系，用单层RP来表示为固定维度的特征。3特征向量经过各自的全连接层，得到两个输出向量：用softmax分类，按类用bbx回归。sdv、3深度检测技术的发展，FastR-CNN算法，地图，featuremaps，得到候补框的固定特征值，结论FastR-CNN的处理速度显着提高，处理精度也提高。3目标检测技术的发展、3深度检测技术的发展、FastR-CNN算法、第一阶段、第三阶段、z、z、3目标检测技术的发展、FastR-CNN沿着SS方式获取候选区域，占据时间整体耗时的大部分由于featuremap还可以用于预测regionproposal，因此将regionproposal提取和Fast-RCNN部分集成到网络模型中，并代替SelectiveSearch方法使用区域生成网络(RPN )来缩短搜索时间、3目标检测技术发展起来，FasterR-CNN融合了以往分离的regionproposal和CNN的分类，利用端到端网络进行目标检测，得到了速度和精度都很好的提高。 fasterRCNN大体上可视为“区域生成网络(RPN) fastRCNN”的系统，RPN网络和FastRCNN共享卷积层特征。 在featuremap上使用滑动窗口生成一系列anchors，并学习是否存在与原始图中的一系列窗口相对应的对象(由该窗口和ground truth iou分成正负样本)。 完成RPN网络训练的groundtruth与0.7以上的IoU重叠的anchor代入为1，选择groundtruth的IoU最大的anchor代入为1， 所有groundtruth的IoU为跨越0.3以下的anchor对馀数和图像边界的anchor放弃分配负标签的RPN的主要流程如下：RPN的核心思想使用卷积神经网络直接生成regionproposal RPN的设计比较巧妙，RPN只需将最后的卷积层滑动一次，anchor机制和边框回归就可以得到多尺度多纵横比的regionproposal。 与SS法相比，RPN精度高，速度快。 另外，RPN与FR-CNN共享卷积层，Loss函数：将所有anchors用于Loss函数优化是有问题的：由于负采样占优势，该优化沿负采样方向偏移。 解决方案：随机选择256个anchors (正负取样比率为1:1 )，如果正取样数小于128，则用负取样进行补偿。 结论FasterR-CNN时间更少，检测精度更高，目录Contents、1、神经网络背景、2、卷积神经网络、3、4、5、2、全文总结、感谢、深度检测技术的发展、4全文总结、4全文总结、性能比较、时间大幅缩短提高了检查精度，目录Contents，1，神经网络背景，2，卷积神经网络，3，4，5，2，3，4，5，2，全文总结，感谢，深度测量技术的发展，1)girlsshickr，DonahueJ et al.richferecturehareforaccrateobjectionandsemanticsementation j .2013:580-587.2 gishickr.fastr-CNN c . ieeeeenternationalconferenconneconneconnencomputeconsurvision.IEEE，20153336640-1448.3rens，HeK， girshickr et al.fasterr-CNN : toward real-timeobjectdetectionwithregionproposalnetworks c . internationalconnferen