任务3.2图像数据清洗-2

项目三图像数据清洗（下）主讲教师:段晓亮Imagedatacleaning1.图像去重采集的口罩样本中，我们需要检查每个图像之间的样本相似度，达到去除重复样本的目的。图像去重原理：1、对比数据集内每张图像和其他图像的像素尺寸，如何尺寸相同，则进一步判断；2、利用OpenCV计算相同尺寸图像的灰度直方图，根据直方图之间的距离判断图像相似度。3、删除图像尺寸相同，相似度较高的样本，重新遍历数据集。2.尺寸过滤过大的像素具有更多的信息，即使在缩小尺寸之后仍然具备足够的内容信息。过小的像素本身就不具丰富的内容信息，即使放大尺寸之后仍然会导致内容模糊。像素值为：80X80所以，数据集内小尺寸样本应该删除3.尺寸变换我们用智能手机拍摄的图像样本存在像素分辨率较大情况。分辨率较大会存在两种问题：一个数据样本“5.29MB”1.很难建立统一的标注标准标注误差导致算法精度降低2.像素值为：72X723.尺寸变换同时，爬虫脚本采集到的图像数据也会存在像素过小情况”过小的像素虽然会使用更小的内存空间，但是同样也会丢失样本的主体信息“分辨率为200X2003.尺寸变换思考：针对大像素样本或者小像素的图像样本，我们应该如何处理？3.尺寸变换COCO和VOC数据集是目前学术界最常用开源数据集，许多新算法都以其准确率高低决定算法质量。观察两个开源数据集的图像数据像素情况，它们有什么共同特点？具有统一的最长边像素值VOC数据集COCO数据集3.尺寸变换所以我们需要将不同图像数据的尺寸调整到统一大小，既可以便于存储，还会加快模型训练速度。“最长边为统一像素值”COCO数据集4.格式转换与样本重新编号观察清洗后的数据集，观察我们采集到的图像，具有几种数据格式类型？常见的图像数据存储格式为“png”和“jpg”；如果是通过网络爬虫爬取到的数据，则数据格式还有webp、bmp两种；但是webp、bmp或者其他除png和jpg之外的数据格式并不是常用格式，并且我们的算法并不能识别该种数据存储类型；1.jpg2.png3.bmp4.webp4.格式转换与样本重新编号所以我们需要将其他数据类型统一转化为“jpg”后缀格式

同时，算法模型的输入端是以jpg为格式基础的数据样本，如果加入其他格式，容易产生不必要的BUG。4.格式转换与样本重新编号由于采集途径的不同，导致采集样本的名称多种多样；并且经过我们清洗之后，有序样本变为无序样本；数据的名称不规范，可能是汉字、长串字符和字母、数字等等，这样虽然可以标注，但是模型在训练需要读取图像名称时，会出现不必要的bug。所以我们需要先对数据集内的图像样本进行重新编号，并按照数字数序进行排序。5.图像二值化什么是图像二值化？图像二值化(ImageBinarization)是指将像素点的灰度值设为0或255，使图像呈现明显的黑白效果。二值化一方面减少了数据维度，另一方面通过排除原图中噪声带来的干扰，可以凸显有效区域的轮廓结构。OCR效果很大程度上取决于该步骤，高质量的二值图像可以显著提升识别的准确率。

5.图像二值化设置一个灰度阈值，对灰度图像内的所有灰度值做判断，大于阈值像素设为255，小于阈值设为0。去除彩色信息设置二值化阈值原图像（彩色图像-RGB）灰度图像二值图像0255127二值化阈值为“127”6.图像去噪我们在采集小票数据的过程中，可能会出现票据图像样本具有部分干扰信息，这类信息会给模型的识别带来很大的困难，我们成这类干扰信息为图像的噪声。图像噪声是指存在于图像数据中不必要的或多余的干扰信息，产生于图像的采集、量化或传输过程，对图像的后处理、分析均会产生极大的影响。对于存在噪声的图像我们需要进行：“图像去噪”7.图像矫正我们在采集数据时，很容易使拍摄的小票文本出现角度偏移的情况。如果旋转角度过大的样本会出现以下几个问题：忘言。。名名

名2、会加大后续标注工作的困难度。3、算法检测的是文本矩形框，需要尽量让文本水平。1、会影响后续算法训练时的特征提取操作。我们需要对样本进行：

“角度矫正”7.图像矫正霍夫变换(Hough

Transform)是目前图像预处理领域常用的检测文本倾斜角度的算法。霍夫变换可以检测出图像中的直线和圆等信息，具体原理如下：忘言。。名名

名原图像

Canny边缘检测图像

“检测出旋转角度”

7.图像矫正霍夫变换只能检测出文本的直线与水平方向的夹角，确定偏移角度。如果想要旋转图像，我们需要确定旋转中心点，利用仿射变换进行图像旋转矫正。“仿射变换”“检测出旋转角度”图像被旋转到水平角度旋转之后文本边界超出图像，所以旋转后的图像是经过等比例缩放的结果。任务实施Taskimplementation感知传感器包括视觉传感器、激光传感器、雷达传感器等类型。视觉传感器：即摄像头，摄像头分为单目视觉和双目（立体）视觉两类。比较知名的视觉传感器提供商有以色列的Mobileye，加拿大的PointGrey，德国的Pike等。激光传感器：分为单线和多线。每多一线，成本相应上涨，当然检测效果也相对更为出色。比较知名的激光传感器提供商有美国的Velodyne和Quanergy，德国的Ibeo等