人工智能边缘设备应用 (微课视频版) 课件 模块10：生产安全监控系统搭建

模块10：生产安全监控系统搭建生产安全监控系统的概念生产安全监控系统的背景及意义生产安全监控系统的构成及应用边缘设备应用案例分析行为识别的实现流程PARTONEPARTTWOPARTTHREEPARTFOURPARTFIVE生产安全监控系统的概念人工智能边缘设备应用01生产安全监控系统是一个基于机器视觉的现代智能监控系统；其主要由视频监控系统、智能分析设备、人机交互系统组成。系统作业时，视频监控系统通过摄像头等传感器来监控施工现场，并将监控画面传入智能分析设备，待智能分析设备对画面进行分析后再将信息后反馈给人机交互系统，人机交互系统根据信息发出相应的警报。生产安全监控系统现已广泛地应用于易发事故行业如钢铁、石油行业等的施工现场中，是保证行业生产安全的重要设备之一。1生产安全监控系统的概念摄像头智能分析设备人机交互生产安全监控系统的背景及意义人工智能边缘设备应用02纵观近年来发生的多起重大事故，虽然在调查事故原因是主要归咎于违章、渎职等人为责任，但深入分析就会发现，也与缺乏先进、可靠、全方位的安全监控技术设施不无关系。针对生产安全的现状，物联网、边缘计算、大数据和人工智能等新兴技术是当下企业实现安全生产管理的得力助手，不少企业通过监控系统的改造、结合人工智能技术来提升自动化监察管理能力。由此，生产安全智能监控系统得到了广泛应用。2生产安全监控系统的背景及意义生产安全智能监控系统有着以下特点。2生产安全监控系统的背景及意义（1）全天候可靠监控改变以往完全由安全工作人员对监控画面进行监视和分析的模式，通过智能监控系统对所监控的画面进行不间断分析。（2）提高报警精确度根据实际需求定义多种安全防范类型，使用户可以更加精确的定义安全威胁的特征，有效降低误报和漏报现象，减少无用数据量。（3）变被动为主动提前预警功能，在安全威胁发生之前就能够提示安全人员关注相关监控画面以提前做好准备，有效防止安全事故的发生。（4）改造方便系统充分利用原有的视频监控系统设备，只需加入智能视频分析器后即可进行机器视觉智能化升级，达到检测目的。生产安全监控系统的构成及应用人工智能边缘设备应用03基于机器视觉的生产安全监控系统由视频监控系统、视频分析设备和人机交互系统三个模块组成。得益于其优秀的生产安全监控能力，生产安全监控系统已广泛的应用在各个场景。3生产安全监控系统的构成及应用3.1生产安全监控系统的构成在已建成的摄像头群中选取部分有需要的摄像头点位设置视频监控系统，系统针对不同现场情况收集视频流并传入系统后台服务器，视频分析设备根据现场视频实时分析并作出判断，帮助监控中心及时发现异常，当有异常行为时，立即采集报警信息、报警图片和报警视频，以声光等报警方式通过人机交互系统和监控员进行信息交互给出警报信息，以此来达成监控生产安全的效果。视频监控系统视频分析系统人机交互系统通过调用摄像头群对特定场景，如施工现场进行图像收集，并将图像实时上传至监控中心。①对图像进行实时收集，通过调用摄像头内部的命令进行视频帧的实时截取。②对截取的图像进行图像压缩，以减轻传输设备的压力，提高传输效率。视频分析设备接收到视频监控系统收集的压缩后，对图像进行分析并将信息传递到人机交互系统。通过一系列人机交互与监控员共同完成生产安全管理。①对分析的信息做出相应的处理，若有危险行为则发出警报向监控员预警。②显示监控内容，同时对系统进行视频存储、报警事件查询等人机互动操作。3.1生产安全监控系统的场景应用根据各种特定场景的特点，这里也总结了各种场景的智慧化应用，如表所示。区域分析技术功能描述生产区、仓库、围墙入侵检测检测围墙、危险区域、物品堆放区域的进入门禁、危险区域人数统计检测是否有他人尾随进入人脸检测/人脸识别检测是否为合法人员进入生产现场行为异常检测检测跑动、倒地等异常情况安全帽检测检测不戴安全帽的人员物品滞留/盗移检测物品违规放置和违规挪用离岗检测检测私自离岗现象控制室疲劳检测检测当班人员是否由睡觉的情况边缘设备应用案例分析人工智能边缘设备应用044边缘设备应用案例分析-核心诉求某公司是一家集探、采、选、售为一体、证照齐全的矿业公司，矿区面积达9平方公里，经营范围包括金矿、银矿的下开采、金银矿石浮选、冶炼、矿产品购销等业务。由于传统安全生产管理方式单一，企业信息化、智能化程度较低，且受限于纯人工抽查的方式，工作效率及精细化管理水平有限，因人员懈怠或疏忽导致的安全生产事故时有发生，且无法及时上报。（1）经营范围广、监控力度不到位该矿业公司职工达百余人，且作业范围广，传统安全生产管理方式无法有效地管理到位，因人员懈怠或疏忽导致的生产安全事故时有发生，而且无法及时地通知安全部门对事故进行处理。（2）安全生产管理方式单一由于企业信息化、智能化程度较低，使得目前的安全生产管理方式单一，只能通过纯人工抽查的方法进行生产安全管理，这导致了工作效率及精细化管理水平受限。4边缘设备应用案例分析-解决方案针对该矿业公司实际业务中的安全生产管理要求，应用生产安全监控系统，集成多项已有技能，如安全帽佩戴合规检测，人员脱岗检测等，并制定了安全事件分级管控规则及事件通知规则。作用范围广、实时性强生产安全监控系统通过摄像头群覆盖了主要生产风险点，施工现场进行全方位的实时监控，能够有效地督促工作人员遵守生产安全要求，加强安全生产监控力度；在生产安全事故发生时，能够通过系统警报，及时通知安全部门前往现场处理事故。信息化、智能化通过生产安全监控系统实现了企业安全生产管理方式的信息化、智能化；该系统能够预警并存储相关安全事件的信息，使管理人员既能对安全事件进行有效防范，也可以对事故发生的原因进行分析，从而提高工作效率和精细化管理水平。▲当矿厂的监控视频出现对应的安全隐患事件时，如人员私自离岗、机器空转等，将会及时报警通知相应管理人员，有效预防了安全事故的发生并降低了管理成本。行为识别的实现流程人工智能边缘设备应用055行为识别的实现流程行为识别的基本步骤分为以下5步，输入图像数据集、图像预处理、特征提取、训练分类器和行为识别。输入图像数据集图像预处理特征提取训练集是训练计算机去学习数据的特征，在训练集中，图像是已经分类好且标注了标签的数据集；验证集，就是验证计算机训练效果的优秀与否，而在验证集中，是包含各类图像的。对图像数据进行预处理，其中包括图像归一化、调整图像尺寸、图像去噪等可以增强图像质量的一些图像处理操作；进行图像预处理是为了让计算机能够更好的学习数据的特征，从而不被一些不必要的干扰模糊。从图像中提取有用的数据或信息，得到图像的“非图像”的表示或描述，如数值、向量和符号等;特征提取过程中，提取出来的这些“非图像”的表示或描述就是特征。5行为识别的实现流程行为识别的基本步骤分为以下5步，输入图像数据集、图像预处理、特征提取、训练分类器和行为识别。训练分类器行为识别分类问题是根据待分类的事物所呈现出来的一些特征，将它归到与其特征相似的种类当中去，具体实现过程如下。①创建训练数据集，并且要知道训练集中每个数据的分类标签；②根据已知的这些前提，寻找相应的函数或者准则来判断，并设计该判决函数模型；③对于函数模型中的参数应由训练集中的数据通过训练来确定；④模型确定好之后，利用相应的函数或准则取判定待分类的数据应属于哪一类。分类器训练完成之后，就可以对待分类的数据进行识别；此时只需传入具有行为信息的图像或视频，便能识别出该图像或视频内的行为类别。模块10：生产安全监控系统搭建案例实现模块小结知识拓展PARTONEPARTTWOPARTTHREE案例实现:基于目标检测的安全帽佩戴识别系统功能实现人工智能边缘设备应用01案例实现：基于目标检测的安全帽佩戴识别系统功能实现基于模块描述与知识准备的内容，基本了解生产安全监控系统的基本概念和行为识别的实现流程。为了能够在边缘计算设备中实现工地安全帽佩戴识别系统的部署，需要将安全帽佩戴识别模型进行部署，并以边缘设备作为服务端，对图像中的任务是否佩戴安全帽进行检测，使边缘设备具有能够对工地中的工人安全帽佩戴情况进行推理的能力。安全帽佩戴识别模型具有对图像中的人物是否佩戴有安全帽的检测能力，能够返回图像中人物佩戴有安全帽和无佩戴安全帽，对应的标签为“helmet”和“head”，检测框的坐标数据、检测的置信度以及分类ID等数据。（1）安全帽佩戴识别模型性能预测连接边缘设备，创建代码文件并编写相关代码，将图片输入到模型进行预测，查看检测结果的准确性。（2）安全帽佩戴识别模型转换部署通过相关命令将安全帽佩戴识别模型转换为服务端可部署的格式，用于后续启动模型服务。（3）安全帽佩戴识别模型服务应用通过代码文件向模型服务接口中发送请求进行预测，将安全帽佩戴的识别结果进行打印和保存，实现安全帽识别应用。任务1：安全帽佩戴识别模型性能预测接通边缘设备电源，打开终端命令行。在终端命令行中输入以下命令，切换到本次案例对应的文件夹。在本次案例对应的文件夹中，已经将安全帽佩戴识别模型存放在yolov3_darknet53文件夹下，接下来继续在终端命令行输入以下命令，创建并打开一个名为model_test.py的代码文件，编写相关代码调用该模型进行性能的预测，后续模型性能相关代码将全部在该窗口中编写。geditmodel_test.pycdDesktop/projects/char10/任务1：安全帽佩戴识别模型性能预测安全帽检测模型的相应文件全部存放在yolov3_darknet53文件夹下，在加载模型进行预测时，需要使用PaddleX中的load_model()函数加载模型，此处将模型加载至model变量，代码如下。#待预测图片路径image_name='data/test.jpg'#读取图片img=cv2.imread(image_name)#模型预测result=model.predict(img)#结果输出print(result)#引入所需实验库importpaddlexaspdximportcv2#加载预测模型model=pdx.load_model('yolov3_darknet53')模型加载完成后，接下来使用OpenCV中的imread()函数，读取data文件夹下的一张待预测图片到img变量中，并调用已加载的安全帽佩戴识别模型中的predict()函数，将读取的图像img输入模型进行预测，最后输出识别结果。任务1：安全帽佩戴识别模型性能预测根据输出结果就可以对模型性能进行判断，若想对模型识别结果进行保存，则可调用PaddleX中的det.visualize()函数，将模型的图像识别结果保存到本地，在此函数中只需传入原始图像路径image_name，模型识别结果result，图像识别结果置信度最低阈值threshold以及结果保存路径save_dir，代码如下。模型性能预测代码编写完成后，保存即可，如图所示。#识别结果可视化保存pdx.det.visualize('test.jpg',result,threshold=0.5,save_dir='./output')任务1：安全帽佩戴识别模型性能预测模型性能预测代码保存完成后，接下来在终端命令行输入以下命令，执行该代码文件，查看模型识别结果。在终端命令行输入上述命令并运行后，可在终端命令行中查看输出的模型识别结果，同时在与代码文件相同目录下的output文件夹中，可以看到保存的识别结果图像，如图所示。python3model_test.py任务2：安全帽佩戴识别模型转换部署（1）首先在终端命令行中通过PaddleX相关命令将安全帽佩戴识别模型导出为部署格式模型。在终端命令行中输入命令并执行后，即可将存放在yolov3_darknet53文件夹中的安全帽佩戴识别模型，导出到inference_model的部署格式文件夹中。（2）接下来就可以将部署格式的模型转换为PaddleHub的预训练模型，其相关命令如下。paddlex--export_inference--model_dir=yolov3_darknet53--save_dir=inference_modelhubconvert--model_dirXXXX--module_nameXXXX--module_versionXXXX--output_dirXXXX参数用途--model_dirPaddleXInferenceModel所在的目录--module_name生成预训练模型的名称--module_version生成预训练模型的版本，默认为1.0.0--output_dir生成预训练模型的存放位置，默认为{module_name}_{timestamp}任务2：安全帽佩戴识别模型转换部署（2）了解了PaddleHub模型转换命令中各参数的含义后，接下来在终端命令行中输入以下命令，将安全帽佩戴识别部署格式模型转换为PaddleHub预训练模型，并存放到hub_model文件夹中，同时指定模型名称为yolov3_darknet53。在终端命令行中输入上述命令并执行后，可以在终端看到“Theconvertedmoduleisstoredinhub_model”的提示信息，即表示安全帽佩戴检测的部署格式模型已经转换为PaddleHub预训练模型并保存在hub_model文件夹中，其中预训练模型文件名为yolov3_darknet53.tar.gz。hubconvert--model_dirinference_model--module_nameyolov3_darknet53--output_dirhub_model任务2：安全帽佩戴识别模型转换部署（3）接着即可继续在终端命令行中输入以下命令，将该预训练模型安装至边缘设备，用于启动模型的服务端部署。在终端命令行中输入以上命令并执行后，就可以将安全帽佩戴识别预训练模型安装至边缘设备，安装成功会出现“Successfullyinstalledyolov3_darknet53-1.0.0”的字样，即表示该模型已成功安装至边缘设备。hubinstallhub_model/yolov3_darknet53.tar.gz任务2：安全帽佩戴识别模型转换部署（4）安全帽佩戴识别预训练模型安装完成之后，接下来即可通过hubserving命令完成模型的一键服务端部署，相关命令如下。接下来在终端命令行中输入以下命令，启动安全帽佩戴识别模型服务，后续即可向模型服务接口发送请求进行预测。至此，便完成了安全帽佩戴识别模型转换及服务端部署。hubservingstart--modules[Module1==Version1,Module2==Version2,...]--portXXXX--configXXXX参数用途--modulesPaddleHubServing预安装模型，以多个Module==Version键值对的形式列出当不指定Version时，默认选择最新版本）--port服务端口，默认为8866--config使用配置文件配置模型hubservingstart--modulesyolov3_darknet53任务3：安全帽佩戴识别模型服务应用安全帽佩戴识别模型服务启动后，接下来需要在边缘设备的桌面重新打开一个新的终端，并依次输入以下命令，进入本次案例对应的文件夹，同时创建一个文件名为server_test.py的代码文件，用于编写安全帽佩戴识别模型服务应用的相关代码。在终端命令行中输入命令并执行后，即可打开一个名为server_test.py的文本编辑窗口，如图所示，接下来的模型服务应用代码将全部在该窗口中编写完成。cdDesktop/projects/char10/geditserver_test.py任务3：安全帽佩戴识别模型服务应用首先引入本次案例所需的实验库，包括发送请求模块requests、加载返回数据模块json、图像显示模块Matplotlib、图片读取模块cv2以及图片编码模块base64，代码如下。importrequestsimportjsonimportmatplotlib.pyplotaspltimportcv2importbase64defcv2_to_base64(image):data=cv2.imencode('.jpg',image)[1]returnbase64.b64encode(data.tostring()).decode('utf8')发送图片到安全帽佩戴识别服务接口时，需要定义一个cv2_to_baser64()的函数用于对图片数据进行编码处理，其中使用cv2.imencode()函数将图片格式转换成数据流，用于图像数据格式压缩，方便网络传输，同时通过base64.b64encode()函数将图片数据进行base64编码处理，最终将编码后的数据进行返回，代码如下。任务3：安全帽佩戴识别模型服务应用接着调用定义好的图像编码函数cv2_to_base64()对待预测图像进行编码，存储到data变量中，同时定义“content-type”的类型为“application/json”，接着定义模型服务预测地址url，此处安全帽佩戴识别的服务地址为“:8866/predict/yolov3_darknet53”，最后即可通过requests的post()函数将请求体发送至服务接口进行预测，并将结果进行加载和输出。若想要将识别结果可视化，可以提取返回识别结果中的检测框坐标信息及识别结果等数据，通过OpenCV中的rectangle()画框函数和putText()文本写入函数将识别结果绘制到原始图像上，最后通过Matplotlib将识别结果进行呈现。if__name__=='__main__':img1=cv2_to_base64(cv2.imread("data/test.jpg"))data={'images':[img1]}headers={"Content-type":"application/json"}url=":8866/predict/yolov3_darknet53"r=requests.post(url=url,headers=headers,data=json.dumps(data))print(r.json()["results"])……任务3：安全帽佩戴识别模型服务应用if__name__=='__main__':img1=cv2_to_base64(cv2.imread("data/test.jpg"))data={'images':[img1]}headers={"Content-type":"application/json"}url=":8866/predict/yolov3_darknet53"r=requests.post(url=url,headers=headers,data=json.dumps(data))print(r.json()["results"])result=r.json()["results"][0]img=cv2.imread("data/test.jpg")foriinrange(len(result)):if0.6<=result[i]['score']:x1=result[i]['bbox'][0]y1=result[i]['bbox'][1]x2=x1+result[i]['bbox'][2]y2=y1+result[i]['bbo