省云视频监控平台方案.doc

-省视频监控平台解决方案 目录目录21.需求简析42.架构概述72.1 方案综合构架图72.1.1 模块功能描述82.1.2 工作流程描述92.1.3 子系统描述 接入模块.1 模拟摄像机方式.2 标准流媒体协议RTSP方式..3 第三方视频监控平台SDK方式. 存储/处理模块.1 处理模块..2 存储模块. JobKeeper云调度模块 流媒体模块162.2 cVideo云平台逻辑构架173 系统方案193.1 系统逻框图193.2 子系统描述213.2.1 接入系统 接入子系统简介 接入服务器主要功能223.2.2 存储系统 流媒体存储客户端 cStor云存储系统.1 cStor主要优势.2 cStor系统构架263.2.3 处理系统2 处理子系统综述2 云端转码2 智能识别2.1车流量统计30.1车辆排队长度和车辆测速3 处理子系统功能描述313.2.4 中心调度管理系统3 系统设备3.1 数据库集群服务器3.2 Web服务器集群3 JobKeeper服务器3.1 JobKeeper系统架构3.2 JobKeeper调度流程3.3 Jobkeeper特点3 中心调度系统功能描述3 中心调度系统主要任务3.1 浏览器请求3.2 移动客户端请求3 系统结构解析3.1 表现层（UI）3.2 业务逻辑层（BLL）3.3 数据访问层（DAL）383.2.5流媒体服务器集群3 流媒体服务器集群主要功能3 流媒体服务器集群系统构架3 LVS负载均衡413.2.6终端设备4 客户端监控流程4 客户端功能描述434. 联系方式451.需求简析为整合现有视频监控资源，对已有部门大厅监控视频统一管理提供支持，本次项目拟建设“-省云视频综合监控平台”（以下简称“平台”）。“平台”在现有信息化建设基础上，集成现有视频监控资源，形成省级管理部门、市级管理部门、部门大厅的分级模式，统一标准。并希望在此基础上，系统能拥有很好的扩展性和伸缩性，方便后期的新建设备，以及智能图像处理需求接口的增加。目前部门大厅约有200个，每个大厅的高清摄像机数量均不少于4台，录像存储时间为12个月。网络状况为155Mbps专线共两条，互为主备，但由于其上承载的业务较多，预计可用的带宽仅有10Mbps左右。“平台”要求按照省-市-大厅三级部署管理，对应级别的管理平台可看到其下的摄像机监控画面，保证图像的质量和实时性，通信协议标准统一，并有着优异的扩展性。 视频接入目前前端监控摄像机设备已基本建设完毕，但厂家较为杂乱。视频监控和防范报警系统建设具有投资大、技术要求高、涉及用户广、链接环节多等特点。同时，不同厂商间的设备对视频接入要求不同，因此要整合现有主流厂商的摄像机和现有平台，并对前端监控设备作透明化处理，展现在用户面前的仅为一个个单独的摄像机。 实时监控实时监控是视频综合平台的基本功能，用户能够通过不同终端，使用B/S的浏览器或者C/S的客户端，实现对接入视频流的实时监控、云台控制、录像存储等功能，同时可以监控“平台”内部各服务器的工作情况。 三级管理模式按照实际的需求，对全省监控平台实行三级管理的模式，即从省级管理部门，到市级管理部门，再到部门大厅，各级之间通过权限控制访问的摄像机。一方面便于管理和协调，另一方面也可以缓解带宽不足带来的影响。 智能分析、识别 数字网络化监控将成为安防系统的主流，智能化是安防技术发展的目标。在大规模视频监控系统中，由于显示屏数量有限，对治安事件无法实时监控和预警。长期观察监控视频容易引起工作人员疲劳，从而不能及时发现治安隐患。解决以上问题的一个最有效的方法就是对视频进行智能分析，如果产生预置的报警情况，则自动告知工作人员。 实时转码，保证低带宽下的图像质量和实时性根据现状可知，虽然已有互为主备的155Mbps专线宽带两条，但由于承载的业务较多，现在如果打开超过3路的视频就会影响到其他业务。高清摄像机的码流均值为4Mbps，根据这个现状，分析现有的可用带宽预计仅有10Mbps左右，在如此低带宽的状况下需要传输视频监控图像，需要使用到实时转码技术，即：将高清的图像经过转码后，在保证清晰度的同时大幅降低其码率，将4Mbps的码流压缩成几十或者几百Kbps的流量，从而在极大程度上降低对带宽的依赖，使得在低带宽的情况下保证图像传输的质量和实时性。 视频存储及历史数据回看对于定时录制的视频数据和部分关键数据进行存储操作，对于历史数据，既提供标准的流媒体输出访问形式，同时也支持FTP直接下载。同时，由于现有带宽的不足的问题，统一的存储几乎不可行，建议沿用现有的前端存储方案，即：在每个部门大厅存放相应的录像，需要回看的时候也通过实时转码的技术将其推送给上级用户的客户端。按平均每个大厅5台监控摄像机计算，存储原始高清码流4Mbps图像，则每个大厅的视频存放1个月总计需要的容量为：5 * ( 4 / 8 ) * 3600 * 24 *30 = 6.48TB以此类推，存放2个月的容量需求约为13TB。 “平台”输出及接口“平台”提供标准化的视频输出和接口，数据流和控制流分开，数据流用标准RTSP流媒体协议，控制协议用HTTP协议，以JSON方式封装。“平台”支持多终端监控，包括电视墙、PC、移动终端等等，同时，需要支持高并发的视频访问能力。 用户管理与控制建立完整的用户管理体系，区级用户权限与角色，以决定其使用功能范围，用户能够自行为摄像机分组管理。提供B/S浏览器架构模式的访问方式，方便用户控制和使用，并支持解码上墙的控制管理。2.架构概述2.1 方案综合构架图 cVideo云视频平台主要由七个模块组成：前端设备、接入服务器、处理服务器集群、存储服务器集群、流媒体服务器、中心服务器和客户端。图2-1 cVideo总体描述图 cVideo云视频监控系统是南京云创存储公司自行研发和设计的大规模高清视频监控解决方案。依托本公司的cStor云存储平台，以及cProc云处理平台，使得cVideo构架下的综合调度和云端转码可以完美地满足超大规模视频监控、海量数据存储、以及远距离监控的要求。同时，cVideo研发了国际领先的智能图像识别算法，采用大规模分布式云处理，使得计算机对视频数据达到了空前的识别和认知水平。2.1.1 模块功能描述l 前端设备：前端设备在中心服务器的调度下进行信息采集，以RTSP的形式传输给存储/处理服务器集群，或者以SDK的形式传输给接入服务器。(前端设备包括：模拟摄像机、网络摄像机、卡口设备、第三方平台等)l 接入服务器：整合各种前端设备，将不同厂家不同平台的前端设备通过RTSP或者SDK的方式接入本“平台”，以实现多种前端摄像机、已有平台的统一接入，供本平台内其他模块统一调用，并以轮询的方式监听前端设备，如有异常测产生报警信号。l 中心服务器: 平台的核心控制部分，实现了与客户端的信令交互、通过JobKeeper云调度系统来调度云集群节点处理各项任务、并实现对整个平台的统一管理和监控。a）用户管理功能：根据用户信息表，管理用户登录、用户的权限，可以管理用户信息、增删用户等。b）前端信息采集设备管理功能：根据摄像机和用户的权限，管理当前用户所能涉及的前端设备状态、节点运行状态，并进行实时的更新。c）与用户和前端设备的信息交互功能：更新前端信息，并根据客户需求进行对前端设备调度，以及对JobKeeper的任务分发。同时，进行信息数据的处理，以完成整个平台的调度工作。d）对服务器集群进行统一的调度管理，获取每台机器的运行状态。根据机器的运行状态进行自动调度和部署，负载均衡，提高机器的使用率，进而提高服务器的梳理效率。e）解决服务器集群信息处理的冗余状态，查错排错，保证系统的无人值守、自动生长的高效性。l 存储服务器集群：使用cStor云存储系统，提供统一的存储资源池，用以存储关键数据，提供历史视频的回看以及相关数据的下载服务。同时，支持网络挂载盘符的模式，以满足整个平台中其他模块的存储需求。l 处理服务器集群：大致可以分为接入分析、数据处理和结果分发三个子模块，主要负责对完成对接入视频的各项处理任务，诸如：内容识别、实时转码、语义分析等，再将处理好的结果发送至流媒体服务器。l 流媒体服务器：以流媒体服务器的形式对外提供标准的RTSP流媒体服务，用户根据相应的流媒体RTSP地址，即可实时地获取系统处理完后的实时视频数据，以供监控和远程访问。采用虚拟IP技术，备份冗余机制，对内网推送高清码流；针对公网移动终端，以实时转码降低码流提高流畅度，并通过apn方式接入，推送视频流。l 客户端：支持windows、linux、ios、android等主流操作系统，提供B/S架构客户端，控制视频解码上墙等，实现与用户的直接交互。2.1.2 工作流程描述l 客户端发送命令：客户端向中心服务器发送命令，中心服务器根据客户端信息进行分析判断，得知用户的客户端类型、网络状态、信息要求等，从而根据需求对前端设备、JobKeeper等进行调度控制。l 中心服务器调度：中心服务器响应客户端命令，对前端设备进行调度控制。根据用户的指令，把客户需求的信息进行实时采集，同时使用JobKeeper进行对集群的任务分发，完成对应的存储、处理或监控等请求。l 中心服务器调度存储/处理集群：(A) 存储服务器集群接收命令工作中心服务器响应客户端命令，向JobKeeper发送命令。JobKeeper根据存储服务器集群的工作状态，选择负载较小的服务器进行高清存储。(B) 处理服务器集群接收命令工作中心服务器响应客户端命令，向JobKeeper发送命令。JobKeeper根据处理服务器集群的工作状态，选择负载较小的处理节点进行实时处理、识别转码，并根据用户的网络状态分发到对应的流媒体服务器。进而，流媒体服务器将客户所需的处理过后的实时监控视频传递给客户端。2.1.3 子系统描述 接入模块前端视频采集设备大致可以分为：模拟摄像机、支持RTSP标准流媒体协议的网络摄像机、第三方平台，接入系统也相应采取不同的方式，实现前端设备透明地接入本“平台”，使得对前端设备的可控可管。图2-2 接入模块描述.1 模拟摄像机方式针对前端的模拟摄像机，我们采用的方式是在其后加设一个NVS网络编码器，使得获取的模拟信号通过编码转换成为标准的流媒体数据，通过网络传输，支持RTSP标准流媒体协议，之后接入系统处理方式如同下面的RTSP方式一样对待即可。.2 标准流媒体协议RTSP方式RTSP（Real Time Streaming Protocol），实时流传输协议，是TCP/IP协议体系中的一个应用层协议，由哥伦比亚大学、网景和RealNetworks公司提交的IETF RFC标准。该协议定义了一对多应用程序如何有效地通过IP网络传送多媒体数据。RTSP在体系结构上位于RTP和RTCP之上，它使用TCP或RTP完成数据传输。HTTP与RTSP相比，HTTP传送HTML，而RTSP传送的是多媒体数据。针对此类网络摄像机，由于其支持RTSP标准流媒体协议，因而可以直接通过RTSP的准则，将前端设备的数据流接入“平台”。.3 第三方视频监控平台SDK方式前端设备多数已有自己的平台，针对这类平台，我们统一归到第三方平台模式，通过与其SDK协议对接，从而实现互通互联。其中又可以根据通过SDK获取的码流细分为标准流方式和非标准流方式，如果用SDK获取过来的是标准流，则基本类似于RTSP方式，接入系统只需要与前端平台通信获取流地址，之后“平台”就可以根据该地址获取视频流进行处理操作。如果SDK获取过来的是非标准流（如：“320”工程和交管局使用的海康平台），则需要增设额外的服务器用于流的转换，即：将获取的非标准流通过他们的SDK解码还原为原始图像，再按进行标准的编码转换，之后再接入“平台”。 存储/处理模块下图2-3描述了存储/处理模块的工作流程与各个分模块之间的关系。前端设备采集信息接入服务器，Jobkeeper与存储服务器和处理节点进行交互。处理服务器集群根据客户需求对采集到的信息进行实时处理，在Jobkeeper的综合调度控制下，处理节点进行分布式计算，完成内容识别、云端转码、数据分析、语义分析等任务。图2-3 存储/处理模块图存储服务器集群和处理服务器并行处理采集到的信息，存储服务器将采集到的信息实时存储到存储节点。cStor存储服务器集群具备的海量存储能力，保证视频数据的长期存储，以备视频回看、重新处理等需求。.1 处理模块处理服务器集群以处理节点为单位，对采集到的数据按照接入、处理、识别转码、分析、分发的流程对数据进行实时处理。图2-4数据处理举例示意图处理节点组通过RPC的远程调用获取各自节点的任务处理目标，并实时的和处理节点上的任务处理目标进行对比，控制程序的执行和结束。处理节点组会在一个设定的心跳间隔内主动的和管理节点组联系一次，报告节点存活状态。如果在若干个心跳间隔后管理节点组仍然没有获取到处理节点心跳报告，那么该处理节点将会被踢出处理节点组，同时该节点处理的所有处理任务也会被重新调度。随着集群处理数据量的不断增大，处理节点组提供了简单高效的自动化部署方案，当新机器加入处理集群后，会主动的与管理节点组同步心跳信息，从同一配置服务器ZooKeeper上获取相关配置信息，通过WebServer服务获取任务列表，开始执行数据处理工作。前端设备将采集到的视频等信息将数据存储至云处理集群并进行相应的云存储处理。当客户端需要视频转码或者智能识别时，通过JobKeeper调度云处理集群中的各个处理节点，节点收到查询请求后进行不同的处理，并将处理后得到到的数据结果交付给客户端；而如果是视频数据，则通过流媒体服务器返回给客户端。.2 存储模块高性能高可靠的cStorFS分布式云存储文件系统，采用了更为廉价的普通硬盘和服务器作为存储设备，成本大大降低。同时靠软件来保证数据的完整可靠性，系统可提供7 * 24小时的不间断存储服务，由于控制流与数据流分离，系统在块数据服务器越多的情况下性能越高。且随着应用客户端写入的并发数越多，吞吐量接近线性增长直到带宽饱和利用。其中cStor云存储系统由以下部分组成：用户挂载空间（即客户端），元数据管理服务器，数据存储服务器和管理监控中心。图2-5 cStor云存储系统组成 JobKeeper云调度模块JobKeeper调度平台是建立于虚拟化资源层之上，统一调度，统一配置的管理平台，用于对集群中任务实时的处理调度，实时结果集的反馈，集群的负载均衡，失败调度，集中管理，集中配置的平台。用来保证整个集群的超低人员干预。同时，提供完善的集群伸缩机制为整个服务提供更高的可靠性。图2-6 JobKeeper架构图它是由一组管理节点（Master Node）和一组处理节点（Task Node）组成，管理节点组是一组基于Webserver的RPC（注：RPC采用客户机/服务器模式。请求程序就是一个客户机，而服务提供程序就是一个服务器。首先，客户机调用进程发送一个有进程参数的调用信息到服务进程，然后等待应答信息。在服务器端，进程保持睡眠状态直到调用信息的到达为止。当一个调用信息到达，服务器获得进程参数，计算结果，发送答复信息，然后等待下一个调用信息，最后，客户端调用进程接收答复信息，获得进程结果，然后调用执行继续进行）。服务器节点组，负责对处理节点的系统信息以及任务处理信息进行实时的跟踪和保存，对应的信息镜像存储在基于cStor或者NFS服务的存储系统上，保证每个管理节点中的镜像信息的实时同步。同时架设在管理节点上的ZooKeeper服务（注：ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，包含一个简单的原语集。分布式应用可以使用它来实现诸如：统一命名服务、配置管理、分布式锁服务、集群管理等功能），用于对整个管理节点组进行统一的配置化管理。 流媒体模块本系统输出为标准RTSP视频流，通过构建流媒体服务器集群和负载均衡机制，使得多台流媒体服务器可以共同对外提供服务，支持高并发访问。流媒体分发系统内网PC客户端移动终端电视墙视频矩阵APN公网移动终端图2-7 输出子系统描述针对PC机和解码上墙，此类需求一般为高清码流，因此布设在环保视频专网内，走局域网保证清晰度和实时性。针对移动终端，由于其会经过公网，因此采用APN方式连接，APN的英文全称是Access Point Name，中文全称叫接入点，是移动终端上网时必须配置的一个参数，它决定了移动终端通过哪种接入方式来访问网络。如：使用联通的3G网络（WCDMA），使用APN接入方式并于其鉴定协议，就可根据用户名判定，生成虚通路连接进入环保视频专网，从而通过流媒体服务器获得视频流。并且，由于无线信道的带宽不是非常稳定，因此码流一旦较大，视频的传输质量会很差，加之移动终端的解码能力有限。因此，需要对此类视频做实时云端转码处理，降低其传输码率，从而保障移动终端监控的实时性和稳定性。2.2 cVideo云平台逻辑构架图2-8 cVideo云平台逻辑架构图cVideo云视频监控系统利用cStor云存储和cProc云处理技术实现高清视频监控，是在服务器集群上部署一整套基于云架构的视频处理软件，下图为简化的cVideo云平台框图，其核心内容是对接入视频的实时处理分析。基于云计算的模式，采取海量分布式JobKeeper云调度架构，以集群的形式共同对外服务。以实现诸如视频内容识别、云端转码、智能分析等实时数据、动态伸缩等需求。最后将处理好的图像信息以流媒体的形式输出，并提供给上层各类应用对应的接口。l 资源层：包括摄像头、卡口等前端数据采集设备所采集到的原始视频图像数据，以及响应业务信息，如：人力、车辆、区域分布等资源信息。l 接入层：整合数据资源、业务资源、存储资源，使其符合系统标准，实现不同资源的接入。l 数据存储层：即cStor云存储系统，提供海量的存储空间，以备历史数据的回看与处理。l 数据处理层：即cProc云处理系统，提供高效的视频转码、内容识别等大规 模数据处理能力。l 数据分发：以流媒体服务器的形式提供标准的RTSP流媒体输出，可以支持高并发访问。l API层：提供API接口，实现上层应用对底层资源的透明操作，提供业务应用的开发支持。l 调度控制层：实现对以上各层的综合调度与控制，以实现整套系统机制。l 应用层：主要包括实时监控、调阅查询、内容识别等视频相关应用，为用户提供友善的界面、人性化的操作方式，能够让用户简单高效的监控多个视频源。功能如下：1) 信息采集设备的管理，监控控制端对视频中心服务器中的设备数据库进行操作，实现添加和删除系统中的卡口和摄像头。2) 用户管理，监控控制端对视频中心服务器中的用户数据库进行操作，实现用户注册、注销以及权限设置。3) 按时间检索历史记录，提供按时间检索记录的窗口，向视频中心服务器发送检索命令，获取历史记录的相关信息。4) 历史记录回放，根据历史记录的相关信息，播放cStor中的历史记 录。 5) 录像，监控控制端通过中心服务器向存储管理端发送录像命令，存储管理 端控制设备进行录像，获取的数据直接存储到cStor中。3 系统方案方案采用信令流和数据流分离的方式，在标准X86(X64)服务器集群上部署存储、处理、调度等软件系统，形成一个整体的云视频监控解决方案，实现对现有视频监控资源的整合。采用云处理和云存储技术，有较高的扩展性和容错能力，解决服务器单点故障问题，降低升级和维护成本。3.1 系统逻框图 本云视频监控平台，是在服务器集群上部署一整套基于云架构的视频处理软件，下图为系统逻辑框图，其核心内容是对接入的海量视频的实时处理分析。图3-1 系统逻辑架构框图系统基于云计算的模式，采取海量分布式 JobKeeper 云调度架构，以集群的形式共同对外服务。以实现诸如视频内容识别、云端转码、智能分析等实时数据、动态伸缩等需求。最后将处理好的图像信息以流媒体的形式输出，并提供给上层各类应用对应的接口。资源层：包括摄像头、卡口等前端数据采集设备所采集到的原始视频图像数据，以及响应业务信息，如：人力、车辆、区域分布等资源信息。接入层：整合数据资源、业务资源、存储资源，使其符合系统标准，实现不同资源的接入。数据存储层：即 cStor 云存储系统，提供海量的存储空间，以备历史数据的回看与处理。数据处理层：即 cProc 云处理系统，提供高效的视频转码、内容识别等大规模数据处理能力。数据分发：以流媒体服务器的形式提供标准的 RTSP 流媒体输出，可以支持高并发访问。API 层：提供 API 接口，实现上层应用对底层资源的透明操作，提供业务应用的开发支持。调度控制层：实现对以上各层的综合调度与控制，以实现整套系统机制。应用层：主要包括实时监控、调阅查询、内容识别等视频相关应用，为用户提供友善的界面、人性化的操作方式，能够让用户简单高效的监控多个视频源。功能如下： 信息采集设备的管理，监控控制端对视频中心服务器中的设备数据库进行操作，实现添加和删除系统中的卡口和摄像头。 用户管理，监控控制端对视频中心服务器中的用户数据库进行操作，实现用户注册、注销以及权限设置。 按时间检索历史记录，提供按时间检索记录的窗口，向视频中心服务器发送检索命令，获取历史记录的相关信息。 历史记录回放，根据历史记录的相关信息，播放 cStor 中的历史记 录。录像，监控控制端通过中心服务器向存储管理端发送录像命令，存储管理 端控制设备进行录像，获取的数据直接存储到 cStor 中。3.2 子系统描述3.2.1 接入系统 接入子系统简介前端设备主要包括：模拟摄像机、网络摄像机、第三方平台等。根据完成的功能不同，可以将接入服务器系统中交互的内容分为数据流和信令流。网络摄像机模拟摄像机第三方平台接入服务器处理服务器信令流数据流中心服务器图3-2 接入系统示意图数据流主要分为三部分，其中支持标准RTSP协议的摄像机可以直接将视频流传输给处理服务器集群；对于不支持RTSP的摄像机，则通过集成监控设备商的SDK以支持其私有协议（如：海康威视早期的DVR），再将视频数据重新编码成标准RTSP流发送给本“平台”；第三方平台中的摄像机可以经平台SDK获取摄像机的url，使用该视频流地址获取数据流。视频流接入到平台后，再发送到流媒体服务器，从而实现了不同的客户对同一路流的访问，并且减轻了前端摄像机的压力。图 3-3 数据流3种情况信令流主要是完成命令的分发，使接入服务器在中心服务器的调度下完成各项功能。对于前端设备中的带云台的摄像机，中心端发送云台控制信令，然后接入服务器通过各个不同厂家的SDK完成各种云台操作，如云台上下左右转动、设置预置点、调焦、调距、光圈放大缩小等。对于第三方平台里的摄像机，中心端可以像接入服务器获取所有设备的列表，并获取某一路的url。另外，接入服务器还会以轮询的方式监听前端设备，检查所有前端设备在线、不在线、视频信号是否丢失等状态，并及时向中心服务器返回设备的异常状态，使“平台”能更好的实时监控所有设备的状态。 接入服务器主要功能 接入服务器主要是配合中心服务器来完成一些需要直接操作前端设备或第三方平台的任务。通过整合不同厂家的SDK，使中心服务器可以更好的统一管理所有的设备。接入服务器完成的主要功能如下： 获取设备参数信息：接收中心服务器发来的请求，通过前端设备厂 家的协议获取设备参数信息，反馈给中心服务器。 状态信息轮询：轮询前端设备的状态，及时获取前端设备是否掉线，反馈给中心服务器，由中心服务器告警、记录、显示。 云台控制协议转换：将系统接收的用户控制信令转换为设备厂家对应的协议，并发送给前端设备，从而使用户实现云台相关功能的控制，例如云台上下左右转动，设置预置点，调节焦距、光圈等。 接入第三方平台：提供系统与第三方平台的协议转换，实现无缝对接。通过接入第三方平台的前端监控设备，实现云台控制。获取视频数据流的地址，以及第三方平台设备的列表、信息、状态。 对少量的不支持标准协议且不提供linux SDK的前端设备，有针对性的接入，采用SDK接收流并转换成标准协议的数据流。 设备远程参数配置：提供对前端设备的视频参数配置和网络参数配置功能，从而可以按用户需求来设置前端设备的参数。视频参数配置包括码流类型、分辨率、码率类型、码率、帧率、视频编码类型等。网络参数配置包括网卡类型、设备ip地址、DNS服务器地址、多播地址、HTTP端口号、RTSP端口号等。3.2.2 存储系统存储客户端流媒体服务器cStor存储集群中心服务器JobKeeper信令流数据流rtsp流图3-4 存储系统示意图存储系统包括cStor存储服务器集群和流媒体存储客户端软件两部分。流媒体存储客户端软件部署在处理服务器集群上，由JobKeeper调度，将网络视频流按固定时间保持为文件，并通过cStor客户端写入存储集群；cStor云存储服务器集群提供海量的存储空间，通过cStor客户端挂载到处理服务器和流媒体服务器，这样视频存储和视频处理程序就可以访问海量的存储空间。 流媒体存储客户端流媒体存储客户端提供了将标准rtsp流保存为文件的功能，并按一定时间(如30分钟)打包成一个视频文件存放在cStor上。与转码任务流程一样，当用户请求对某一路视频进行录像后，中心服务器通过JobKeeper统一调度资源，根据存储服务器集群的工作状态，选择负载较小的服务器，建立一个存储任务，存储客户端程序将标准rtsp流经过分析后，重新打包成视频文件，保存下来的视频文件存放在云存储集群cStor上，从而提供了对高清视频的海量存储。将这些视频文件挂载到流媒体服务器上，当用户想要查看某一路的历史视频时，就可以很方便的访问到cStor上的这些文件。 cStor云存储系统cStor云存储系统是9年来不断积累研发的高科技产品，是国内最早实现并保持领先的云存储系统，整套系统包括软件与硬件，是一个海量的云存储平台。与传统的大规模存储系统相比，它具有构建成本低、性能高效可靠、使用简单方便的特点。在需要存储大量数据（如视频数据、业务数据等）的应用场合，可以大幅提高存储系统性价比。与目前国际上知名的Google、Amazon等云存储相比，具有更高的性价比、更低的能耗、更加通用和更方便的使用模式。图3-5 cStor云存储系统.1 cStor主要优势 超低成本系统中采用廉价的大容量存储服务节点，通过cStor系统软件实现统一管理和容错，提供高效、稳定服务。与使用专用服务器相比，可以将系统构建成本节省5-10倍以上，且规模越大，优势越明显。 高性能cStor采用了高效的数据读写技术和文件查询技术, 支持高并发、高带宽， 数据在多个节点上并行读写，服务器自动均衡负载，系统性能随节点数增加而线性增长。 超高可靠性支持多重数据保护，包括磁盘级的数据冗余，节点级的数据冗余等。 存储节点的数据具有多个副本（默认为3个，可设置）。任意节点出现故障，系统将会自动复制数据副本到新的节点上，不会丢失数据。元数据管理节点采用双机镜像模式容错，如果有一节点出现故障，另一节点自动接替之。 绿色节能自主研发的超低功耗云存储硬件节点，主板尺寸为20cm*20cm，功耗仅为10W左右（不含硬盘），比业界的200W低10几倍。 超高集成度由于解决了能耗的问题，散热不成为集成度的瓶颈，因而可以在1个标准的42U机架上集成多达80个存储节点，总容量高达1024TB。 易扩展性可以在不停止服务的情况下，动态加入新的存储节点，无需任何操作，即实现系统容量从TB级平滑扩展到PB级；也可以摘下任意节点，系统自动缩小规模而不丢失数据，并自动将摘下的节点上得数据备份到其他节点上，保证整个系统数据的冗余数。.2 cStor系统构架与传统的存储设备相比，云存储不仅仅是一个硬件，而是一个网络设备、存储设备、服务器、应用软件、公用访问接口、接入网、和客户端程序等多个部分组成的复杂系统。各部分以存储设备为核心，通过应用软件来对外提供数据存储和业务访问服务。云存储系统的结构模型由存储层、基础管理层、应用接口层以及访问层等四层组成，如下图1-1所示：图3-6 存储系统的结构模型下面对各层的功能描述做一下说明： 存储层：存储层是云存储最基础的部分。存储设备可以是FC光纤通道存储设备，可以是NAS和iSCSI等IP存储设备，也可以是SCSI或SAS等DAS存储设备。云存储中的存储设备往往数量庞大且分布多不同地域，彼此之间通过广域网、互联网或者 FC光纤通道网络连接在一起。存储设备之上是一个统一存储设备管理系统，可以实现存储设备的逻辑虚拟化管理、多链路冗余管理，以及硬件设备的状态监控和故障维护。 基础管理层：基础管理层是云存储最核心的部分，也是云存储中最难以实现的部分。基础管理层通过集群、分布式文件系统和网格计算等技术，实现云存储中多个存储设备之间的协同工作，使多个的存储设备可以对外提供同一种服务，并提供更大更强更好的数据访问性能。CDN内容分发系统、数据加密技术保证云存储中的数据不会被未授权的用户所访问，同时，通过各种数据备份和容灾技术和措施可以保证云存储中的数据不会丢失，保证云存储自身的安全和稳定。 应用接口层：应用接口层是云存储最灵活多变的部分。不同的云存储运营单位可以根据实际业务类型，开发不同的应用服务接口，提供不同的应用服务。比如视频监控应用平台、IPTV和视频点播应用平台、网络硬盘引用平台，远程数据备份应用平台等。 访问层：任何一个授权用户都可以通过标准的公用应用接口来登录云存储系统，享受云存储服务。云存储运营单位不同，云存储提供的访问类型和访问手段也不同。3.2.3 处理系统 处理子系统综述图3-7 存储/处理模块图上图描述了存储/处理模块的工作流程与各个分模块之间的关系。前端设备采集信息接入服务器，Jobkeeper与存储服务器和处理节点进行交互。处理服务器集群根据客户需求对采集到的信息进行实时处理，在Jobkeeper的综合调度控制下，处理节点进行分布式计算，完成内容识别、云端转码、数据分析等任务。存储服务器集群和处理服务器并行处理采集到的信息，存储客户端软件将采集到的信息实时存储到cStor云存储集群中。处理节点组通过RPC的远程调用获取各自节点的任务处理目标，并实时的和处理节点上的任务处理目标进行对比，控制程序的执行和结束。处理节点组会在一个设定的心跳间隔内主动的和管理节点组联系一次，报告节点存活状态。如果在若干个心跳间隔后管理节点组仍然没有获取到处理节点心跳报告，那么该处理节点将会被踢出处理节点组，同时该节点处理的所有处理任务也会被重新调度。随着集群处理数据量的不断增大，处理节点组提供了简单高效的自动化部署方案，当新机器加入处理集群后，会主动的与管理节点组同步心跳信息，从同一配置服务器ZooKeeper上获取相关配置信息，通过WebServer服务获取任务列表，开始执行数据处理工作。 云端转码由于视频转码计算量很大，单一的计算机不可能实现整个监控系统内的摄像头实时视频数据的转码。cVideo研发了云端转码技术，将视频转码计算放大云端，实现整个系统内的实时视频转码，以满足用户对不同分辨率，不同码流，不同终端的使用需求。视频接入模块首先将不同厂家的前端设备接入进来，对于支持RTSP的采集设备，我们利用标准的流媒体协议接口实现视频和音频数据的传输。对于不支持RTSP的采集设备，我们利用设备厂商提供的SDK进行接入。然后在cProc云计算平台上利用高效的转码技术，将采集到的高清视频信号解码后再重新编码，在满足用户需求的同时降低对网络带宽的消耗。同时将转码后的视频流推送给流媒体服务器分发出去。这样可以提供给终端不同分辨率需求的视频流，支持常用的音视频编码格式，支持标准解码器解码，从而支持常用播放器的播放(如支持网络功能的MPlayer、VLC等)。图3-8 云转码流程 智能识别前端设备将采集到的视频等信息将数据存储至云处理集群并进行相应的云存储处理。当客户端需要视频转码或者智能识别时，通过JobKeeper调度云处理集群中的各个处理节点，节点收到查询请求后进行不同的处理，并将处理后得到到的数据结果交付给客户端；而如果是视频数据，则通过流媒体服务器返回给客户端。自主专利的智能图像检索采用先进的图像处理技术并结合模式识别对已有的海量视频进行事件检索，实现了对事件发生视频的切片回放、运动帧提取和对象跟踪。目前可以对烟、火、运动物体、遗留物、车辆统计和特定行为等情况下的识别达到很高的识别度。.1车流量统计为了获取精确的车流量统计结果，我们首先采用当前效果较好的GMM算法对背景建模，提取道路上行驶的车辆轮廓信息。但是由于该算法自身的缺陷，会将现实场景中噪声、阴影当做车辆的一部分，给车流量统计带来很大误差。为此，我们研发出一种可以去除阴影及噪声的方法，效果如下： 原始图像 GMM检测的车辆 去除阴影/噪声的车辆图 3-9 阴影消除算法其中，图3-9中的右侧图灰色为背景，红色为GMM检测中误认为是车辆的部分，该部分主要为阴影及噪声。该方法可以很好的避免传统方法中容易将车窗或深色车身误检为阴影的问题。基于此算法就可以非常方便和准确的获取到车辆的轮廓，再根据摄像头与车辆之间的拍摄夹角，将车辆轮廓映射到伪三维上，就可以重建出车辆的三维轮廓图，即使多辆车之间存在遮挡、粘连都可以准确的计算出车的数量，如图3-10所示。图3-10基于伪三维的车辆轮廓重建及计数.1车辆排队长度和车辆测速车辆排队长度的难点在于，如何准确的自适应测量车队首尾之间的距离。比较准确的方法是采用摄像头标定的方法，我们利用实际场景中的建筑物、道路标线等参考信息，经过较复杂的数学逻辑，推导出如何将二维图像中的距离信息映射到三维世界坐标系中的数学公式，从而可以通过图像上的像素距离，计算出实际场景中的距离。这样就可以轻松获得车辆排队长度，给广大车主提供有效道路信息。基于视频的车辆测速属于新兴技术，不需要像传统测速那样在地底下铺设感应线圈，方便而实惠。而车辆测速同车辆排队长队一样，需要用摄像头标定，计算车辆在某段时间内，行驶的实际距离。有了标定技术，车辆测速也就迎刃而解了。 图3-11交通道口车流检测统计 处理子系统功能描述大致可以分为接入分析、数据处理和结果分发三个子模块，主要负责对完成对接入视频的各项处理任务。 标准视频流接入：将标准rtsp视频流接入并实时转发到流媒体服务器，提供后续转码、识别、存储等。 非标准rtsp视频流的接入：使用厂商提供的SDK接入视频流，并重新封装成标准流，然后通过流媒体服务器实时转发。少量的厂商不提供linux平台SDK的视频流，由接入服务器完成有针对性的转换。 内容识别：利用计算机通过图像处理和分析理解画面内容将安保人员从繁重的监控任务中解脱出来。 实时转码：将视频转码计算放到云端，实现整个系统内的实时视频转码，以满足用户对不同分辨率，不同码流，不同终端的使用需求。 视频数据存储录像：将处理转换后的标准视频流进行实时存储，按时间段保存为视频文件并保存到存储服务器上，以提供日后回调查看。 状态监控：监控各个处理节点的运行状态，负载均衡，高效工作。3.2.4 中心调度管理系统中心调度管理系统架构图：图 3-12中心服务器架构图根据图3-12系统架构图所示，中心调度管理系统是系统的一个重要的部分，它是系统的枢纽，用来联系系统的其他不同模块，把他们有机的联接在一起。 系统设备中心调度管理系统设备主要包括：数据库集群服务区、Web服务器集群、JobKeeper处理服务器。.1 数据库集群服务器它主要保存设备信息、用户信息和配置信息，同时集群还有镜像配置、双机热备份功能，当数据库集群出现问题，能够快速的进行无缝的切换，保证正在使用的用户不受影响，同时数据库镜像使得系统管理人员升级数据库的时候，不影响系统正常的使用，从而将升级维护和使用分离开来，增强了系统的灵活性。.2 Web服务器集群Web集群主要采用Apache和LVS负载均衡来构建，Apache主要提供项目运行需要的web容器，web容器中的实体通过接受用户的每次操作请求并处理，将结果返回给操作用户，为了保障Apache的稳步运行，我们通过使用LVS强大的可伸缩性、管理性、可靠性来管理WebServer的集群服务器，从而合理分配系统资源，分担各服务器压力，保障用户的稳定的使用。 JobKeeper服务器如何保证在云计算平台中部分硬件或软件发生故障的情况下仍不影响系统的正常运行；如何保证在云计算平台中高效稳定的合理化分配和执行任务，同时能够完全解决系统单点故障问题，负载均衡，自动调度与部署的高效云调度平台，这就是JobKeeper服务器最大的作用。.1 JobKeeper系统架构 图 3-13 Jobkeeper架构图上图中对Jobkeeper进行了分层，对每层进行具体阐述 应用层：一组用于管理和结果反馈的显示组件。是整个系统面向用户和开发人员的基础承载。 业务层：对于应用层的相关功能的业务化，数字化处理，用于将应用层的需求任务进行规则化划分，形成统一的处理化模式。 数据处理层：独立的数据处理程序，是对不同需求数据的统一处理方案，由JobKeeper调度平台进行统一的配置管理。 存储层：存储数据的处理结果集或其他中间结果集的单元。 虚拟化资源层：将机器进行虚拟化，形成更大范围的服务集群。.2 JobKeeper调度流程 图 3-14调度平台任务流程图当用户在应用层下发任务给管理节点，管理节点调度机器处理任务，将任务扔给具体的处理节点，处理节点将结果返回给管理节点，管理节点整理结果，而后返回给应用层。服务器节点组：负责对处理节点的系统信息以及任务处理信息进行实时的跟踪和保存，对应的信息镜像存储在基于cStor或者NFS服务的存储系统上。处理节点组：通过RPC的远程调用获取各自节点的任务处理目标，并实时的和处理节点上的任务处理目标进行对比，控制程序的执行和结束。处理节点组会在一个设定的心跳间隔内主动的和管理节点组联系一次，报告节点存活状态。.3 Jobkeeper特点 高可靠性： 采用“多主多备，负载均衡”的管理节点，从而保证无论管理节点还是处理节点都不存在任何单点故障问题。 低依赖性：采用模块化设计思想，通过统一化配置和API接口的方式向用户提供服务。 低干预性：采用基于事件化的统一管理模式。在系统无人值守的情况下自动完成故障处理等功能。 高实时性：在机器性能允许的范围内，所有任务的控制工作基本都在秒级完成，具有前所未有的高效性。 中心调度系统功能描述 用户管理功能：根据用户信息表，管理用户登录、用户的权限，可 以管理用户信息、增删用户等。 设备管理功能：根据摄像机和用户的权限，管理当前用户授权的前端设备状态、节点运行状态，并进行实时的更新。 智能识别功能：调用后台智能识别的相关功能，通过浏览器的访问方式来展示智能识别的结果。 服务器状态监控：定期轮询服务器，检测他们的状态，保证服务器稳定运行。 实时监控：通过Jobkeeper调度任务，分发任务处理，获得接入的视频流，同时通过和接入服务器的交互完成云台、速度等相关的设备控制。 移动接口：为了保证适应移动设备不同的分辨率，我们要对其进行实时解码，通过Jobkeeper来分发转码任务，返回转码的地址流，反馈给移动客户端。 日志管理：完备的日志记录，可以了解系统的运行状况，以及现系统的bug，对调试等都有很大的帮助。 中心调度系统主要任务.1 浏览器请求当浏览器客户端的用户发送请求给服务器。当用户通过浏览器访问系统操作时，每一步操作都会向WebServer传送服务请求信息，中心服务器调度对