Blackfin的智能IP Camera系统设计

1、【Word版本下载可任意编辑】 Blackfin的智能IP Camera系统设计 图1 基于Blackfin 537处理器IP Camera系统框图 2.1 视频采集和编码 Blackfin 系列DSP专门针对高速并行数据特别是视频数据集成了并行外围接口（PPI），在传统的数据总线的根底上增加了一条专用数据吞吐通道。 PPI接口不仅可以按照BT.601视频流的“硬件同步”模式工作，还能自动解码BT.656前同步码，从而允许无缝连接到多种视频源和图像传感器，与直接存储器存取（DMA）控制器配合使用，PPI可以在完整的视频帧信息中只读入有效的视频信息，或只有消隐区域。这样当不需要完整的视频帧时显着

2、节省了带宽。另外，PPI可以忽略隔行的BT.656视频流的所有第二场图像信息，从而提供了一种很有效的方法用于快速抽取输入信号。，因为PPI本身就可以解码BT.656视频流，所以它可以直接连接到流行的类似ADV7183A视频解码器。 IP Camera上主流的编码标准如H.264，MPEG4等，ADI公司都提供了的编码器软件。本项目采用H.264视频压缩标准，ADI的H.264编码器性能得到了的优化，充分利用了片内L1 内存，数据通过DMA来搬移，与处理器的运算并行执行。主要的特点有：支持YUV420和UYVY422 （CCIR-656） 视频输入格式，输出是以NAL为单位的基本视频流；对于H2

3、64编码，支持Baseline Profile和一些Main profile的特性（Interlaced encoding, CABAC），在BF53x上能到达实时1/2 D1，BF561上支持D1实时，支持I和P帧，自适应CBR码率控制等。对于不同的应用，ADI H.264编码器的比特率是可调整的，低比特率下甚至可以在CDMA1x这样的低带宽应用中实现实时传输。 2.2 智能监控 目前监控市场的发展越来越趋向于智能化，各种视频或音频的智能分析算法得到产业化应用，如运动目标检测和跟踪，入侵检测，特殊声音检测和定位等等。Blackfin处理器从架构到指令集都对多媒体处理有很好的支持，有专用的视频

4、处理指令，因此特别适合于实现灵活的多媒体智能分析算法。ADI公司推出了“Image Tool Box”智能监控软件包，针对智能监控算法中的一些常用和基本函数做了专门的优化，有很好的性能，可以加速上层算法的实现和优化。 一般智能分析的实现是针对未编码的媒体流开展分析，但也有利用编码器输出结果的算法。本项目因为直接使用ADI公司给定的编码库，因此使用前置的智能模块直接分析输入的媒体流，并输出结果。音视频的智能处理种类比较多，并在不断地改良，所以用一般都用高性能DSP来实现。在Blackfin上目前有多种智能处理模块，如鱼眼矫正，运动物体检测及基于运动检测的上层算法如遗留物检测、入侵检测，枪声检测和

5、定位等等。根据智能模块的输出结果，系统控制和编码部分都可以做相应的智能处理，如勾勒运动物体边框，调高编码器分辨率，根据音源位置调整摄像头方向，等等。这些模块一般都有比较标准的输入输出接口，便于二次开发中的系统集成。 2.3 媒体流传输 IP Camera的主要用途就是通过网络来实时传输远程的视频信息，本项目采用传输流（TS）通过UDP或上层的RTP协议来传输。传送流是根据ITU-T Rec.H.222.0 | ISO/IEC 13818-2和ISO/IEC 13818-3协议而定义的一种数据流，其目的是为了在有可能发生严重错误的环境下开展一道或多道程序的编码数据的传输和存储。TS主要应用于实时

6、传送的节目，比方实时广播的电视节目，主要特点就是要求从视频流的任一片段开始都是可以独立解码的。所以在接收端可以随时接入。目前视频监控领域还没有统一的媒体流标准，但采用TS over RTP/UDP这一标准有利于将来的系统整合。ADI的一些第三方提供了完整的RTP协议栈产品，网络上也有一些开源的实现可供参考。 数据链路方面，对于压缩视频传输，一般的网络接口芯片都能满足带宽要求，但是在评估网络性能的时候，处理器占用比也是一个非常重要的标准。BF53x系列中的BF537芯片有内置的10/100M MAC接口，并有专用的DMA 数据通道，因此传输和处理器占用比性能都非常好，在基于BF537的IP Ca

7、mera上每1Mbps的网络流量只消耗约1%的处理器性能，例如传输 H264 D1分辨率的监控码流，消耗处理器不到10MIPS。 2.4 软件架构 C/OSII是Blackfin所支持的RTOS之一，在高速的Blackfin处理器上有很强的硬实时性能，OS中断响应时间约为110 cycles（600MHz下约0.18us）。系统首先创立一个主任务（main task），负责系统的初始化和创立其他的模块任务。各模块任务独立运行，处理自己的输入和输出数据流，模块之间的耦合程度较低，可以灵活的取舍。网络协议栈方面，Blackfin上也有多种选择，除了各商业RTOS配套提供的TCP/IP协议栈外，LW

8、IP作为开源网络协议栈中的佼佼者，也在Blackfin处理器上有移植版本。本项目采用了uC/OSII配套的uC/IP协议栈。 软件架构分为音视频采集，智能分析，编码打包和网络传输，系统控制等模块，每个模块由不同优先级的任务负责，这非常有利于系统的集成和模块化设计。模块之间相互独立，用信号量开展同步，模块之间的数据构造都设计成双缓冲或者多缓冲，保证IO模块和运算模块并行执行。对于高系统负荷下的容错，程序和数据构造也考虑在内，偶然出现的丢帧现象不会影响系统的继续运行，并且向系统控制部分错误。 下表（表1）列出了系统中各模块的： 表1 IP Camera系统模块 3.系统优化 在DSP系统中，一旦算

9、法确定下来，实现过程中的优化思路一般也是固定的，首先利用编译器的一些优化开关和手段，其次对算法做分析，找出关键代码和数据，对关键部分做一些手工的调整，如改写成汇编等。但在实现一个包括多路输入输出，多种算法并行的完整的系统时，如何到达整体运行的化，除了传统的算法优化外，还需要从系统的角度考虑一些因素： 1.系统带宽的化和化 在这样的一个复杂系统中，视频和音频数据的多路输入输出带来了冲突和延迟，对片外内存的使用效率有很大影响。Blackfin的SDRAM控制器支持多Bank的数据并发传输，因此我们要尽量把不同通道的IO数据放在内存的不同Bank上。因此在音视频和网络数据构造的设计上，不光要保证高效

10、的同步，还要利用Blackfin开发工具提供的特性把数据分散在不同的Bank上。 2.片内L1内存的高效分配 传统上，DSP处理器内部的L1高速内存可以直接访问，存放关键代码和数据，提高算法运行效率。而MCU的L1一般全部用来做Cache，软件不能直接控制。在Blackfin等高性能处理器上，L1可以灵活地配置成Cache或者直接访问。在一个完整的系统中，我们要兼顾到各个模块和操作系统本身，L1内存一部分用作Cache，以保证整体cache命中率；另一部分作为SRAM用于算法的关键模块。这里需要做一些反复的调整和测试，来找出一个化的L1配置方案，终目的是到达L1 内存使用效率（命中率）。 3.

11、效率地使用DMA通道 越来越多的处理器为IO接口提供专用的DMA通道，以减轻处理器做数据输入输出的负担。Blackfin上除了音视频接口的DMA外，还有专用的内存DMA通道。但是要化地使用DMA，重要的是使用乒乓缓冲，使处理器和DMA通道流水化工作。在数据输入，算法内部的内存DMA，数据输出等每个环节上都要使用DMA和乒乓缓冲，才能保证系统效率。这需要每个驱动和软件模块都支持这样的数据构造和运行模型。 综合起来，新型处理器上往往集成了多种提高性能的机制，软件系统优化的思路，就是保证系统总带宽（如多总线，多DMA通道）和总运算单元（如多核，多乘法器）的并行化、流水化，这需要开发人员从系统和应用不

12、同的层面来保证。 4.性能分析 系统使用的RTOS带来的额外开销主要就是定时为10ms的Timer Tick，可以忽略不计。而由于BF537高超的网络性能，网络传输所占用的处理器时间也非常小。主要的处理器时间消耗在音视频的智能分析和编码上。 本项目可以运行在单核或双核Blackfin平台上，接收端用开源项目Video Lan Client（VLC）来接收并播放。对于单周期指令集的600MHz Blackfin内核，我们一般用600 MIPS来表示单核的总处理器能力，下表列出的部分系统模块消耗处理器能力也用MIPS来表示，如下表 （表2）所示。 表2 IP Camera 的性能测试 （单位：MI

13、PS） 从上面的性能列表可以看出，对于系统中可以使用的每一个模块，我们都可以有一个不同参数下的性能分析，在此根底上，使用不同性能的处理器，不同的模块，不同的编码格式，甚至不同的帧率，我们可以针对各种应用组合出不同的系统，实现产品的差异化。比方我们可以完全运行智能处理算法，只在必要的时候启动编码模块发送关键部分的媒体流；也可以平时以低码率、低帧率运行编码模块，由智能模块动态控制提高关键帧的码率和帧率。这样的智能监控系统，会更加实用化，地减轻人工负担。 图2 基于Blackfin的智能监控IP Camera 5.小结 未来嵌入式处理器的发展，以高计算性能、硬件IP协处理、多核、面向应用等特点，软件平台和软件开发人员需要适应这样的变化和特点。正向着智能化方向快速发展的监控领域，正需要这