基于主成分分析的并行特征融合JPEG隐写检测-何凤英.doc

第42 卷 第3 期 2014 年6 月 福州大学学报( 自然科学版)Journal of Fuzhou University( Natural Science Edition) Vol 42 No 3 Jun 2014DOI: 10 7631 / issn 1000 2243 2014 03 0341 文章编号: 1000 2243( 2014) 03 0341 05基于主成分分析的并行特征融合 JPEG 隐写检测何凤英，钟尚平，杨 健( 福州大学数学与计算机科学学院，福建 福州 350116)摘要: 针对目前 JPEG 隐写检测方法的特征选取缺乏理论依据，特征冗余度高的问题，提出一种基于主成分分析进行并行特征融合的 JPEG 隐写分析方法 首先分析所选特征之间的互补性，然后用主成分分析进行特征变换，去除冗余信息，最后将特征并行融合 实验结果表明，和串行特征融合相比，本文方法具有更高的 JPEG隐写图像检测率和更快的分类速度关键词: 隐写检测; 并行特征融合; 主成分分析; 特征互补; JPEG 图像中图分类号: TP391 文献标识码: AJPEG steganalysis based on parallel feature fusion by principal component analysisHE Feng ying，ZHONG Shang ping，YANG Jian( College of Mathematics and Computer Science，Fuzhou University，Fuzhou，Fujian 350116，China)Abstract: Aiming to the problems in the existing JPEG steganalysis schemes，such as high redundancy in features and feature selection lacking of theoretical basis，this study proposes a JPEG steg analysis approach based on feature fusion by the principal component analysis ( PCA) and analysis of the complementarity among features The study fuses complementary features and isolates redundant compo-nents by PCA，and finally uses BaggSVM classifier for classification Experimental results show that this scheme effectively improves the detection rate of steganalysis in JPEG images and achieves faster speed of image classificationKeywords: steganalysis; parallel feature fusion; principal component analysis; complementary feature; JPEG image0 引言隐写检测是对截获信号进行分析以判断其中是否含有秘密信息的隐写分析方法 JPEG 图像作为一种最常见的图像格式，其隐写检测已成为近年来研究的重点 特征融合1是将原始特征数据源采用某种方法进行融合，产生新的特征集，以期能比原始特征数据包含更多综合性分类信息的方法，和单一特征相比，融合特征具有更好的综合信息表现能力 近年来，特征融合在图像隐写检测方面有不少研究成果Pevny 等2改进 Fridrich 等3和 Shi 等4的成果，分别得到193 维 DCT 扩展特征和81 维的 Markov 降维特征，并进行串行融合，得到274 维的融合特征 Kodovsky 等采用CC PEV 和SPAM 特征进行串行融合5，Fridrich 等采用 high dimensional rich model 在随机子空间上进行特征融合分类6上述方法虽然在隐写分析正确率上有一定的提高，但他们是将两组特征首尾相连进行串联形成新的特征矢量，不仅存在大量的冗余信息，而且容易引起 维数灾难 问题，此外，上述方法选取融合特征具有很强的主观随意性，没有考虑特征间的关系，所提取的特征未必有利于分类基于以上分析，本研究提出一种基于主成分分析( principal component analysis，PCA) 进行并行特征融合的JPEG 隐写检测方法 该方法首先选取当前分类准确度较高，并具有互补性的特征，然后采用PCA 对收稿日期: 2012 08 27通讯作者: 何凤英( 1979 ) ，讲师，主要从事信息隐藏 图像处理研究，hfy fzu edu cn基金项目: 福建省教育厅科研资助项目( JB09003)福州大学学报( 自然科学版) 第42 卷http / /xbzrb fzu edu cn特征进行变换，去除特征中的冗余信息，最后对变换后的特征进行并行融合 实验结果表明，和串行特征融合方法相比，本文提出的特征融合方法具有更好的检测效果和更快的分类速度1 隐写特征及互补性分析选取两类经典的 JPEG 隐写特征 MPB 特征4和 PEV 特征7进行检测分类MPB 特征的提取方法4如下: 按4 个方向( 水平 垂直 主对角和副对角) 对 JPEG 量化系数矩阵求差，得到4 个差值矩阵，然后对各个差值矩阵计算一阶 TPM，最后得到 4 ( 2 + 1)2维特征向量PEV 特征的提取方法7如下: 首先，计算7 种特征，分别为 AC 系数直方图矩阵 ; 共生矩阵 st; DCT系数直方图矩阵 ( 亮度部分) ; 双直方图矩阵 ; 方差 ; 块内分块特性 ; 基于Markov 模型的转移概率矩阵 ， ，组合上述特征得到特征 r 然后，利用图像校准技术对图像最外层四周各裁剪 4 行 4 列后进行JPEG 压缩，重新提取 组合以上7 种特征得到特征 c 最后，将 r， c 的串行特征称为 PEV 特征MPB 特征将 JPEG 量化系数差值视为一阶 Markov 过程，而 PEV 特征则基于校准技术组合了 7 种特征，因此它们具有不同的特征分布模型 在不同的模型下，隐写行为对特征具有不同的改变程度，很难做到即要兼顾不同的分布模型，又使得每个模型下的扰动量达到最小8 因此，融合不同模型的特征，可以较容易的检测特征的改变，因而具有互补性2 基于 PCA 并行特征融合的 JPEG 隐写检测2 1 PCA 方法主成分分析9( PCA) 又称 K L 变换，是寻求有效的线性变换的经典方法之一，其主要目的是降维，将原来具有一定相关性的变量通过线性变换重新组合成一组新的互不相关的几个主成分，有效去除冗余信息令 1， 2， ， ，为 维输入样本向量，每个向量 有 个特征，即 ( ，1， ，2， ， )T PCA 的目的是生成 个新特征向量 ( 1， 2， ， )T，它们满足 T，其中 为转换矩阵，是协方差矩阵 T的特征向量， ( 1， 2， ， )T，且 diag 1， 2， ， 经过变换后， 中的各列按方差降序排列，称此时的 1， 2， ， 为第1，2， ， 个主分量2 2 并行特征融合图1 基于 PCA 并行特征融合的 JPEG 检测框架Fig 1 Framework of JPEG parallel features fusionbased on PCA文献 10给出了并行特征融合策略的思想: 假设 ， 为同一样本的两组特征向量，则用复向量i ( i 为虚数单位) 来表示样本的并行组合特征 注意，复向量并行融合要求两组融合特征的维数必须一致，若维数不等，那么低维的特征向量用零补足例如， ( 1， 2， 3 )T， ( 1， 2 )T，则 ( 1 i 1，2 i 2， 3 i0)T表示组合以后的特征向量 显然，复向量空间的特征维数为两组融合特征维数的最大值2 3 算法描述JPEG检测方法如图1 所示，具体算法由如下4 步骤组成步骤1 特征提取及预处理 对于训练集 1， 2， 提取PEV和MPB特征矩阵， 为样本 PEV特征矩阵 1， 2， ， 为 行 列，其中: 为 个不同的训练样本第 维特征值组成的向量， ，1， ，2， ， T; MPB特征矩阵 1， 2， ， 为 行 列，其中: 为 个不同的训练样本第 维特征值组成的向量， ，1， ，2， ， ， T，并对特征矩阵 进行归一化处理，得到 和步骤2 特征变换 分别对特征矩阵 和 进行PCA处理 根据协方差矩阵求得转换矩阵 ，将 转换到变换2 4 3第3 期 何凤英，等: 基于主成分分析进行并行特征融合的 JPEG 隐写检测http / /xbzrb fzu edu cn域上，得到矩阵 ， 为 行 列，特征 转换为主成分 1， 2， ， 对 进行类似的处理，得到矩阵 ， 为 行 列步骤3 特征降维 和 中的各列按方差降序排列，分别提取 和 的前 维主成分，组成 行列的矩阵 和 ，其中， 通过交叉验证确定步骤4 特征融合 利用复向量对所提取的特征 和 进行并行融合，得到特征集 为本文的分类特征3 仿真实验结果与分析3 1 实验数据从 USC SIPI 图像库11和我们自己采集的图像库( 图像主题包括人物 风景 建筑 动植物等) 中随机选取3 000 幅规格为640 px 480 px 的 JPEG 图像进行实验 使用 F5 Outguess MB Steghide 四种隐写算法分别以0 25 0 5 0 75 和1 b ac 1的嵌入率对图像进行隐写实验过程中，针对不同嵌入容量的不同隐写算法，任选1 500 幅原图及其对应的 1 500 幅隐写图片作为训练样本，剩余的1 500 幅原图及其对应的1 500 幅隐写图片作为检测样本 并用 C 支持向量分类机( C SVC) 进行分类验证，核函数采用BF 核，采用十折交叉验证法根据数据集特征自动选取训练参数 和3 2 实验结果及对比分析实验一 验证所提方法在四种常见隐写算法下进行JEPG 隐写检测的有效性 分别针对单一 MPB 特征单一PEV 特征 串行融合特征 并行融合特征 PCA 降维串行融合特征( 降维至原始特征1 /3) PCA 降维并行融合特征( 降维至原始特征1 /3) 以及文献 8 等7 种不同的方法做了对比实验 实验结果列于表1表1 不同方法的检测率比较Tab 1 Comparison of the detection rate of different methods隐写算法嵌入率/b ac 1检测率/%MPB PEV 串行融合 并行融合 降维串行融合 降维并行融合 文献 8方法F50 25 78 60 86 53 87 80 92 23 90 20 92 33 90 600 50 87 50 91 90 92 10 92 00 93 20 94 33 93 900 75 90 17 92 50 90 63 95 00 96 93 97 10 97 001 00 90 70 95 33 95 67 97 00 97 00 97 67 97 47Outguess0 25 88 00 88 90 89 20 90 73 93 93 95 10 93 300 50 87 17 89 60 90 17 91 37 94 40 95 77 95 600 75 91 03 91 40 92 40 91 53 95 50 97 27 96 331 00 93 40 94 53 93 30 95 47 97 07 98 20 97 07MB0 25 87 70 87 33 91 77 93 40 97 10 97 37 95 600 50 90 53 89 33 93 30 94 07 97 27 99 00 97 270 75 95 00 95 53 95 53 95 70 97 40 100 00 97 201 00 96 63 97 20 97 33 98 57 99 60 99 70 98 00Steghide0 25 88 50 91 57 92 17 92 90 96 63 98 93 96 700 50 93 93 93 07 95 20 96 10 98 50 99 23 98 300 75 93 07 95 97 97 33 97 57 99 47 99 83 99 331 00 95 20 95 00 99 43 99 63 100 00 100 00 100 00实验结果表明: 总体而言，在不同隐写率下，融合后的特征，不管是串行还是并行，在不同隐写方法下的检测效果都比单一特征好，仿真实验证明了单一特征之间存在优势互补的特性，所融合的特征矢量能包含更多的分类信息，从而增强分类器的识别能力; 在相同情况下，并行融合的方式其检测性能总体上优于串行融合的方式，而经过 PCA 降维后的并行融合检测率提高幅度更大，和降维前的并行融合相比，检测率有2% 6%的提升，和降维后的串行融合相比，检测率约有2% 3%的提升; 文献 8 的思想是串行融合特征后进行 PCA 降维，本文方法则先对特征降维，然后再并行融合，与文献 8相比，本3 4 3福州大学学报( 自然科学版) 第42 卷http / /xbzrb fzu edu cn文方法具有更高的检测性能，特别在 MB 算法下，检测率约有2%的提升图2 Steghide 隐写算法中 对平均检测率的影响Fig 2 Effect of on the average detectionaccuracy of Steghide实验二 分析 PCA 降维对本文方法检测率的影响 总体而言，分类的平均准确率随着PCA 的主成分累计贡献率 的减小呈现一种先上升后下降的趋势 以 Steghide 隐写算法为例，平均检测性能随 取值的变化情况如图2 所示从图2 可以看出，随着 的取值逐渐减小，融合特征中的冗余信息被去除的力度逐渐加大，平均检测率逐渐上升，当= 92 时，平均检测率达到最高; 但当 的取值继续减小时，不仅去除了特征中的冗余信息，也去除了特征中的有效信息，平均检测率不再继续上升，其总趋势是逐渐下降的，但波动比较平缓，说明经过并行融合，PCA 降维对特征准确率的影响趋于平和实验三 分析特征的互补性 借鉴文献 12的思想，用典型变量的相关系数来衡量特征间的互补性 相关度越高，两组特征就越相似，相关度越低，则越可能表现图像不同方面的特征，其互补性就越强 为说明问题，对 MPB PEV Liu13三组特征进行互补性的比较，给出3 种特征两两组合在不同隐写算法下的特征间相关系数分布，取前20 维典型变量的相关系数进行分析，结果如图3 所示( a) F5 ( b) Outguess( c) MB ( d) Steghide图3 三种特征组合的相关系数分布示意图Fig 3 Schematic diagram of distribution coefficients of three kinds of combination feature在图3( a) 和3( b) 中，MPB 特征与 PEV 特征的相关度系数值都是从0 78 左右下降到 0 4 到 0 5 之间，低于其它两种组合特征，在图3( c) 和3( d) 中，MPB 特征与 PEV 特征的相关度从一开始就处于较低的值，相关度系数从0 4 左右开始缓慢下降到0 2 与0 3 之间 图3 结果说明 MPB 特征与 PEV 特征具有较强的互补性，这和第1 节的分析相符实验四 并行融合算法和串行融合算法耗时比较 表 2 给出了 PCA 降维至原始特征 1 /3 时的耗时( 指在 Intel Xeon E5300 2 60GHz 和4GB 内存硬件环境下统计得到的不同嵌入率下的平均运行时间) 从表中可以看出，降维后并行融合的时间明显比降维前少，这主要是因为融合特征在经过 PCA 变换后，特征的维数得到了有效的降低，特征中的大量冗余信息被去除4 4 3第3 期 何凤英，等: 基于主成分分析进行并行特征融合的 JPEG 隐写检测http / /xbzrb fzu edu cn表2 两种算法的耗时比较Tab 2 Comparison of time of two algorithms ( unit: s)隐写算法 串行 并行 降维串行 降维并行F5 86 418 69 310 9 782 5 851OutGuess 99 970 73 504 10 223 5 979MB 97 976 75 113 8 961 5 845Steghide 92 063 72 145 8 653 5 6624 结语提出一种基于 PCA 进行并行特征融合的 JPEG 隐写检测方法，从现有的各种隐写特征中选择 2 种具有互补性质的特征，通过 PCA 进行特征的转换 降维，消除冗余信息，并将它们并行组合在一起得到含有有效成分的融合特征 实验结果表明，该方法不仅能够有效提高 JPEG 图像的分类精度，而且能够明显提高分类速度参考文献: 1Mangai U G，Samanta S，Das S， A survey of decision fusion and feature fusion strategies for pattern classificationJIETE Technical eview，2010，27( 4) : 293 3072Pevny T，Fridrich J Merging Markov and DCT features for multi class JPEG steganalysisC/ / Proceedings of Security，Steg-anography，and Watermarking of Multimedia Contents IX，SPIE 6505 Washington D C: SPIE Press，2007: 1 13 3Fridrich J Feature based steganalysis for JPEG images and its implications for future design of steganographic schemesC/ /Information Hiding s l : Springer Berlin Heidelberg，2005: 67 81 4Shi Y Q，Chen C，Chen W A Markov process based approach to effective attacking JPEG steganographyC/ / InformationHiding s l : Springer Berlin Heidelberg，2007: 249 264 5Kodovsky J，Pevny T，Fridrich J Modern steganalysis can detect YASSC/ / Proceedings of SPIE 2010，