caffe 抽取特征例子.doc

/guoyilin/article/details/42886483 caffe c+ 抽取图片特征 /platero/p/3967208.html 本文作者参考这个例子，抽取自己数据特征数据模型与准备安装好Caffe后，在examples/images文件夹下有两张示例图像，本文即在这两张图像上，用Caffe提供的预训练模型，进行特征提取，并进行可视化。1. 进入caffe根目录，创建临时文件夹，用于存放所需要的临时文件mkdir examples/_temp2. 根据examples/images文件夹中的图片，创建包含图像列表的txt文件，并添加标签（0）find pwd/examples/images -type f -exec echo ; examples/_temp/temp.txtsed s/$/ 0/ examples/_temp/temp.txt examples/_temp/file_list.txt3. 执行下列脚本，下载imagenet12图像均值文件，在后面的网络结构定义prototxt文件中，需要用到该文件 （data/ilsvrc212/imagenet_mean.binaryproto）data/ilsvrc12/get_ilsvrc_aux.sh4. 将网络定义prototxt文件复制到_temp文件夹下cp examples/feature_extraction/imagenet_totxt examples/_temp提取特征1. 创建 src/youname/ 文件夹， 存放我们自己的脚本mkdir src/yournamecaffe c+ 抽取图片特征 分类： 机器学习 2015-01-19 22:47 1599人阅读 评论(8) 收藏 举报 featurecaffec+caffe c+批量抽取特征的方法在1，但是该方法使用中有几个疑问：1. 如何转换levelDB 格式为libsvm格式。2. ./build/tools/extract_features mini-batch 是代表什么意思，和imagenet_totxt中的batch_size的关系是什么？本文主要解决如上两个问题，具体extract_features源代码还需要进一步分析。第一个问题，plain view plaincopyprint?1. ./build/tools/extract_featuresmodels/bvlc_reference_caffenet/bvlc_reference_caffenet.caffemodelexamples/_temp/imagenet_totxtfc7examples/_temp/features10./build/tools/extract_features models/bvlc_reference_caffenet/bvlc_reference_caffenet.caffemodel examples/_temp/imagenet_totxt fc7 examples/_temp/features 10其中，10 是mini-batch, 假设imagenet_totxt的batches size是128， 那么程序将抽取128 * 10个图片的特征。如果你有100张图片， 你可以设置mini-batch = 1, batches size = 100.如果你的image个数是1283， 那么如上数值的设置会是的leveldb多出3个无用的feature，这个需要注意， 我测试过好像是会重复之前的图片，具体需要研究源代码。第二个问题， 特征保存的格式为leveldb，如果需要用libsvm的格式访问特征，可以用python 进行转换， 程序如下， 这里感谢bean的程序1： python view plaincopyprint?1. importnumpyasnp2. importcaffe3. importsys4. toimportcaffe_pb25. 6. #parseargument 7. dbName=sys.argv18. featureFile=sys.argv29. output=open(featureFile,w)import numpy as npimport caffeimport sysfrom to import caffe_pb2#parse argumentdbName = sys.argv1featureFile = sys.argv2output = open(featureFile, w)python view plaincopyprint?1. #openleveldbfiles 2. db=leveldb.LevelDB(dbName)3. 4. #getdbiterator 5. it=db.RangeIter()6. count=07. forkey,valueinit:8. #convertstringtodatum 9. 10. datum=caffe_pb2.Datum.FromString(db.Get(key)11. 12. #convertdatumtonumpystring 13. 14. arr=caffe.io.datum_to_array(datum)015. 16. i=017. tmpS=18. 19. #converttosvmformat 20. 21. foriinrange(0,len(arr):22. tmpS+=str(i+1)+:+str(arri.tolist()0)+23. #printtmpS 24. output.write(tmpS.strip()+n)25. count+=126. printcount27. output.close()# open leveldb filesdb = leveldb.LevelDB(dbName)# get db iteratorit = db.RangeIter()count = 0for key,value in it: # convert string to datum datum = caffe_pb2.Datum.FromString(db.Get(key) # convert datum to numpy string arr = caffe.io.datum_to_array(datum)0 i = 0 tmpS = # convert to svm format for i in range(0, len(arr): tmpS += str(i+1) + : + str(arri.tolist()0) + #print tmpS output.write(tmpS.strip() + n) count+=1 print countoutput.close()但是这个程序有个巨大的bug，db.RangeIter()返回的key 顺序是按照 字母 进行排序的，和levelDB的排序方式是不一样的。具体参见3:The problem is most likely caused by re-ordering of training/test examples since thedb.RangeIter()iterates over keys in alphabetical order whileextract_featurescreates keys from index values without leading zeros (unlikeconvert_imageset). Hence, you get an order like0, 1, 10, 100, .Parse the key value in python and put the extracted feature vector at that position.在这里，我们也只能说fuck了。修改后代码如下 ： python view plaincopyprint?1. #getdbiterator 2. it=db.RangeIter()3. features=4. forkey,valueinit:5. #convertstringtodatum 6. datum=caffe_pb2.Datum.FromString(value)7. #convertdatumtonumpystring 8. arr=caffe.io.datum_to_array(datum)09. featuresint(key)=arr10. 11. #writetofile,sincethekeyinitissortedbyalpha_numberdefault,whileleveldbissortedbynumber,wemustsortthekeyagain. 12. sort_features=collections.OrderedDict(sorted(features.items()13. fork,arrinsort_features.iteritems():14. if(kimageCount-1):15. break16. line=17. foriinrange(0,len(arr):18. line+=str(i+1)+:+str(arri.tolist()0)+19. output.write(line.strip()+n)20. output.close()# get db iteratorit = db.RangeIter()features = for key,value in it: # convert string to datum datum = caffe_pb2.Datum.FromString(value) # convert datum to numpy string arr = caffe.io.datum_to_array(datum)0 featuresint(key) = arr#write to file, since the key in it is sorted by alpha_number default, while leveldb is sorted by number, we must sort the key again.sort_features = collections.OrderedDict(sorted(features.items()for k, arr in sort_features.iteritems(): if(k imageCount - 1): break line = for i in range(0, len(arr): line += str(i+1) + : + str(arri.tolist()0) + output.write(line.strip() + n)output.close()通过对比c+和python提取的feature， 大部分是一致的，但是还是有会细微的差别，可能是浮点数的精度问题吧。 参考文章：1. /gathered/examples/feature_extraction.html2.2./posts/211192-caffe-use-caffe-to-extract-features-of-each-layer3. /BVLC/caffe/issues/1158Caffe Use Caffe to extract features of each layer 在使用caffe的過程中，不管是做visualization或是將某層的feature拿出來用SVM做training，常常會需要將我們的CNN中的某層Layer的activation拿出來看看，所以如何將model中的某層feature取出來便是十分的重要了。要將某層的feature萃取出來，必須要用到caffe中幫我們寫好的一個tool，就放在$CAFFE_DIR/build/tools裡。$CAFFE_DIR/build/tools/extract_features.bin要怎麼用這個executable呢，可參照caffe官方網站的教學: /gathered/examples/feature_extraction.html其中要注意的是，教學中的下面這行build/tools/extract_features.bin examples/imagenet/caffe_reference_imagenet_model examples/_temp/imagenet_totxt fc7 examples/_temp/features 10其中的fc7是我們要抽的那層layer的名字，10這邊是代表mini batch的數字，mini batch的意義是，每次會extract batch_szie(在imagenet_totxt中定義的)乘上mini bat