深度学习之最大池化操作的实现

1、i+=深度学习之最大池化操作的实现在darknet框架中(C语言实现)，maxpooling实现方式如下：voidforward_maxpool_layer(constmaxpool_layerl,networknet)intb,i,j,k,m,n;intw_offset=-l.pad;inth_offset=-l.pad;inth=Lout_h;intw=l.out_w;intc=l.c;for(b=0;bl.batch;+b)for(k=0;kc;+k)for(i=0;ih;+i)for(j=0;jw;+j)intout_index=j+w*(i+h*(k+c*b);floatmax=-F

2、LT_MAX;intmax_i=-1;for(n=0;nl.size;+n)for(m=0;m=0&cur_h=0&cur_wmax)?index:max_i;max=(valmax)?val:max;l.outputout_index=max;l.indexesout_index=max_i;其中，函数的参数意义如下：maxpool_layer:池化层(包含layer层的输出)network:网络结构(包含layer层的输入)下面逐步分析代码：intw_offset=-l.pad;maxpool层可能会进行Daddin,因此在后续计算坐标点时需要考虑偏移量inth_offset=-l.pad

3、;inth=l.out_h;输出特征图的宽、高和通道数intw=l.out_w;intc=l.c;for(b=0;bl.batch;+b)for(k=0;kc;+k)for(i=0;ih;+i)for(j=0;jw;+j)intout_index=j+w*(i+h*(k+c*b);floatmax=-FLT_MAX;intmax=-1;i+=maxpoolinglayer输出的数据一般都是4DTensor,维度为batch,channels,height,width。上述四个for循环就是为了遍历这个4DTensor,确定输出特征图上每个点的值。由于是max操作，因此设置当前最大值为系统最小。

4、在C的代码中，首先要知道4DTensor是如何存储的。其实是采用了一维数组来进行存储，并通过指针访问。因此假设1DTensor长度为length,将其分为batch份，表示每个图片所占的部分（或者说特征图），记为length_p。在每个length_p区域，又可以分成channels份，表示特征图每个channel所占的区域，记为length_c。在每个length_c区域，又可以分成h份，表示每个单个特征图上每一行所占的区域，记为length_r。在每个length_r区域，又可以分为w份。八圍片所白旳两垃，共分为匕亍丞陋IDTensor该区域可廿討牛区预！恚示毎-个enamel对应的部廿i

5、瓠丸后：诗丞域殳可分天h几区睡，炭示宴因此，4DTenso啲输出特征图上某个点在王耳辕较中的位置就是out_indexfor(n=0;nl.size;+n)for(m=0;m=0&cur_h=0&cur_wmax)?index:max_i;max=(valmax)?val:max;这里两个循环是为了找到输出点out_index对应的输入特征图上的区域中的最大值，其中，输入特征图也是一个1DTensor,因此输入位置由index计算得到。Loutputout_index=max;l.indexesout_index=max_i;最后对输出位置赋值即可。.indexes记录了该点是从输入特征图上的

6、哪个点计算得到的，在反向传播的时候使用。voidbackward_maxpool_layer(constmaxpool_layerl,networknet)inti;inth=l.out_h;intw=l.out_w;intc=l.c;for(i=0;ih*w*c*l.batch;+i)intindex=l.indexesi;池化过程的反向传播较为简单。.indexes记录了输出特征图每个点的来源，因此遍历.indexes，在输入特征图上对应点的的梯度敏感度（或者说系数）为1,直接将反向传回来的梯度累加即可。（累加的原因是：在池化过程中，可能池化区域重合，输出特征图上多个点可能都是由该点计算而来，因此反向传播过程中，该点的梯度应该累加）补，