A mixed-scale dense convolutional neural network for image analysis

《A mixed-scale dense convolutional neural network for image analysis》是在PANS上发表的一篇文章，提出来一种新的不包含pooling层的网络结构。

以前我们的卷积网络都会包含pooling层，目的是为了降低特征图维度，增加网络感受野，以及增加网络非线性等其他的一些作用。pooling层的作用很强大，但是也有一个让人头疼的问题，pooling操作会丢失很多图片信息，随之可能会导致一些其他的问题。

这篇文章就对此利用dilated convolution代替pooling来增加网络感受野，下图是他的一个w（通道）=2，d（网络层数）=3网络结构示意图：



他这里每种颜色代表dilation不同的dilated convolution，每一列代表是同一层网络，同一层的每个通道都是使用不同大小的dilated convolution得到的，并且它使用了密集连接的结构，每个特征图都是由前面所有层的输出得到的。他的第i层第j个通道dilation的计算是



作者在文中并没有介绍详细的网络结构，我本以为这是一种类似于densenet的结构，但是按照作者的意思应该是他的网络结构就是类似于上面那个3层2通道的网络，在定义网络的时候只需要选择网络层数d和通道数w就行，整个网络都没有pooling操作，当然会有ReLU等增加非线性的激活函数。

文章中主要跟U-net进行了对比，主要特点是参数非常的少，按照他的结果，差不多相同的精度，他的网络参数要少几乎一个数量级，具体结果可以看原文。

这个网络给人的第一感觉是非常新颖，还有一点点奇怪，非常的简单粗暴，设计一个网络只需要设置w和d就行，这样是不是未免太过简单了。个人感觉可以在自己的网络中加入一些这样的网络单元，但是整个网络都是这样可能并没有太大作用。对了，一般的框架中不太好实现这种网络，作者是自己用python直接写的程序实现的，没有在什么框架下实现。