学习笔记：Deep Neural Networks Segment Neuronal Membranes in Electron Microscopy Image

今天阅读的论文是Deep Neural Networks Segment Neuronal Membranes in Electron Microscopy Image. 深度神经网络分割电子显微镜图片中的神经元膜。

本文使用了一种特别的深度人造神经网络作为一个像素分类器去分割生物神经元膜。每个像素的label是有膜或无膜。这项成果可以用于建模3D大脑神经结构以及神经元的连通性。

方法

该过程的整体框图如下：



对于每个像素有两类：有膜和无膜。DNN分类器使用一个以p为中心，宽度为w的窗口计算每个像素有膜的可能性，w必须为奇数确保对称性。如果一个像素靠近图片的边缘，它的窗口将包括超出图片边缘处的部分，这一部分是由实际图像中的像素对边界的镜像合成的，可见上图。整个过程就是通过一个DNN获得每个像素是有膜的概率，在通过一个Calibration的多项式的后处理过程。

DNN结构

网络结构就是4层卷积层再加上两层的全连接层，然后池化选择的是max-pooling。max-pooling的好处是它会选择最有希望的特征。最后一层全连接层只有两个神经元，并且使用softmax激活函数来获得input图片是否有膜的概率。网络结构看起来还是比较简单的。

训练

在电子显微镜下的图片结构不会被它们的方向影响，利用这个性质，作者在每个epoch开始时通过镜像映射以及旋转正负90度训练图像来补充训练集。

网络输出的后处理

因为每个类在训练集中均等，但在测试数据中不是这样的，所以网络输出不能被直接认为是概率值。 相反，它们倾向于严重过高估计膜的概率。为了解决这个问题，作者对网络的输出进行多项式函数后处理的工作。

训练出的函数由单调三次多项式很好地近似，其中系数可以通过最小二乘拟合计算。然后使用相同的功能来校准所有训练有素的网络的输出。

变凹操作和不均匀采样

Foveation

它在输入窗口像素上施加空间变异的模糊，使得全部细节保留在中央部分（因为中央部分凹）而外围部分通过与disk kernel的卷积来散焦，以去除细节。这样做的好处是：该网络的任务是对窗口的中心像素进行分类，然后通过这种方法忽略最可能不相关的周边细节，同时仍保留窗口（上下文）的一般结构。

不均匀采样

窗口的宽度w越大可以提高性能，但w值变大会导致更大的网络，会花更多时间去训练以及更多的训练数据。使用不均匀采样，图像像素仅在窗口的中心部分直接映射到神经元; 在其他地方，随着距离窗口中心的距离增加，它们的源像素以一个降低的分辨率被采样。如上图所示，窗口中的图像以鱼眼样的方式变形，并以更少的神经元覆盖输入图像的较大区域。

不同网络的平均输出

这一部分主要是解决过拟合问题，本文采用对具有不同架构的多个网络的校准输出进行取平均操作来尝试减少这种large variance问题。