论文笔记:Multi-Scale Dense Networks for Resource Efficient Image Classification
2018-02-25 15:22
1266 查看
Multi-Scale Dense Networks for Resource Efficient Image Classification
[ICLR2018 oral]原文链接:传送门
目录
Multi-Scale Dense Networks for Resource Efficient Image Classification目录
问题
解决方法
个人理解
主要贡献
问题
在近几年的视觉物体识别任务上,有的物体很容易就可识别出来,而有的被遮挡的物体或者由于拍摄角度诡异,而很难识别的物体,在test的时候回消耗同样的计算资源。这对于大型的数据集来说,会产生会多不必要的计算资源浪费。在一般的卷积神经网络中,倒数第二层的特征将直接输入到最后一层进行分类,其他层的特征将被忽视。
不同的卷积神经网络的层包含不同级别的scale信息。我们应该充分利用低维和高维特征。
解决方法
把每层的layer都连接到classification层创建一个multi-scale的网络框架,让每层都包含不同的scale信息。
本文所创建的网络叫做Multi-Scale DenseNet (MSDNet)。
网络模型框架,自行参考原文figure 2.
个人理解
分类器的分类准确率与它使用第几层产生的feature来训练分类器有关。multi-scale feature maps来解决这个问题。 水平方向的connection能够逐步获取high-resolution的feature。垂直方向的connection可以获取更加coarse 的feature,通过不同的scale。
网络中间的分类器会影响最后面的分类器的分类准确率。
解决方案:dense connectivity。 DenseNet不存在这个问题。
DenseNet只进行了水平方向的directly connection,MSDNet同时进行了垂直和对角线方向的dense connection。
最后作者提出了网络的简化模型
主要贡献
提出了一种中途停止预测分类,而不必消耗额外计算资源的方法。提出了如何判断exit阈值的方法。
解释了denseNet 的优越性,以及high-resolution和coarse feature结合的优越性。
解决了中间分类器输出对最终分类器结果的消极影响。
其实,主要贡献就是,一种网络框架的产生,并分析对比了与其他state-of-art network的优缺点对比。
转载请注明出处:http://blog.csdn.net/baidu_17806763/article/details/79369063
Emma
CUHK
2018.02.26
相关文章推荐
- 【论文阅读笔记】MULTI-SCALE DENSE NETWORKS FOR RESOURCE EFFICIENT IMAGE CLASSIFICATION
- [深度学习论文笔记][Image Classification] Very Deep Convolutional Networks for Large-Scale Image Recognitio
- 论文笔记 | CNN-RNN:A Unified Framework for Multi-label Image Classification
- 论文笔记 | VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE -SCALE IMAGE RECOGNITION
- 论文笔记:Deep convolutional activation features for large scale histopathology image classification
- 笔记-论文-PCANet A Simple Deep Learning Baseline for Image Classification?
- 论文笔记之:Fully Convolutional Attention Localization Networks: Efficient Attention Localization for Fine-Grained Recognition
- Appearance-and-Relation Networks for Video Classification论文笔记 (ARTnet)
- MSDNet(Multi-Scale Dense Convolutional Networks)算法笔记
- [论文解读]VGGNet:Very Deep Convolution Networks for Large-Scale Image Recognition
- [Paper 学习笔记] Multi-Scale 3D Convolutional Neural Networks for Lesion Segmentation in Brain MRI
- 论文笔记——MobileNets(Efficient Convolutional Neural Networks for Mobile Vision Applications)
- MSDNet(Multi-Scale Dense Convolutional Networks)算法笔记
- Early Hierarchical Contexts Learned by Convolutional Networks for Image Segmentation论文笔记
- 【论文笔记】Convolutional Neural Networks for Sentence Classification
- [深度学习论文笔记][Video Classification] Large-scale Video Classification with Convolutional Neural Networks
- [深度学习论文笔记][Visualizing] Deep Inside Convolutional Networks Visualising Image Classification
- 论文笔记:Research and Implementation of a Multi-label Learning Algorithm for Chinese Text Classification
- 论文阅读笔记 | (ICCV 2017) Multi-Attention CNN for Fine-Grained Image Recognition:MA-CNN
- Multi-column deep neural networks for image classification阅读