BassNet:Band-Adaptive Spectral-Spatial Feature Learning Neural Network for Hyperspectral Image ...
2018-03-17 21:09
344 查看
遥感领域Top期刊(注重算法理论创新)BassNet:Band-Adaptive Spectral-Spatial Feature Learning Neural Network forHyperspectral Image Classification1.Introdction
高光谱成像[1],[2]从大量密集相邻的频带收集丰富的光谱信息。 它产生三维(x; y;λ)数据卷,其中x; y表示空间维度,λ表示光谱尺寸。
FCN不连接FC,肯定不是分类的呀,是这个图像分割的,全连接层是和分类相关联的层,既然没有全连接,肯定不是直接用来处理分类问题的。
高光谱数据处理的挑战:
1. 过高维的光谱维度
2. 训练标签数据缺乏
3. 光谱的空间变异性大
传统方法:
KNN、 SVM 1. 维度降低 2. 使用SVM分类器分类
local Fisher’s Discriminant Analysis + GMM
Gaussian Non-linear Discriminant Analysis + Relevance VectorMachine
ELM
LBP + Gabor +ELM
深度学习:
两大类:1. (1)autoencoder 通过对输入的提取,在输出端娃安成输入的重建,降维的同时收集更有用的语义信息。
(2)多分类器分类(logistic regression)
2. 基于像素的端到端的图像分类方法
本文方法:一种学习频带特定空谱联合特征的深度学习架构,不需要数据增强和预处理。
有三个级联结构:
Block1:获取输入P*P*N,并进行初步转化
Block2:一个并行的神经网络输入,分别提取中高级特征并在输出端融合
Block3:进行一个总结,输入逻辑回归分类器
1. end-to-end neuralnetwork,参数更少,用卷积神经网路的参数量都较少,权重共享。
2. 与其他深度学习方法相比时间更短
2. Prosasedframework
A.三个阶段的详细讨论:
Block1:光谱特征选择和分割,把选取的P*P范围的Nc光谱分割成nb段,每段带宽b,所以后面才有这个对不同层次进行特征提取。这里处理成不同段是可以利用1*1卷积,沿着光谱尺寸进行输入,得到输出。
Block2:并行特征学习和融合。
Block3:fc层之后在接入softmax
B.结构深入探索
表一展示了四种完全不同的结构,在block2中,所有的net都具有一致的结构,在conv和fc后采用relu函数,带*的有所不同,ps=on/off表示在block2中权值是否共享,convxy—p,n代表卷积输入p*p,n是输出的channel数,convlambda——p,n,输入光谱是p,输出是n。每一个卷积层,都有一个三维的filters,与输出保持一致
Block1里面的提取过程。
Block2里面对光谱维度的提取。
重点:
1.在Block2中权值共享提升精度,减少参数,防止过拟合。
2.在configuration2中用两个卷积神经网络代替了1中的fc,精度上升,可能是参数量减少
3.结构1、2拿到一个窗口之后,没有变换,就输出n个波段给下面的Block2,3、4结构是先通过一个1*1的卷积结构(relu)输出n段在输入Block2
4.在Block2中全部使用卷积神经网络,效果更好
The networks are trained by minimizing the cross-entropy lossfunction
Adam optimizer
Learning rate=0.0005
Dropout=0.5
3. Experimentalresults
A、三个数据集:Indian pines、Salinas、PaviaUniversity
IndianPines部分数据量太小,只保留了9类,所以要学会对数据进行处理
B、评价指标
AA、OA、precision、F1、recall、kappa
C、平台
Torch+lua
NVIDA Tesla K20C GPU
D、Comparsion of different hyperparameter settings
Block1和Block2(configuration4)中1*1卷积输出channels
Block1中的input的patches,越大效果越好,但不是正增长。
E、与其他深度学习算法对比
相关文章推荐
- 读后感 Spectral–Spatial Residual Network for Hyperspectral Image Classification: A 3-D Deep Learning Fr
- A new deep convolutional neural network for fast hyperspectral image classification Review
- ImageNet classification with deep convolutional neural network
- Assignment | 01-week4 -Deep Neural Network for Image Classification: Application
- Semi-supervised Learning for Network-Based Cardiac MR Image Segmentation文章解读
- Deep Convolutional Neural Network for Image Deconvolution
- Heterogeneous Multi-task Learning for Human Pose Estimation with Deep Convolutional Neural Network
- 笔记 NEURAL NETS FOR VISION CVPR 2012 Tutorial on Deep Learning
- 吴恩达deeplearning.ai课堂作业:Class 1 week4-Deep Neural Network for Image Classification
- Bag-of-Words Based Deep Neural Network for Image Retrieval
- neural network for machine learning(by Geoffrey Hinton)lecture1--几种常见的激活函数
- Learning Attention for Online Advertising with Recurrent Neural Network论文思路整理
- 论文阅读(Xiang Bai——【PAMI2017】An End-to-End Trainable Neural Network for Image-based Sequence Recognition and Its Application to Scene Text Recognition)
- Look Closer to See Better Recurrent Attention Convolutional Neural Network for Fine-grained Image Re
- Learning both Weights and Connections for Efficient Neural Network -- 论文笔记
- READING NOTE: What makes ImageNet good for transfer learning?
- DualNet:Learning Complementary Feature for Image Reconition
- HD-CNN: HIERARCHICAL DEEP CONVOLUTIONAL NEURAL NETWORK FOR IMAGE CLASSIFICATION(泛读)
- 吴恩达 深度学习 1-4 课后作业2 Deep Neural Network for Image Classification: Application
- ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile Devices