论文笔记之Deep Convolutional Networks on Graph-Structured Data
2016-12-02 19:12
1616 查看
本篇论文是2015年nips上的一篇论文,
是对于其本人在2014年nips发表的论文:Deep Convolutional Networks on Graph-StructuredData
对于graph上的cnn进一步探讨。
相比于之前的工作,此篇论文主要贡献有两点:
1.将之前的construction应用于大数据集的分类问题——Imagenet
2.对于输入的graph是否有标签,分别用有监督和无监督学习去应用
**
继续运用图谱论的知识去操作整个算法如下图:
采用laplacian的矩阵的特征向量对输入进行对角化操作,并且利用spline核K来达到减少参数的目的。
**
层次聚类的方式。
**
1 无label的图
假设这个数据集X有L个samples,N个features,
需要知道feature与feature之间的相似性的值,来组成邻接矩阵A(用于计算laplacian)
由于每个sample没有label因此,这么计算:
先计算出每个feature之间的欧氏距离
这里Xi表示由所有sample在第i个属性值,组成的L维向量。
然后再将距离d用于构建Gaussian diffusion Kernel:
为了考虑到local化,因此需要将上述公式改成:
指数的分母
用来表示d(i,ik)的值,与i相近的k个feature。
2有label的graph
简单点说就是采用浅层神经网络来学习feature,label是输出,在第一个隐藏层学得的权重大小为W1
然后利用W1来计算d,最后计算w(i,j)
是对于其本人在2014年nips发表的论文:Deep Convolutional Networks on Graph-StructuredData
对于graph上的cnn进一步探讨。
相比于之前的工作,此篇论文主要贡献有两点:
1.将之前的construction应用于大数据集的分类问题——Imagenet
2.对于输入的graph是否有标签,分别用有监督和无监督学习去应用
**
graph上的卷积操作
**继续运用图谱论的知识去操作整个算法如下图:
采用laplacian的矩阵的特征向量对输入进行对角化操作,并且利用spline核K来达到减少参数的目的。
**
pooling
**层次聚类的方式。
**
graph的建立
**1 无label的图
假设这个数据集X有L个samples,N个features,
需要知道feature与feature之间的相似性的值,来组成邻接矩阵A(用于计算laplacian)
由于每个sample没有label因此,这么计算:
先计算出每个feature之间的欧氏距离
这里Xi表示由所有sample在第i个属性值,组成的L维向量。
然后再将距离d用于构建Gaussian diffusion Kernel:
为了考虑到local化,因此需要将上述公式改成:
指数的分母
用来表示d(i,ik)的值,与i相近的k个feature。
2有label的graph
简单点说就是采用浅层神经网络来学习feature,label是输出,在第一个隐藏层学得的权重大小为W1
然后利用W1来计算d,最后计算w(i,j)
相关文章推荐
- 论文阅读笔记:Object Detection Networks on Convolutional Feature Maps
- RCNN学习笔记(1):《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition》论文笔记
- 论文笔记ImageNet Classification with Deep Convolutional Neural Networks(AlexNet)
- 论文笔记|Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition
- 论文笔记之:UNSUPERVISED REPRESENTATION LEARNING WITH DEEP CONVOLUTIONAL GENERATIVE ADVERSARIAL NETWORKS
- 深度学习论文笔记:Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition
- 论文笔记:Notes on Convolutional Neural Networks
- 论文阅读笔记:VGG:Very Deep Convolutional Networks
- 论文笔记 | VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE -SCALE IMAGE RECOGNITION
- Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition--SPP-net论文笔记
- Deep learning论文笔记一:ImageNet Classification with Deep Convolutional Neural Networks
- 【论文笔记】Spatial Temporal Graph Convolutional Networks for Skeleton-Based Action Recognition
- [深度学习论文笔记][Image Classification] Very Deep Convolutional Networks for Large-Scale Image Recognitio
- 论文笔记之Spectral Networks and Deep Locally Connected Networks on Graphs
- 论文笔记 《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition》
- 论文笔记:unsupervised representation learning with deep convolutional generative adversarial networks
- 【论文阅读笔记】Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition
- 论文笔记(一)Radio frequency interference mitigation using deep convolutional neural networks
- 论文笔记 Ensemble of Deep Convolutional Neural Networks for Learning to Detect Retinal Vessels in Fundus
- [深度学习论文笔记][Visualizing] Deep Inside Convolutional Networks Visualising Image Classification