NRL论文解读:《Deep Network Embedding for Graph Representation Learning in Signed Networks》
《Deep Network Embedding for Graph Representation Learning in Signed Networks》
1.论文思路:
针对有符号网络的网络嵌入,作者提出了深度网络嵌入模型,采用半监督堆叠自动编码器重构给定的有符号网络的邻接矩阵,考虑到有符号网络的独特属性,存在大量的正链多于负链,通过施加惩罚,使得编码器更加关注于重建稀缺的负链,而且为保持有符号网络的结构平衡,论文设计了两两约束,使得在嵌入空间中正链通的节点比负链通的节点之间距离更近。
2.论文的核心——怎么去设计满足上述思路的半监督SAE
首先可以思考论文中介绍的最近提出的有符号网络的嵌入方法。Wang就提出了SiNE算法,利用深度学习框架学习有符号网络嵌入的正弦算法。首先对于每个节点Vi,从给定有符号网络中随机抽样一个三元组{(Vi,Vj,Vk)|Eij=1,Eik=-1},其中Vj和Vk分别表示一积极的邻居和一消极的邻居。然后,根据采样的三元组,正弦函数的目标就是使一个节点与其积极的邻居之间隐藏向量表示的相似性大于该节点与其负邻居之间的相似性。然而这样的方法存在原始网络中一些重要信息的丢失,此外,这些采样的三元组只捕获观察到的链接,忽略了所有未观察到的链接。还有就是提出的SDNE模型也使用了半监督SAE嵌入空间中相邻的链接节点对,而不区分正负链接,也无法捕获有符号网络的重要结构平衡特性。
本文中首先根据如果两个节点是正链接,Aij=1;负链接,Aij=-1;无链接,Aij=0的规则构建有符号的邻接矩阵。然后将上述矩阵分解成一个积极的部分和一个消极的部分来分别表示权重绝对的积极链接和消极链接。接下来构造一个如下包含l层的基本自动编码器SAE重构有符号网络邻接矩阵,来学习有符号网络中所有节点的非线性隐含向量表示。
然后最小化重建错误
,可以学习到低维隐藏向量表示,能够最好的保持原始网络连接。为了邻接矩阵中零元素比非零元素多造成的稀疏性问题,采用SDNE模型中对非零元素的重构误差增加了很大的惩罚。再就是针对网络中存在绝大多数的正链路,设计了以下的处罚矩阵使得自动编码器更注重重建稀缺的负链路。
接着结合ML和CL对约束来捕获有符号网络的扩展结构平衡特性。对于SAE每个第K层,ML和CL对约束分别设计如下:
最后建立DNE-SBP总体损失函数为:
通过在三个真实有符号网络(Epinions,Slashdot和Wiki)用于链路符号预测和社区检测任务,对比之前的方法有着出色的表现。
- 论文笔记(一)Deep Ranking for Person Re-Identification via Joint Representation Learning (续)
- 论文PCANet: A Simple Deep Learning Baseline for Image Classification?的matlab源码解读(一)
- 论文PCANet: A Simple Deep Learning Baseline for Image Classification?的matlab源码解读(四)
- 【论文翻译】论文中英对照翻译--(Learning Generalized Deep Feature Representation for Face Anti-Spoofing)(其一)
- [论文解读] 3D Fully Convolutional Network for Vehicle Detection in Point Cloud
- 论文笔记(一)Deep Ranking for Person Re-Identification via Joint Representation Learning
- 论文笔记之Learning Deep Representations for Graph Clustering
- 论文笔记 Ensemble of Deep Convolutional Neural Networks for Learning to Detect Retinal Vessels in Fundus
- [论文解读] Deep Sliding Shapes for Amodal 3D Object Detection in RGB-D Images
- [论文解读] 3D Fully Convolutional Network for Vehicle Detection in Point Cloud
- 【手势识别-论文学习】 Hands Deep in Deep Learning for Hand Pose Estimation
- [论文解读] MSCNN: A Unified Multi-scale Deep Convolutional Neural Network for Fast Object Detection
- Semantic Segmentation--ENet:A Deep Neural Network Architecture for Real-Time Semantic..论文解读
- 1505.Deep Ranking for Person Re-identification via Joint Representation Learning论文笔记
- 论文笔记之:Dueling Network Architectures for Deep Reinforcement Learning
- 『 论文阅读』A Multi-View Deep Learning Approach for Cross Domain User Modeling in Recommendation Systems
- MSCNN论文解读-A Unified Multi-scale Deep Convolutional Neural Network for Fast Object Detection
- Deep learning in graph clustering 论文两篇
- NRL: network representation learning & NE: network embedding. 相关论文总结
- 《A Lightened CNN for Deep Face Representation》论文解读 本文来自中科院,原文地址为: https://arxiv.org/abs/1511.02683