理解递归神经网络（RNN）的展开
2016-08-29 17:22
141 查看
之前看到有博客讲述 RNN主要是下图这种结构，即Hidden Layer会有连向下一时间Hidden Layer的边，为了方便推导和描述，将左边简化为右边这样一个结构。
（左图的空心圆圈输入可以看做：输入的是每个单词的特征向量； 右图的实心圆圈输入可以看做：输入的是每个单词）
将网络按照时间进行展开为下图：
但还不是特别理解隐藏层之间的连接以及按时间展开的过程，于是找到一个更清楚的解释。
-------------------简单粗暴地上图-----------------------
这个图简化了上面的图，可以明显地看出，其描述的意思是一致的~
（左图的空心圆圈输入可以看做：输入的是每个单词的特征向量； 右图的实心圆圈输入可以看做：输入的是每个单词）
将网络按照时间进行展开为下图：
但还不是特别理解隐藏层之间的连接以及按时间展开的过程，于是找到一个更清楚的解释。
-------------------简单粗暴地上图-----------------------
这个图简化了上面的图，可以明显地看出，其描述的意思是一致的~
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- 理解CNN、DNN、RNN(递归神经网络以及循环神经网络)以及LSTM网络结构笔记
- 基于递归神经网络（RNN）的口语理解（SLU）
- RNN（1） ------ “理解LSTM”（转载）
- 深入理解python的列表展开(list unpacking)
- 【Deep Learning】RNN的直觉理解
- 基于RNN做语义理解和词向量
- 『cs231n』作业3问题1选讲_通过代码理解RNN&图像标注训练
- 循环神经网络（RNN）反向传播算法（BPTT）理解
- PyTorch--双向递归神经网络(B-RNN)概念，源码分析
- 深度学习之神经网络结构——RNN_理解LSTM
- 递归神经网络RNN原理——Elman网络原理——结合实例MATLAB（BPTT算法）实现
- 递归神经网络 RNN 图解
- 循环神经网络（RNN）反向传播算法（BPTT）理解
- RNN和LSTM、GRU的简单理解
- 【直观理解】一文搞懂RNN（循环神经网络）基础篇
- 深度学习Deep learning：四十九(RNN-RBM简单理解)
- Recurrent Neural Network系列3--理解RNN的BPTT算法和梯度消失
- 递归神经网络RNN
- 深度学习-RNN网络的理解
- 递归神经网络(RNN)简介