反向传播BP算法

一、网络结构

经典的BP网络，其具体结构如下：





请特别注意上面这个图的一些符号说明，如下：



二、学习算法

1、信号的前向传递过程



请特别注意上述公式中的下标，这里，权值矩阵包含了神经元节点本身的偏置，所以权值矩阵多了一列。

2、误差反向传导过程















三、小结

信号的前向传递和误差反向传递过程都可以用递归公式描述。其实，就几个公式而已，把相关几个重要的公式再次总结一下：





转自：http://blog.csdn.net/celerychen2009/article/details/8964753