深度学习（四十）优化求解系列（2）简单理解神经网络求解过程-未完待续
2016-10-17 10:29
375 查看
版权声明：本文为博主原创文章，欢迎转载，转载请注明原文地址、作者信息。
对于神经网络的求解过程BP，其实说白了就是复合函数的求导过程，所以我们需要先复习一下高数复合函数的求导过程。
一、复合函数的求导法则
1、复合函数：
此函数是一个包含了三层映射过程的复合函数，为了跟后面我们所要学习的神经网络优化求解相接轨，我们采用如下映射过程，来表示这样的一个复合函数(相当于一个四层的神经网络前向映射过程)：
对于神经网络的求解过程BP，其实说白了就是复合函数的求导过程，所以我们需要先复习一下高数复合函数的求导过程。
一、复合函数的求导法则
1、复合函数：
此函数是一个包含了三层映射过程的复合函数，为了跟后面我们所要学习的神经网络优化求解相接轨，我们采用如下映射过程，来表示这样的一个复合函数(相当于一个四层的神经网络前向映射过程)：
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- 深度学习（四十）优化求解系列（2）简单理解神经网络求解过程-未完待续
- 深度学习（三十七）优化求解系列之(1)简单理解梯度下降
- 深度学习（三十七）优化求解系列之(1)简单理解梯度下降
- 深度学习系列——关于神经网络理解的总结
- 深度学习系列教程 - 1.1.1 什么是神经网络
- 神经网络的简单理解
- 《神经网络和深度学习》系列文章十一：关于损失函数的两个假设
- 深度学习系列（3）——使用神经网络去辨识手写数字
- 《神经网络和深度学习》系列文章五：用简单的网络结构解决手写数字识别
- 深度学习系列教程 - 1.2.2 神经网络是如何进行预测的？
- 《神经网络和深度学习》系列文章一：使用神经网络识别手写数字
- 深度学习系列（3.2）——神经网络-sigmoid 神经元
- 使用matlab工具研究神经网络的简单过程（网络和数据下载）
- 深度学习系列教程 - 1.1.2 监督学习型神经网络
- 深度学习系列教程 - 1.2.3 神经网络如何判断自己预测得是否准确
- 简单理解LSTM神经网络
- 《神经网络和深度学习》系列文章七：实现我们的神经网络来分类数字（下）
- 《神经网络和深度学习》系列文章七：实现我们的神经网络来分类数字（上）
- 深度学习系列（三）：简单网络的自编码学习
- 深度学习系列（2）——神经网络与深度学习