如何理解反向传播 Backpropagation 梯度下降算法要点
2016-03-24 00:03
253 查看
http://colah.github.io/posts/2015-08-Backprop/
http://www.zhihu.com/question/27239198待翻译
http://blog.csdn.net/woxincd/article/details/7040944
对于我们的函数J(θ)求偏导J:
下面是更新的过程,也就是θi会向着梯度最小的方向进行减少。θi表示更新之前的值,-后面的部分表示按梯度方向减少的量,α表示步长,也就是每次按照梯度减少的方向变化多少。
一个很重要的地方值得注意的是,梯度是有方向的,对于一个向量θ,每一维分量θi都可以求出一个梯度的方向,我们就可以找到一个整体的方向,在变化的时候,我们就朝着下降最多的方向进行变化就可以达到一个最小点,不管它是局部的还是全局的。
N:=N+1
数学
水水好萌1952014-12-08
优质解答这原来是计算机语言里面的东西,后来高中数学引进算法知识后,就出现在数学里了.
意思是,N变成了N+1,即某个变量自己加1.
比如 原来 N=1
则经过 N:=N+1之后 现在N=1+1=2 了
相关文章推荐
- linux centos apache+php+mysql 安装
- linux cpu,内存, 使用情况
- linux 自动注销登录帐号
- Centos 7 mini 安装
- centos 路由说明
- 没有技术人员,企业如何建站?
- Hadoop单机版和伪分布式部署
- Linux kudzu !!!上天了
- topdownCar 例子
- 推荐一些C#相关的网站、资源和书籍
- lodop打印技巧与注意事项
- apache 伪静态 配置
- linux 主机名常忽略的小问题
- lvs+keepalived实现高可用负载均衡集群
- hbase 架构和存储
- VMware新建虚拟机(CentOs6.xV)
- Docker工具
- Lesson5 -Linux Network Configuration
- Lesson4 -Users, Groups and Permissions in Linux
- linux服务器的端口测试工具