人工智能之人工神经网络-纵览
2016-01-12 18:03
363 查看
原文链接:http://lanbing510.info/2014/11/07/Neural-Network.html
开篇语
文章整理自向世明老师的PPT,围绕神经网络发展历史,前馈网络(单层感知器,多层感知器,径向基函数网络RBF),反馈网络(Hopfield网络,联想存储网络,SOM,Boltzman及受限的玻尔兹曼机RBM,DBN,CNN)三部分进行讲述,给人一个神经网络的整体认识。
发展历史
单层感知器
基本模型如下
训练
如果激励函数是线性的话,可用最小二乘直接计算:如果激励函数是sifmoid function,可迭代更新(一次性或者逐样本更新):
上式只做了简单的求导展开,很容易推导:
多层感知器
基本模型如下
举例(含有一个隐含层的多层感知器MLP)
模式:y=h(v)=h(h(u))
求解:
然后分别对两个层的权值求导:
然后更新即可,反向传播(BP)
经验
优缺点
RBF神经网络
模型
求解
优点和视角
深度学习简介
前向神经网络
发展历程
整体一览
一些值得关注
学术工业
Belief Network & Hopfield Network & Boltzman机 & RBM 结构一瞥
Belief Network
Hopfield Network
Boltzman机
RBM 受限的玻尔兹曼机
RBM
模型
利用上图中公式,可以得到
求解 CD算法
DBN
模型
训练
面向特征提取面向分类
DBM
模型
CNN
模型
训练
参考文献
相关文章推荐
- tcpkill清除异常tcp连接
- 利用dsniff的tcpkill杀TCP连接
- C#静态类 转载:(原文:http://www.cnblogs.com/chenlulouis/ )
- http://my.oschina.net/huangyong/blog/372491?fromerr=hobPLCmQ#OSC_h2_5
- Linux 系统应用编程——网络编程(socket编程)
- tcpdump捕包乱序的解决方案
- nginx 日志过滤网络爬虫
- Let's do our own full blown HTTP server with Netty--转载
- 基于Oozie实现MapReduce作业的自动提交功能
- Linux网络配置
- java网络编程
- Android 网络编程--URL互联网资源
- 获取视频的第一帧缩略图(本地视频、网络视频)
- Android网络图片加载框架:Universal-ImageLoader简介
- 使用CocoaPods做依赖管理(淘宝源更换为HTTPS)--转自 唐巧技术博客
- 三招教你用VLC Player 通过RTSP over Http 播放 live555 mediasever 来的流媒体
- Linux系统VM网络配置
- 前端接入HTTP协议浅析
- UNIX环境高级编程、UNIX网络编程(卷一)环境搭建
- Cocos2dx网络学习笔记(一)