神经网络基础知识简介

神经网络简介

1 几种常见的神经元

（1）  线性神经元



（2）  二进制神经元



（3）  逻辑神经元（sigmoid 神经元）



（4）  随机二进制神经元

       与逻辑神经元的区别在于，逻辑神经元的结果是一个分类结果，但是随机二进制神经元的结果是属于某类的概率





2 学习任务的分类

（1）  监督学习(supervised learning):通过给定的输入，预测输出

（2）  增强式学习(reinforcement learning):选择结果最大化的行为

（3）  无监督学习(unsupervised learning)：根据输入发现输入之间隐藏的模式

 

3 主要的神经网络结构

（1）  前馈神经网络：第一层是输入层，最后一层是输出层，中间是隐藏层（隐藏层可以不存在）



（2）  递归神经网络：在网络中存在循环，即从某个点即可能是开始点，也可能是结束点

                                    这种网络在某种程度上可以看成是多个前馈神经网络组成，不同之

                                    处在于，每进行一次前馈神经网络的过程，权重都是保持不变的。



（3）  对称连接网络：无论是前向还是后向，权重都是相同的。