神经网络学习(转)

此文为tededward222 所写
神经网络学习初期提示：
第一步：看看入门书籍,对神经网络有个初步认识;
第二步：掌握如下算法:
1.感知机学习,这个较简单易懂,就不多说了.
2.最小均方误差,这个原理是下面提到的神经网络学习算法的理论核心,入门者要先看《高等数学》（高等教育出版社，同济大学版）第8章的第十节：“最小二乘法”。
3.在第2步的基础上看Hebb学习算法、SOM和K-近邻算法，上述算法都是在最小均方误差基础上的改进算法，
容易买到的参考书籍有：
《神经网络原理》（机械工业出版社，Simon Haykin著，中英文都有）；
《人工神经网络与模拟进化计算》（清华大学出版社，阎平凡，张长水著）；
《模式分类》（机械工业出版社，　　Richard O. Duda等著，中英文都有）；
《神经网络设计》（机械工业出版社，Martin T. Hargan等著，中英文都有）。
4.ART(自适应谐振理论),该算法的最通俗易懂的读物就是《神经网络设计》（机械工业出版社，Martin T. Hargan等著，中英文都有）的第15和16章。若看理论分析较费劲可直接编程实现一下16.2.7节的ART1算法小节中的算法.
5.BP算法,初学者若对误差反传的分析过程理解吃力可先跳过理论分析和证明的内容,直接利用最后的学习规则编个小程序并测试,建议看《机器学习》(机械工业出版社，Tom M. Mitchell著，中英文都有）的第4章和《神经网络设计》（机械工业出版社，Martin T. Hargan等著，中英文都有）的第11章。
第三步：在掌握上述算法的基础上看各种前馈网络、反馈网络、联想存储器、神经网络集成、模糊神经网络等技术就属于学习神经网络的高级阶段了，需要根据自己的研究和应用方向决定。
神经网络高级话题：
神经网络研究的高级阶段是研究各种神经网络（包括多层感知器网络、径向基函数网络、概率神经网络、径向基概率神经网络、递归神经网络、光学神经网络、库仑能量网络、隐马尔科夫模型、模糊极大极小网络、模块神经网络、学习委员会机、ARTMAP网络、自适应共振理论(ART1-3)、自组织特征映射、联想记忆、主分量分析、独立分量分析、盲源分离、硬聚类和模糊聚类子空间理论、波尔兹曼机、神经认知机、统计学习理论、支撑矢量机、随机神经网络理论、EM算法、遗传与进化算法、增强学习理论、人工免疫算法、模拟退火算法）的数学理论、学习算法、模型和结构、推广能力、预测与逼近能力。
神经网络的应用领域：
神经网络在模式识别、图象处理、数据挖掘、机器人、生物信息学等领域被广泛应用。