机器学习初探
2016-08-23 19:46
197 查看
工具:需正版:Matlab,免费:Octave
定义(Arthur Samuel 1959):
在不直接针对问题进行编程的情况下,赋予计算机学习能力的研究领域。
例:Arthur的下棋程序,计算走每一步获胜的概率,最终打败程序作者本人。(感觉使用决策树思想)
定义2(Tom Mitchell 1998):
一个合理的学习问题应该这样定义:对一个计算机程序来说,给它一个任务T和一个性能测量方法P,如果在经验E的影响下,P对T的测量结果得到了改进,那么就说改程序从E中学习了。
如上例:E:程序不断和自己下棋的经历,T:下棋,P:和人类选手对弈的胜率 课程的四大部分:
1、 有监督学习
(1) 回归问题
例:收集某地房屋价格统计、房屋大小和价格对应情况:
画出一条拟合曲线,就可以通过房屋大小估计价格。
有监督学习即给出一个数据集(正确的房屋价格及对应大小)
此例为回归问题。回归意味着需要预测的变量是连续的
(2) 分类问题
分类问题中需要处理的变量是离散的
例:判断肿瘤是恶性还是两性
收集肿瘤大小和恶性/良性数据,大小为横轴,是否是恶性为纵轴(只有0,1)画图 - 肿瘤可能由多个因素导致,引入年龄,大小为横轴,年龄为纵轴,恶性以叉表示,良性以圆圈表示画图,分析患肿瘤的区域
还可引入更多属性,画在多维空间中
无限维空间如何处理?将无限维映射到内存的算法?
2、 学习理论
学习理论即解释学习型算法有效的原因(学习算法的理论基础)
寻找什么样的算法能很好地近似不同的函数,训练集的规模是否合适
3、 无监督学习
例:如上述肿瘤例子,图中的点不知道正确答案,而是由你从中找去一定的结构,即聚类。应用于生物基因工程,图像处理,计算机视觉等领域
例:鸡尾酒会问题
在嘈杂的鸡尾酒会中,将你感兴趣的声音提取出来
运用两个不同位置的麦克分开来自不同位置的声音
还能应用于文本处理等领域
使用ICA算法,Matlab一行代码即可解决
4、 强化学习
通过决策产生的结论或对或错,故产生一系列的决策。
例:对一个模型飞机编写一个起飞程序,飞机在程序做了一连串错误决策是才会坠毁,只要做出连续的整体还不错的决策,即可保持飞机正常飞行
强化学习的基本概念:回报函数
(正反馈及负反馈),程序做出正确决策时给出正反馈,反之亦然。
程序不断做出决策,在不断尝试获得尽量多的正反馈时,逐渐学习并做出正确决策 关键在于要定义什么是正确决策,什么是错误决策,再设计算法获取尽量多的正反馈
定义(Arthur Samuel 1959):
在不直接针对问题进行编程的情况下,赋予计算机学习能力的研究领域。
例:Arthur的下棋程序,计算走每一步获胜的概率,最终打败程序作者本人。(感觉使用决策树思想)
定义2(Tom Mitchell 1998):
一个合理的学习问题应该这样定义:对一个计算机程序来说,给它一个任务T和一个性能测量方法P,如果在经验E的影响下,P对T的测量结果得到了改进,那么就说改程序从E中学习了。
如上例:E:程序不断和自己下棋的经历,T:下棋,P:和人类选手对弈的胜率 课程的四大部分:
1、 有监督学习
(1) 回归问题
例:收集某地房屋价格统计、房屋大小和价格对应情况:
画出一条拟合曲线,就可以通过房屋大小估计价格。
有监督学习即给出一个数据集(正确的房屋价格及对应大小)
此例为回归问题。回归意味着需要预测的变量是连续的
(2) 分类问题
分类问题中需要处理的变量是离散的
例:判断肿瘤是恶性还是两性
收集肿瘤大小和恶性/良性数据,大小为横轴,是否是恶性为纵轴(只有0,1)画图 - 肿瘤可能由多个因素导致,引入年龄,大小为横轴,年龄为纵轴,恶性以叉表示,良性以圆圈表示画图,分析患肿瘤的区域
还可引入更多属性,画在多维空间中
无限维空间如何处理?将无限维映射到内存的算法?
2、 学习理论
学习理论即解释学习型算法有效的原因(学习算法的理论基础)
寻找什么样的算法能很好地近似不同的函数,训练集的规模是否合适
3、 无监督学习
例:如上述肿瘤例子,图中的点不知道正确答案,而是由你从中找去一定的结构,即聚类。应用于生物基因工程,图像处理,计算机视觉等领域
例:鸡尾酒会问题
在嘈杂的鸡尾酒会中,将你感兴趣的声音提取出来
运用两个不同位置的麦克分开来自不同位置的声音
还能应用于文本处理等领域
使用ICA算法,Matlab一行代码即可解决
4、 强化学习
通过决策产生的结论或对或错,故产生一系列的决策。
例:对一个模型飞机编写一个起飞程序,飞机在程序做了一连串错误决策是才会坠毁,只要做出连续的整体还不错的决策,即可保持飞机正常飞行
强化学习的基本概念:回报函数
(正反馈及负反馈),程序做出正确决策时给出正反馈,反之亦然。
程序不断做出决策,在不断尝试获得尽量多的正反馈时,逐渐学习并做出正确决策 关键在于要定义什么是正确决策,什么是错误决策,再设计算法获取尽量多的正反馈
相关文章推荐
- 机器学习初探
- 机器学习-初探
- 机器学习(1)--神经网络初探
- 机器学习初探
- (转)(三)机器学习笔记之Scikit Learn的线性回归模型初探
- 机器学习初探:OpenCV K均值代码笔记
- 机器学习初探
- Windows ML,系统内置的机器学习平台初探
- 【机器学习技术】高斯过程初探
- scala spark 机器学习初探
- scala spark 机器学习初探
- 斯坦福大学的机器学习笔记SVM初探详解
- Bengio Deep Learning 初探 —— 第5章:机器学习基础
- 台大林轩田机器学习课程笔记1----机器学习初探及PLA算法
- [机器学习]机器学习学科初探
- 初探机器学习与评分卡模型
- 【机器学习】K-means聚类算法初探
- 机器学习初探-常用优化算法介绍
- (原创)(四)机器学习笔记之Scikit Learn的Logistic回归初探