机器学习基石-06-2-Bounding Function- Basic Cases
2017-11-04 16:19
281 查看
bounding function
不考虑growth function成长函数是什么样的,只考虑排列组合上我们可以做出多少种?
通俗地讲,一堆向量(由dichotomy组成),长度是N,从中抽取k(break point k)个也不允许存在shatter。
![](https://img-blog.csdn.net/20171104162253336?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaGFoYWh5YWhzaHNiYQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
接下来的新目标是证明:
![](https://img-blog.csdn.net/20171104162337725?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaGFoYWh5YWhzaHNiYQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
上一节课中我们已经讨论了N=2,k=2;N=3,k=2两种情况下的分别为3和4。
![](https://img-blog.csdn.net/20171104162528185?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaGFoYWh5YWhzaHNiYQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
![](https://img-blog.csdn.net/20171104162554112?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaGFoYWh5YWhzaHNiYQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
![](https://img-blog.csdn.net/20171104162629389?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaGFoYWh5YWhzaHNiYQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
上节课的例题中印证了,当k=1时无论N取什么值,
![](https://img-blog.csdn.net/20171104162833084?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaGFoYWh5YWhzaHNiYQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
都是1
![](https://img-blog.csdn.net/20171104162908097?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaGFoYWh5YWhzaHNiYQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
当N<k时,还没有到达break point,
![](https://img-blog.csdn.net/20171104162833084?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaGFoYWh5YWhzaHNiYQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
都是满足
![](https://img-blog.csdn.net/20171104163003293?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaGFoYWh5YWhzaHNiYQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
的。
![](https://img-blog.csdn.net/20171104163042359?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaGFoYWh5YWhzaHNiYQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
上面列出了部分B(N,k)的值,下节课继续填表!
不考虑growth function成长函数是什么样的,只考虑排列组合上我们可以做出多少种?
通俗地讲,一堆向量(由dichotomy组成),长度是N,从中抽取k(break point k)个也不允许存在shatter。
接下来的新目标是证明:
上一节课中我们已经讨论了N=2,k=2;N=3,k=2两种情况下的分别为3和4。
上节课的例题中印证了,当k=1时无论N取什么值,
都是1
当N<k时,还没有到达break point,
都是满足
的。
上面列出了部分B(N,k)的值,下节课继续填表!
相关文章推荐
- 机器学习基石 6.2 Bounding Function: Basic Cases
- 机器学习基石-06-3-Bounding Function- Inductive
- 机器学习基石 6.3 Bounding Function: Inductive Cases
- 机器学习基石-06-1-Restriction of Break Point
- 机器学习基石---Why Can Machines Learn(Part4)
- 机器学习基石---Why Can Machines Learn(Part5)
- 周志华机器学习 西瓜书(PDF) 斯坦福大学机器学习视频 机器学习基石+技法 邹博机器学习 七月在线机器学习 资源下载
- 机器学习基石--学习笔记01--linear hard SVM
- (机器学习基石)Machine Learning Foundations:Lecture 2
- 台大-林轩田老师-机器学习基石学习笔记5
- 机器学习基石-08-2-Error Measure
- 机器学习基石-10-1-Logistic Regression Problem
- 台大机器学习基石作业编程题
- 机器学习基石-2-Learning to Answer Yes/No
- [置顶] 【机器学习】神经网络-激活函数-面面观(Activation Function)
- 机器学习基石 2.2 Perceptron Learning Algorithm (PLA)
- 台大-林轩田老师-机器学习基石学习笔记11
- 机器学习笔记-Radial Basis Function Network
- 【The VC Dimension】林轩田机器学习基石
- 機器學習基石(Machine Learning Foundations) 机器学习基石 作业二 课后习题解答