台湾国立大学机器学习基石.听课笔记（第六讲）： 一般化（举一反三）的理论

Lecture 6: Theory of Generalization（一般化（举一反三）的理论）

一、Restriction of Break Point（切断点的限制）

当break point k=2,N=3时，m_H(N)出现的情况。



x_1、x_2和x_3两两之间都得满足k=2的条件，so we have a idea:

二、Bounding Function: Basic Cases（边界函数的基本情况）

首先，我们根据已知情况可知，如下图：





然后由



可得：

三、Bounding Function: Inductive Cases（边界函数的其他情况）

提出：



我们根据程序计算得出B(4,3)=11,它的每个值是：



其中


我们可以根据上图知道以下几点：



那么我们可以得出结论：



在对其进行一般化推到，得到多项式，其式子如下：

四、A Pictorial Proof（简单的图示证明）

接下来是对它的证明，主要说的的这几部，介绍思想，为以后学习做准备。

第一步



第二步



第三步



最后得