统计学习方法李航---第一章

变量解读

输入空间

输出空间

特征空间

假设空间， 输入空间到输出空间映射的集合。可以是决策函数的集合，也可以是条件概率的集合，分别为非概率模型和概率模型。

损失函数，f(x）和y的非负值函数L（f(x), y），用于描述两者的差异， 其越小越好，

经验风险（经验损失）， 损失函数在测试集上的平均值,



除了经验风险之外，为了防止过拟合，引入了结构风险，J(f) 代表了模型的复杂度



生成模型和判别模型：