第一章 统计学习方法概论

第一章 统计学习方法概论

统计学习方法：监督、无监督、半监督、强化学习

蓝皮书只讲监督学习

方法 = 模型+策略+算法

模型 ： 学习条件概率分布或者决策函数

P(Y|X)P(Y|X)

Y=f(x)Y=f(x)

策略：经验（平均损失）风险或者结构（加正则化项）风险最小化

对数损失函数（对数似然损失函数）

L(Y,P(Y|X))=−logP(Y|X）L(Y,P(Y|X))=−logP(Y|X）