《机器学习》周志华（西瓜书）学习笔记

西瓜书简介

南京大学的周志华教授，是机器学习领域，国内著名的学者；同时，他还对推广机器学习，做了非常突出的贡献。他在2016年1月出版的《机器学习》，作为机器学习领域入门的书籍，深受广大学子之喜爱。可以说，欲识机器学习之门径，不可不读这本书。

由于书中经常用“西瓜”作为讲解案例，书籍封面也是西瓜的卡通图，因此江湖人称本书为“西瓜书”0-0-。此书之外，李航老师的《统计学习方法》短小精悍，五脏俱全，算是领域内另一本经典了。

机器学习属于计算机科学的重要分支，而西瓜书可以作为机器学习的入门教材。全书共16章，可分为3大部分：

CH1-CH3， 介绍机器学习的基础知识，包括诸多专有名词；

CH4-CH10，介绍机器学习领域经典而常用的算法；

CH11-CH16，介绍进阶知识。

本书适宜作为机器学习的教材，本科生可阅读1-10章；研究生可全文阅读。每章另附10道习题，以飨读者。

序言

中科院陆汝钤院士为西瓜书作序。

机器学习，是人工智能领域中，最能体现智能的一个分支。机器学习领域内，细分的研究热点也在与时俱进，二十世纪八十年代，符号学习是机器学习的主流；到了二十世纪九十年代，统计机器学习则制霸此领域。前者属于纯粹理论研究和模型研究，后者则是以解决现实问题为目的。

陆汝钤院士提出了六个问题， 在此记录。当然，院士的视角和我等绝不一样，但也权做记录吧。

曾经盛行的符号学习是否在当今的AI研究中被忽略了？

假定样本数据集“独立同分布”，对于机器学习来说是否是必需的？

深度学习是否代表了机器学习的新方向？

在AI领域用到的数学方法主要是概率统计，那么难道只有统计方法适用于机器学习吗？

离散方法处理符号机器学习问题，连续方法处理统计机器学习问题，那么如何将二者统一起来？

大数据时代的出现，有没有给机器学习带来本质的影响？

如何使用本书

周志华老师写在第十次印刷之际

1. 这是一本教科书；

2. 这是一本入门教科书；

3. 这是一本面向理工科高年级本科生和研究生的教科书；

4. 本书适宜多读几遍

初学机器学习，容易陷入一个误区：以为熟练了“十大算法”，便可以解决任何问题，于是将目光仅聚焦在具体算法推导和编程实现上；带到实践发现效果不如人意，则有转对机器学习发生怀疑。

读者要知道，书本仅能展示有限的“套路”，而现实世界任务千变万化，以有限之套路，应对无限之变化，焉能不败？现实中，更多的情况是，需要根据任务特点，对现有套路进行改造。（个人深深佩服这段话，膜拜0-0）

目录

CH1 绪论

CH2 模型评估与选择

CH3 线性模型

CH4 决策树

CH5 神经网络

CH6 支持向量机

CH7 贝叶斯分类器

CH8 集成学习

CH9 聚类

CH10 降维与度量学习

CH11 特征选择与稀疏学习

CH12 计算学习理论

CH13 半监督学习

CH14 概率图模型

CH15 规则学习

CH16 强化学习