机器学习与数据挖掘的关系

        一直没搞明白数据挖掘和机器学习的关系，就从网上搜索了些这方面的资料，在这里做个记录和总结。南京大学教授周志华写了篇文章数据挖掘与机器学习 对这个问题作了个很好的论述，这里也有很多内容是来自于这篇文章里面的。

        数据挖掘就是试图从海量数据中找出有用的知识。大体上看，数据挖掘可以视为机器学习和数据库的交叉，它主要利用机器学习界提供的技术来分析海量数据，利用数据库界提供的技术来管理海量数据。

        数据挖掘受到了很多学科领域的影响，其中数据库、机器学习、统计学无疑影响最大。粗糙地说，数据库提供数据管理技术，机器学习和统计学提供数据分析技术。由于统计学界往往醉心于理论的优美而忽视实际的效用，因此，统计学界提供的很多技术通常都要在机器学习界进一步研究，变成有效的机器学习算法之后才能再进入数据挖掘领域。从这个意义上说，统计学主要是通过机器学习来对数据挖掘发挥影响，而机器学习和数据库则是数据挖掘的两大支撑技术。

        从数据分析的角度来看，绝大多数数据挖掘技术都来自机器学习领域。但能否认为数据挖掘只不过就是机器学习的简单应用呢？答案是否定的。一个重要的区别是，传统的机器学习研究并不把海量数据作为处理对象，很多技术是为处理中小规模数据设计的，如果直接把这些技术用于海量数据，效果可能很差，甚至可能用不起来。因此，数据挖掘界必须对这些技术进行专门的、不简单的改造。

        但数据挖掘和机器学习也有各自独特的东西。对数据挖掘来说，这就是关联分析，主要是频繁项集和关联规则的挖掘。简答地说，就是从数据中找出哪些项集是经常出现的、哪些项集之间有强关联性。例如购物篮分析，我们可能会挖掘出“啤酒和花生经常被一起购买”和“买牛奶的人很可能会买面包”这些模式。而对于机器学习技术也不仅仅在数据挖掘上有应用，常用在数据挖掘上的方法通常只是“从数据中学习”的技术，一些机器学习研究的领域比如增强学习与自动控制等与数据挖掘的关系并不大，这些也是机器学习领域的一些独特的东西。