生成式模型(generative) vs 判别式模型(discriminative)
2017-03-04 09:52
232 查看
Andrew Ng, On Discriminative vs. Generative classifiers: A comparison of logistic regression and naive Bayes
无论是生成式模型还是判别式模型,都可作为分类器使用,分类器的数学表达即为:给定输入 X 以及分类变量 Y,求 P(Y|X)。
判别式模型直接估算 P(Y|X),或者也可像 SVM 那样,估算出输入和输出之间的映射,与概率无关;
判别式模型的典型代表是:logistic 回归;
产生式模型的思想是先估计联合概率密度 P(X,Y),再通过贝叶斯公式求出 P(Y|X);
生成式模型的典型代表则是:朴素贝叶斯模型;
一般认为判别式模型更受欢迎,“人们更应该直接去解决问题,永远不要把求解更复杂的问题作为中间阶段”(Vapnik),Andrew Ng 的论文[1]对此作了较为全面的分析,产生式模型(朴素贝叶斯)在少量样本的情况下,可以取得更好的精确率,判别式模型(logistics 回归)在样本增加的情况下,逐渐逼近前者的概率;
无论是生成式模型还是判别式模型,都可作为分类器使用,分类器的数学表达即为:给定输入 X 以及分类变量 Y,求 P(Y|X)。
判别式模型直接估算 P(Y|X),或者也可像 SVM 那样,估算出输入和输出之间的映射,与概率无关;
判别式模型的典型代表是:logistic 回归;
产生式模型的思想是先估计联合概率密度 P(X,Y),再通过贝叶斯公式求出 P(Y|X);
生成式模型的典型代表则是:朴素贝叶斯模型;
一般认为判别式模型更受欢迎,“人们更应该直接去解决问题,永远不要把求解更复杂的问题作为中间阶段”(Vapnik),Andrew Ng 的论文[1]对此作了较为全面的分析,产生式模型(朴素贝叶斯)在少量样本的情况下,可以取得更好的精确率,判别式模型(logistics 回归)在样本增加的情况下,逐渐逼近前者的概率;
相关文章推荐
- 判别式模型和生成式模型的区别(discriminative model and generative model)
- 判别式模型和生成式模型的区别(discriminative model and generative model)
- 判别式模型与产生式模型解析(Discriminative Model vs. Generative Model)
- 判别式模型和生成式模型的区别(discriminative model and generative model)
- 判别式模型和产生式模型 (discriminative model and generative model)
- 机器学习 之 生成式模型 VS 判别式模型
- 判别式模型 vs. 生成式模型
- 判别式模型和产生式模型 (discriminative model and generative model)
- 判别式模型 vs. 生成式模型
- 生成式模型 vs 判别式模型
- 判别式模型(discriminative model) 和生成式模型(generative model)的区别
- 浅谈生成式模型和判别式模型
- 分类器设计方法:生成式模型和判别式模型
- 判别式模型与生成式模型
- 学习笔记33-生成式模型-判别式模型
- 生成模型(Generative Model)Vs 判别模型(Discriminative Model)
- 判别式模型与生成式模型简单理解
- 判别式模型与生成式模型
- 生成模型(Generative Model)Vs 判别模型(Discriminative Model)
- 判别式模型与生成式模型