逻辑回归和SVM
2017-10-27 12:24
155 查看
作者:Charles Xiao
链接:https://www.zhihu.com/question/24904422/answer/92164679
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
逻辑回归和支持向量机之间的区别也是面试经常会问的一道题,特地找了一些相关资料看了下。
我们先来看一下SVM 和正则化的逻辑回归它们的损失函数:
其中,
.
可以将两者统一起来,
也就是说,它们的区别就在于逻辑回归采用的是 log loss(对数损失函数),svm采用的是hinge loss
。- SVM 损失函数 :
- LR 损失函数:
其实,这两个损失函数的目的都是增加对分类影响较大的数据点的权重,减少与分类关系较小的数据点的权重。SVM的处理方法是只考虑 support vectors,也就是和分类最相关的少数点,去学习分类器。而逻辑回归通过非线性映射,大大减小了离分类平面较远的点的权重,相对提升了与分类最相关的数据点的权重,两者的根本目的都是一样的。
svm考虑局部(支持向量),而logistic回归考虑全局,就像大学里的辅导员和教师间的区别[2]。
辅导员关心的是挂科边缘的人,常常找他们谈话,告诫他们一定得好好学习,不要浪费大好青春,挂科了会拿不到毕业证、学位证等等,相反,对于那些相对优秀或者良好的学生,他们却很少去问,因为辅导员相信他们一定会按部就班的做好分内的事;而大学里的教师却不是这样的,他们关心的是班里的整体情况,大家是不是基本都理解了,平均分怎么样,至于某个人的分数是59还是61,他们倒不是很在意。欢迎访问我的博客: Logistic Regression and SVM----------
[1]: Machine learning: lecture 7
[2]: SVM(一) 基本概念、模型建立
链接:https://www.zhihu.com/question/24904422/answer/92164679
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
逻辑回归和支持向量机之间的区别也是面试经常会问的一道题,特地找了一些相关资料看了下。
我们先来看一下SVM 和正则化的逻辑回归它们的损失函数:
其中,
.
可以将两者统一起来,
也就是说,它们的区别就在于逻辑回归采用的是 log loss(对数损失函数),svm采用的是hinge loss
。- SVM 损失函数 :
- LR 损失函数:
其实,这两个损失函数的目的都是增加对分类影响较大的数据点的权重,减少与分类关系较小的数据点的权重。SVM的处理方法是只考虑 support vectors,也就是和分类最相关的少数点,去学习分类器。而逻辑回归通过非线性映射,大大减小了离分类平面较远的点的权重,相对提升了与分类最相关的数据点的权重,两者的根本目的都是一样的。
svm考虑局部(支持向量),而logistic回归考虑全局,就像大学里的辅导员和教师间的区别[2]。
辅导员关心的是挂科边缘的人,常常找他们谈话,告诫他们一定得好好学习,不要浪费大好青春,挂科了会拿不到毕业证、学位证等等,相反,对于那些相对优秀或者良好的学生,他们却很少去问,因为辅导员相信他们一定会按部就班的做好分内的事;而大学里的教师却不是这样的,他们关心的是班里的整体情况,大家是不是基本都理解了,平均分怎么样,至于某个人的分数是59还是61,他们倒不是很在意。欢迎访问我的博客: Logistic Regression and SVM----------
[1]: Machine learning: lecture 7
[2]: SVM(一) 基本概念、模型建立
相关文章推荐
- 逻辑回归和SVM的区别
- 根据已给字符数据,训练逻辑回归、随机森林、SVM,生成ROC和箱线图
- 逻辑回归(Logistic Regression)和SVM的联系以及Kernel
- sklearn 数据加载,数据归一,特征选择,逻辑回归,贝叶斯,k近邻,决策树,SVM
- 机器学习c12笔记:SVM学习与SVM,逻辑回归和kNN比较
- 机器学习概念总结笔记(二)——逻辑回归、贝叶斯分类、支持向量分类SVM、分类决策树ID3、
- 逻辑回归和SVM的区别
- tf-idf、逻辑回归和SVM on spark
- 【scikit-learn】07:数据加载,数据归一,特征选择,逻辑回归,贝叶斯,k近邻,决策树,SVM
- SVM支持向量机和逻辑回归进行心音信号简单二分类
- Spark ML机器学习算法svm,als,线性回归,逻辑回归简单试验
- 如何选择SVM,逻辑回归和神经网络算法
- 从逻辑回归到SVM
- SVM与逻辑回归的区别
- 逻辑回归和SVM的区别
- Spark MLlib回归算法------线性回归、逻辑回归、SVM和ALS
- 林轩田--机器学习技法--SVM笔记5--核逻辑回归(Kernel+Logistic+Regression)
- xbgoost svm 逻辑回归 梯度下降等推导过程
- 逻辑回归和SVM的比较
- [机器学习笔记] 支持向量机SVM 和逻辑回归LR的异同