Lasso和Elastic net的区别
2016-04-01 09:20
246 查看
Lasso模型是稀疏当中最普通最常见的,而Elastic net感觉就是在Lasso 模型上增加了一个L2范的惩罚项,但是两者还是有很大区别的。
通常Lasso用来:1减少回归模型中的预测子的数量 2 筛选重要的预测子 3比普通的最小二乘方法的预测误差更好
而Elastic net可以视为Lasso问题的变形,看下二者的公式:
(1)
(2)
(3)
lasso的定义如式(1),elastic net定义如(2)(3),后者的约束使得更多系数趋近于零,当alpha等于1时,elastic net就会变成lasso
通常Lasso用来:1减少回归模型中的预测子的数量 2 筛选重要的预测子 3比普通的最小二乘方法的预测误差更好
而Elastic net可以视为Lasso问题的变形,看下二者的公式:
(1)
(2)
(3)
lasso的定义如式(1),elastic net定义如(2)(3),后者的约束使得更多系数趋近于零,当alpha等于1时,elastic net就会变成lasso
相关文章推荐
- 稀疏傅里叶变换(SFT)算法
- 特征选择和特征学习中的过完备
- 范数
- 非负矩阵分解中基于L1和L2范式的稀疏性约束
- matlab 稀疏矩阵常用函数
- 稀疏矩阵的压缩
- 稀疏矩阵的压缩存储及转置算法
- 在线学习算法FTRL
- 稀疏矩阵的(普通/快速)转置
- 稀疏矩阵的压缩存储
- 自编码算法与稀疏性(KL散度诱导稀疏)
- 稀疏矩阵存储格式
- 机器学习中的范数规则化之(一)L0、L1与L2范数
- Sparse Coding
- NBNN及SIS Measure
- [林轩田]14-规范化
- inception v1原理
- 机器学习中的稀疏表示与字典学习
- sql sever2012学习2-表的操作
- 将已有项目提交到github/从github上pull到本地