机器学习笔记:为什么要对数据进行归一化处理?
2017-07-03 23:08
543 查看
文章来自知乎,作者hit nlper 忆臻
转自:https://zhuanlan.zhihu.com/p/27627299
在喂给机器学习模型的数据中,对数据要进行归一化的处理。
为什么要进行归一化处理,下面从寻找最优解这个角度给出自己的看法。
那么可以得到的公式为:
其中
代表房间数,
代表
变量前面的系数。
其中
代表面积,
代表
变量前面的系数。
首先我们祭出两张图代表数据是否均一化的最优解寻解过程。
未归一化:
归一化之后
为什么会出现上述两个图,并且它们分别代表什么意思。
我们在寻找最优解的过程也就是在使得损失函数值最小的theta1,theta2。
上述两幅图代码的是损失函数的等高线。
我们很容易看出,当数据没有归一化的时候,面积数的范围可以从0~1000,房间数的范围一般为0~10,可以看出面积数的取值范围远大于房间数。
数据没有归一化的表达式,可以为:
造成图像的等高线为类似椭圆形状,最优解的寻优过程就是像下图所示:
而数据归一化之后,损失函数的表达式可以表示为:
其中变量的前面系数几乎一样,则图像的等高线为类似圆形形状,最优解的寻优过程像下图所示:
从上可以看出,数据归一化后,最优解的寻优过程明显会变得平缓,更容易正确的收敛到最优解。
这也是数据为什么要归一化的一个原因。
转自:https://zhuanlan.zhihu.com/p/27627299
在喂给机器学习模型的数据中,对数据要进行归一化的处理。
为什么要进行归一化处理,下面从寻找最优解这个角度给出自己的看法。
例子
假定为预测房价的例子,自变量为面积,房间数两个,因变量为房价。那么可以得到的公式为:
其中
代表房间数,
代表
变量前面的系数。
其中
代表面积,
代表
变量前面的系数。
首先我们祭出两张图代表数据是否均一化的最优解寻解过程。
未归一化:
归一化之后
为什么会出现上述两个图,并且它们分别代表什么意思。
我们在寻找最优解的过程也就是在使得损失函数值最小的theta1,theta2。
上述两幅图代码的是损失函数的等高线。
我们很容易看出,当数据没有归一化的时候,面积数的范围可以从0~1000,房间数的范围一般为0~10,可以看出面积数的取值范围远大于房间数。
影响
这样造成的影响就是在画损失函数的时候,数据没有归一化的表达式,可以为:
造成图像的等高线为类似椭圆形状,最优解的寻优过程就是像下图所示:
而数据归一化之后,损失函数的表达式可以表示为:
其中变量的前面系数几乎一样,则图像的等高线为类似圆形形状,最优解的寻优过程像下图所示:
从上可以看出,数据归一化后,最优解的寻优过程明显会变得平缓,更容易正确的收敛到最优解。
这也是数据为什么要归一化的一个原因。
相关文章推荐
- MyGeneration学习笔记(8) :dOOdad提供的数据绑定、特殊函数和事务处理
- MyGeneration学习笔记(8) :dOOdad提供的数据绑定、特殊函数和事务处理
- 2012/1/9 《C++ Primer Plus》第三章:处理数据 学习笔记
- 张同学的 SQL中对材料报价单的数据权限进行操作 (如列转行 行转列的处理) 学习一下.
- Ajax处理接收到的xml数据【学习笔记】
- MyGeneration学习笔记(8) :dOOdad提供的数据绑定、特殊函数和事务处理
- C++学习系列笔记之数据处理(整形数据)
- Ajax处理JSON数据参考【学习笔记】
- Effective C# 学习笔记(四十六)对异常进行分类并逐类处理
- 黑马程序员之ADO.NET学习笔记:网络数据的事务处理
- MyGeneration学习笔记(8) :dOOdad提供的数据绑定、特殊函数和事务处理
- ASP.NET 3.5核心编程学习笔记(42):HTTP处理程序的编写之建立数据报表
- Java开发学习笔记之六:servlet-处理客户form数据
- Flex学习笔记_05 使用组件处理数据和交互_01常用组件
- Effective C# 学习笔记(四十七)对异常进行strong guarantee 策略处理
- VS2010 学习笔记 WF4 (8) 在工作流中进行错误捕捉和处理
- c++学习系列笔记之数据处理(总括)
- javascript学习笔记(十一)对表格进行排序(包括数值、字符串、日期等数据类型)
- 黑马程序员之C#编程基础学习笔记:将一个整数数组的每一个元素进行如下的处理:如果元素是正数则将这个位置的元素的值加1,如果元素是负数则将这个位置的元素减1。
- OpenCV学习笔记(8)VS2008 MFC下使用OpenCV2.0进行简单图像处理