拉普拉斯平滑处理 Laplace Smoothing
2017-08-31 12:34
176 查看
背景:为什么要做平滑处理?
零概率问题,就是在计算实例的概率时,如果某个量x,在观察样本库(训练集)中没有出现过,会导致整个实例的概率结果是0。在文本分类的问题中,当一个词语没有在训练样本中出现,该词语调概率为0,使用连乘计算文本出现概率时也为0。这是不合理的,不能因为一个事件没有观察到就武断的认为该事件的概率是0。
拉普拉斯的理论支撑
为了解决零概率的问题,法国数学家拉普拉斯最早提出用加1的方法估计没有出现过的现象的概率,所以加法平滑也叫做拉普拉斯平滑。
假定训练样本很大时,每个分量x的计数加1造成的估计概率变化可以忽略不计,但可以方便有效的避免零概率问题。
应用举例
假设在文本分类中,有3个类,C1、C2、C3,在指定的训练样本中,某个词语K1,在各个类中观测计数分别为0,990,10,K1的概率为0,0.99,0.01,对这三个量使用拉普拉斯平滑的计算方法如下:
1/1003 = 0.001,991/1003=0.988,11/1003=0.011
零概率问题,就是在计算实例的概率时,如果某个量x,在观察样本库(训练集)中没有出现过,会导致整个实例的概率结果是0。在文本分类的问题中,当一个词语没有在训练样本中出现,该词语调概率为0,使用连乘计算文本出现概率时也为0。这是不合理的,不能因为一个事件没有观察到就武断的认为该事件的概率是0。
拉普拉斯的理论支撑
为了解决零概率的问题,法国数学家拉普拉斯最早提出用加1的方法估计没有出现过的现象的概率,所以加法平滑也叫做拉普拉斯平滑。
假定训练样本很大时,每个分量x的计数加1造成的估计概率变化可以忽略不计,但可以方便有效的避免零概率问题。
应用举例
假设在文本分类中,有3个类,C1、C2、C3,在指定的训练样本中,某个词语K1,在各个类中观测计数分别为0,990,10,K1的概率为0,0.99,0.01,对这三个量使用拉普拉斯平滑的计算方法如下:
1/1003 = 0.001,991/1003=0.988,11/1003=0.011
相关文章推荐
- 拉普拉斯平滑处理 Laplace Smoothing
- 拉普拉斯平滑处理 Laplace Smoothing
- 平滑处理--拉普拉斯(Laplace Smoothing)
- 拉普拉斯平滑处理 Laplace Smoothing
- 拉普拉斯平滑处理 Laplace Smoothing
- 斯坦福第五章:拉普拉斯平滑处理
- Naive Bayes与Laplace smoothing 朴素贝叶斯算法拉普拉斯平滑
- Laplace(拉普拉斯)平滑
- 神奇的拉普拉斯平滑(Laplacian Smoothing)及其在正则化上的应用~
- 基于Eigen库的离散拉普拉斯平滑(Discretized Laplacian Smoothing)的C++非稀疏矩阵实现
- 神奇的拉普拉斯平滑(Laplacian Smoothing)及其在正则化上的应用~
- 斯坦福第五章:拉普拉斯平滑处理
- 图像处理滤波器(三)——高斯平滑滤波器(Gaussian Smoothing Filter)
- OpenCV(4)-图像掩码操作(卷积)--平滑处理
- 【练习5.3】高斯平滑_调整调整4个参数的处理效果对比
- 几个简单的数据点平滑处理算法
- 一维加噪信号的平滑处理(2)
- 【计算机视觉】【图像处理】图像平滑-双边滤波+联合双边滤波+导向滤波
- opencv图像边缘检测使用,先做平滑处理在进行边缘检测
- 【OpenCV】图像处理(一)平滑处理