TopicModel主题模型 - EM算法

http://blog.csdn.net/pipisorry/article/details/42550815

基于概率的PLSA模型，其参数学习采用EM算法。

本文详细讲述EM算法的由来（与最大似然估计MLE的关系）、EM算法的实现思路、EM算法解决PLSA和LDA的方法。

1.概率论中的[b]EM算法：[/b]

问题：



解决方案（这里为了简单，隐含变量z的分布概率是已知不用求解的）：

先是求MLE,求最大似然函数估计值的一般步骤：

（1）写出似然函数；

（2）对似然函数取对数，并整理；

（3）求导数，令导数为0，得到似然方程；

（4）解似然方程，得到的参数即为所求；









对于例中的解释：







【ref: 概率论与数理统计教程 2ed. - 茆诗松】

2.EM算法的基本思想

假设我们需要调查我们学校的男生和女生的身高分布。在校园里随便地活捉了100个男生和100个女生，他们共200个人（也就是200个身高的样本数据）。你开始喊：“男的左边，女的右边，其他的站中间！”。然后你就先统计抽样得到的100个男生的身高。假设他们的身高是服从高斯分布N(u,∂)的。但是这个分布的均值u和方差∂2我们不知道，这两个参数就是我们要估计的。记作θ=[u,
∂]T。

用数学的语言来说就是：在学校那么多男生（身高）中，我们独立地按照概率密度p(x|θ)抽取100了个（身高），组成样本集X，我们想通过样本集X来估计出未知参数θ。这里概率密度p(x|θ)我们知道了是高斯分布N(u,∂)的形式，其中的未知参数是θ=[u,
∂]T。抽到的样本集是X={x1,x2,…,xN}，其中xi表示抽到的第i个人的身高，这里N就是100，表示抽到的样本个数。用MLE解决的公式：



通过抽取得到的那100个男生的身高和已知的其身高服从高斯分布，我们通过最大化其似然函数，就可以得到了对应高斯分布的参数θ=[u,
∂]T了。那么，对于我们学校的女生的身高分布也可以用同样的方法得到了。

再回到例子本身，如果没有“男的左边，女的右边，其他的站中间！”这个步骤，或者说我抽到这200个人中，某些男生和某些女生一见钟情，纠缠起来了（或者都戴了***什么的）。那现在这200个人已经混到一起了，这时候，你从这200个人（的身高）里面随便给我指一个人（的身高），我都无法确定这个人（的身高）是男生（的身高）还是女生（的身高）。也就是说你不知道抽取的那200个人里面的每一个人到底是从男生的那个身高分布里面抽取的，还是女生的那个身高分布抽取的。用数学的语言就是，抽取得到的每个样本都不知道是从哪个分布抽取的。

这个时候，对于每一个样本或者你抽取到的人，就有两个东西需要猜测或者估计的了，一是这个人是男的还是女的？二是男生和女生对应的身高的高斯分布的参数是多少？ 只有当我们知道了哪些人属于同一个高斯分布的时候，我们才能够对这个分布的参数作出靠谱的预测，例如刚开始的最大似然所说的，但现在两种高斯分布的人混在一块了，我们又不知道哪些人属于第一个高斯分布，哪些属于第二个，所以就没法估计这两个分布的参数。反过来，只有当我们对这两个分布的参数作出了准确的估计的时候，才能知道到底哪些人属于第一个分布，那些人属于第二个分布。

这就成了一个先有鸡还是先有蛋的问题了。（这是一个哲学问题。当然了，后来科学家说先有蛋，因为鸡蛋是鸟蛋进化的）。为了解决这个你依赖我，我依赖你的循环依赖问题，总得有一方要先打破僵局，说，不管了，我先随便整一个值出来，看你怎么变，然后我再根据你的变化调整我的变化，然后如此迭代着不断互相推导，最终就会收敛到一个解。

EM的意思是“Expectation Maximization”，在我们上面这个问题里面，我们是先随便猜一下男生（身高）的正态分布的参数：如均值和方差是多少。例如男生的均值是1米7，方差是0.1米（当然了，刚开始肯定没那么准），然后计算出每个人更可能属于第一个还是第二个正态分布中的，这个是属于Expectation一步。

有了每个人的归属，已经大概地按上面的方法将这200个人分为男生和女生两部分，我们就可以根据之前说的最大似然那样，通过这些被大概分为男生的n个人来重新估计第一个分布的参数，女生的那个分布同样方法重新估计。这个是Maximization。

然后，当我们更新了这两个分布的时候，每一个属于这两个分布的概率又变了，那么我们就再需要调整E步……如此往复，直到参数基本不再发生变化为止。

这里把每个人（样本）的完整描述看做是三元组yi={xi,zi1,zi2}，其中，xi是第i个样本的观测值，对应身高，可观测值。zi1和zi2表示男生和女生这两个高斯分布中哪个被用来产生值xi，就是说这两个值标记这个人到底是男生还是女生（的身高分布产生的）。这两个值我们是不知道的，是隐含变量。确切的说，zij在xi由第j个高斯分布产生时值为1，否则为0。例如一个样本的观测值为1.8，然后他来自男生的那个高斯分布，那么我们可以将这个样本表示为{1.8,
1, 0}。如果zi1和zi2的值已知，也就是说每个人我已经标记为男生或者女生了，那么我们就可以利用上面说的最大似然算法来估计他们各自高斯分布的参数。但是它们未知，因此我们只能用EM算法。

假设已经知道这个隐含变量了，哎，那么求解那个分布的参数是不是很容易了，直接按上面说的最大似然估计就好了。我们可以先给这个分布弄一个初始值，然后求这个隐含变量的期望，当成是这个隐含变量的已知值，那么现在就可以用最大似然求解那个分布的参数了吧，那假设这个参数比之前的那个随机的参数要好，它更能表达真实的分布，那么我们再通过这个参数确定的分布去求这个隐含变量的期望，然后再最大化，得到另一个更优的参数，……迭代，就能得到一个皆大欢喜的结果了。

迭代时咋知道新的参数的估计就比原来的好啊？为什么这种方法行得通呢？有没有失效的时候呢？什么时候失效呢？用到这个方法需要注意什么问题呢？这些问题就是数学家需要解决的问题。在数学上是可以稳当的证明的或者得出结论的。

【从最大似然到EM算法浅解】

3. Jensen不等式

优化理论中:设f是定义域为实数的函数，如果对于所有的实数x，

，那么f是凸函数。当x是向量时，如果其hessian矩阵H是半正定的（

），那么f是凸函数。如果

或者

，那么称f是严格凸函数。

Jensen不等式表述如下：

如果f是凸函数，X是随机变量，那么



特别地，如果f是严格凸函数，那么

当且仅当

，也就是说X是常量。

这里我们将

简写为

。





图中，实线f是凸函数，X是随机变量，有0.5的概率是a，有0.5的概率是b。（就像掷硬币一样）。X的期望值就是a和b的中值了，图中可以看到

成立。

当f是（严格）凹函数当且仅当-f是（严格）凸函数。

Jensen不等式应用于凹函数时，不等号方向反向，也就是



4. EM算法
给定的训练样本是

，样例间独立，我们想找到每个样例隐含的类别z，能使得p(x,z)最大。

p(x,z)的最大似然估计如下：





第一步是对极大似然取对数，第二步是对每个样例的每个可能类别z求联合分布概率和。但是直接求

一般比较困难，因为有隐藏变量z存在，但是一般确定了z后，求解就容易了。

EM是一种解决存在隐含变量优化问题的有效方法。竟然不能直接最大化

，我们可以不断地建立

的下界（E步），然后优化下界（M步）。【[b]E步固定

，优化

，M步固定

优化

】[/b]

对于每一个样例i，让

表示该样例隐含变量z的某种分布（这里隐含变量z的分布概率是未知的），

满足的条件是

。（如果z是连续性的，那么

是概率密度函数，需要将求和符号换做积分符号）。比如要将班上学生聚类，假设隐藏变量z是身高，那么就是连续的高斯分布。如果按照隐藏变量是男女，那么就是伯努利分布了。

建立

的下界（E步）：

可以由前面阐述的内容得到下面的公式：





上述公式推导：

（1）到（2）比较直接，就是分子分母同乘以一个相等的函数。（2）到（3）利用了Jensen不等式，考虑到

是凹函数（二阶导数小于0），而且




就是

(Zi的函数)的期望

Lazy Statistician规则: 设Y是随机变量X的函数 （g是连续函数），那么 （1） X是离散型随机变量，它的分布律为 ，k=1,2,…。若 绝对收敛，则有 （2） X是连续型随机变量，它的概率密度为 ，若 绝对收敛，则有

对应于上述问题，Y是

，X是

，

是

，g是

到

的映射。这样解释了式子（2）中的期望

根据凹函数时的Jensen不等式：





可以得到（3）。

对于

的选择，有多种可能，那种更好的？假设

已经给定（θ只是第i步迭代时的估计已知值？），那么

的值就决定于

和

了。

我们可以通过调整这两个概率使下界不断上升，以逼近

的真实值，那么什么时候算是调整好了呢？当不等式变成等式时，说明我们调整后的概率能够等价于

了。按照这个思路，我们要找到等式成立的条件。根据Jensen不等式，要想让等式成立，需要让随机变量变成常数值，这里得到：





c为常数，不依赖于

。对此式子做进一步推导，我们知道

，那么也就有

，（多个等式分子分母相加不变，这个认为每个样例的两个概率比值都是c），那么有下式：





至此，我们推出了在固定其他参数

后，

的计算公式就是后验概率{里面主要包含要求的参数，要初始化}，解决了

如何选择的问题（保证了在给定

时，Jensen不等式中的等式成立，取得下界）。

优化下界（M步）：

接下来的M步，就是在给定

后，调整

，去极大化

的下界（在固定

后，下界还可以调整的更大）。

一般的EM算法的步骤：

循环重复直到收敛 { （E步）对于每一个i，计算 （M步）计算

{

}

那么究竟怎么确保EM收敛？假定

和

是EM第t次和t+1次迭代后的结果。

如果我们证明

，也就是说极大似然估计单调增加，那么最终我们会到达最大似然估计的最大值。下面来证明，选定

后，我们得到E步





这一步保证了在给定

时，Jensen不等式中的等式成立，也就是





然后进行M步，固定

，并将

视作变量，对上面的

求导后，得到

，这样经过一些推导会有以下式子成立：





解释第（4）步，得到

时，只是最大化

，也就是

的下界，而没有使等式成立，等式成立只有是在固定

，并按E步得到

时才能成立。

况且根据我们前面得到的下式，对于所有的

和

都成立





第（5）步利用了M步的定义，M步就是将

调整到

，使得下界最大化。因此（5）成立。（自证明？）

（6）是之前的等式结果

这样就证明了

会单调增加。一种收敛方法是

不再变化，还有一种就是变化幅度很小。

再次解释一下（4）、（5）、（6）。首先（4）对所有的参数都满足，而其等式成立条件只是在固定

，并调整好Q时成立，而第（4）步只是固定Q，调整

，不能保证等式一定成立。（4）到（5）就是M步的定义，（5）到（6）是前面E步所保证等式成立条件。也就是说E步会将下界拉到与

一个特定值（这里

）一样的高度，而此时发现下界仍然可以上升，因此经过M步后，下界又被拉升，但达不到与

另外一个特定值一样的高度，之后E步又将下界拉到与这个特定值一样的高度，重复下去，直到最大值。

如果我们定义





从前面的推导中我们知道

，EM可以看作是J的坐标上升法，E步固定

，优化

，M步固定

优化

。

总结：EM的算法流程：



初始化分布参数θ；

重复以下步骤直到收敛：

E步骤：根据参数初始值或上一次迭代的模型参数来计算出隐性变量的后验概率，其实就是隐性变量的期望。作为隐藏变量的现估计值：




M步骤：将似然函数最大化以获得新的参数值：






5. 重新审视混合高斯模型
我们已经知道了EM的精髓和推导过程，再次审视一下混合高斯模型。之前提到的混合高斯模型的参数

和

计算公式都是根据很多假定得出的，有些没有说明来由。为了简单，这里在M步只给出

和

的推导方法。

E步很简单，按照一般EM公式得到：





简单解释就是每个样例i的隐含类别

为j的概率可以通过后验概率计算得到。

在M步中，我们需要在固定

后最大化最大似然估计，也就是





这是将

的k种情况展开后的样子，未知参数

和

。

固定

和

，对

求导得





等于0时，得到





这就是我们之前模型中的

的更新公式。

然后推导

的更新公式。看之前得到的





在

和

确定后，分子上面的一串都是常数了，实际上需要优化的公式是：





需要知道的是，

还需要满足一定的约束条件就是

。

这个优化问题我们很熟悉了，直接构造拉格朗日乘子。





还有一点就是

，但这一点会在得到的公式里自动满足。

求导得，





等于0，得到





也就是说

再次使用

，得到





这样就神奇地得到了

。

那么就顺势得到M步中

的更新公式：








的推导也类似，不过稍微复杂一些，毕竟是矩阵。结果在之前的混合高斯模型中已经给出。

6. 总结
如果将样本看作观察值，潜在类别看作是隐藏变量，那么聚类问题也就是参数估计问题，只不过聚类问题中参数分为隐含类别变量和其他参数，这犹如在x-y坐标系中找一个曲线的极值，然而曲线函数不能直接求导，因此什么梯度下降方法就不适用了。但固定一个变量后，另外一个可以通过求导得到，因此可以使用坐标上升法，一次固定一个变量，对另外的求极值，最后逐步逼近极值。对应到EM上，E步估计隐含变量，M步估计其他参数，交替将极值推向最大。EM中还有“硬”指定和“软”指定的概念，“软”指定看似更为合理，但计算量要大，“硬”指定在某些场合如K-means中更为实用（要是保持一个样本点到其他所有中心的概率，就会很麻烦）。

另外，EM的收敛性证明方法确实很牛，能够利用log的凹函数性质，还能够想到利用创造下界，拉平函数下界，优化下界的方法来逐步逼近极大值。而且每一步迭代都能保证是单调的。最重要的是证明的数学公式非常精妙，硬是分子分母都乘以z的概率变成期望来套上Jensen不等式。



附：

1.EM算法另一种理解

坐标上升法（Coordinate ascent）：



图中的直线式迭代优化的路径，可以看到每一步都会向最优值前进一步，而且前进路线是平行于坐标轴的，因为每一步只优化一个变量。

这犹如在x-y坐标系中找一个曲线的极值，然而曲线函数不能直接求导，因此什么梯度下降方法就不适用了。但固定一个变量后，另外一个可以通过求导得到，因此可以使用坐标上升法，一次固定一个变量，对另外的求极值，最后逐步逼近极值。对应到EM上，E步：固定θ，优化Q；M步：固定Q，优化θ；交替将极值推向最大。



2.EM的应用

EM算法有很多的应用，最广泛的就是GMM混合高斯模型、聚类、HMM等等。


3.参考推荐

Mitchell的Machine Learning书中也举了一个EM应用的例子，明白地说就是将班上学生的身高都放在一起，要求聚成两个类。这些身高可以看作是男生身高的高斯分布和女生身高的高斯分布组成。因此变成了如何估计每个样例是男生还是女生，然后在确定男女生情况下，如何估计均值和方差，里面也给出了公式，有兴趣可以参考。

M. Bishop - PatternRecognitionAndMachineLearning书中也有讲关于EM算法原理的，比较详细

from:/article/1368067.html

ref:
http://www.cnblogs.com/jerrylead/archive/2011/04/06/2006936.html