前言

从机器学习到模式识别，已经遇到了很多次EM算法，但是好像并没有真正的理解，本篇文章将从浅到深，从通俗的语言到数学推导来讲解这个算法。
（这里默认大家都已经掌握了极大似然的思想）

简介

EM算法（Expectation-maximization algorithm），期望最大算法，是在概率模型中寻找参数最大似然估计或者最大后验估计的算法，其中概率模型依赖于无法观测的隐性变量。

EM算法经过两个步骤交替进行计算：

1. 计算期望（E），利用对隐藏变量的现有估计值，计算其最大似然估计值；
2. 最大化（M），最大化在E步上求得的最大似然值来计算参数的值。M步上找到的参数估计值被用于下一个E步计算中，这个过程不断交替进行。

示例1

假如有两枚硬币A和B，随机抛掷后正面朝上的概率为$P_A,P_B$。假如我们已轮流抛掷硬币A，B，每一轮抛五次，进行5轮，所得结果如下：

在这个问题中，我们要做的是极大似然估计，即通过一观测到的这5行结果，来估计参数$P_A,P_B$。
以最大似然的思想，$P_A$直接等与$\frac{正的次数}{总次数}$时达到最大似然。

现在，引入隐变量，就是说我们并不知道每一轮抛的是硬币A or B，只知道结果，也就是如下表格：

即类似如下的隐马尔科夫模型：

这种情况下，我们该如何去最大似然$P_A,P_B$，如果还按照之前的思想，那需要知道每一轮抛的是哪个硬币，但是想要知道每一轮抛的那个硬币，就需要知道$P_A,P_B$才能去做似然估计，看起来是一个死锁无法解决的问题，接下来就正式引入EM算法，一起来领略下它的美丽：

EM算法的思想就是，先随机初始化$P_A,P_B$，用初始化的$P_A,P_B$去估计每一轮抛的哪一个硬币，然后再根据所得结果更新$P_A,P_B$，重复此过程直至收敛。

即：

1. 随机初始$P_A=0.2,P_B=0.7$；
2. 求解每一轮抛哪个硬币使得到对应结果的概率最大：

如上表格，根据极大似然的思想选择对概率大的，则：
第1轮中最有可能的是硬币B
第2轮中最有可能的是硬币A
第3轮中最有可能的是硬币A
第4轮中最有可能的是硬币B
第5轮中最有可能的是硬币A；

3. 更新$P_A,P_B$分别为$\frac{5}{15},\frac{6}{10}$；
4. 重复上述三个步骤直至收敛。

示例2

接下来举一个更复杂的例子，即EM求解隐马尔科夫模型的参数（HMM三大问题中的模型参数的学习问题）。

记一个隐马尔科夫模型为$(A,B,\pi )$，其中A为状态转移矩阵，B为观测（发射）概率矩阵，$\pi$为初始状态概率向量，I为状态序列，O为观测序列（一个观测序列可能有多种对应的状态序列）图示如下：

我们需要做的是，已知观测序列，估计参数$\lambda =(A,B,\pi )$，基于EM算法的Baum-Welch求解思想如下：

我们要最大化的目标是：
$$P(O|\lambda )=\sum _{I}P(O,I|\lambda )=\sum _{I}P(O|\lambda ,I)P(I|\lambda )$$

算法中的Q函数定义如下：
$$Q(\lambda ,{\lambda }^{(i)})=E_z[logP(I,O|\lambda )|O,{\lambda }^{(i)}]$$
即：
$$Q(\lambda ,{\lambda }^{(i)})=\sum _{I}logP(I,O|\lambda )P(O,I|{\lambda }^{(i)})$$
其中迭代求解的过程就是在不断的最大化Q函数。
1.初始化${\lambda }_0$，计算所有I情况下的$P(O,I|{\lambda }^{(i)})$并带入Q函数，（需要明确的就是当${\lambda }_0$和观测序列已经知道的时候。所有可能的状态序列的概率是可以算出来的，这里不再过多解释）
2.Q函数可分解为三项，分别对每一项用拉格朗日求解极大值点，得到参数更新公式。

（这里先大概了解下大概思想就好，具体的推导见Baum-Welch的推导）

EM算法

接下来我们正式的进入一般形式的EM算法。
推导流程可见这篇博客，非常清晰
EM算法

正文

本篇文章将从另一个角度说明EM算法的E和M步骤都增大了对数似然函数的一个良好定义的下界的值，并且完整的EM循环会使得模型的参数向着使对数似然函数增大的方向进行改变（除非已经收敛），如下：
记观测变量为X，隐变量为Z，参数$\theta$，我们最大化的目标函数是(通俗的解释就是说观测变量可能有多种对应的状态序列，那我们求和即可)：
$$P(X|\theta )=\sum _{Z}P(X,Z|\theta )$$
引入一个定义在隐变量上的分布$q(Z)$
易推导下式成立：
$$lnP(X|\theta )=L(q,\theta )+KL(q||p)$$
其中：$$L(q,\theta )=\sum _{Z}q(Z)ln\{\frac{p(X,Z|\theta )}{q(Z)}\}$$
$$KL(q||p)=-\sum _{Z}q(Z)ln\{\frac{p(Z|X,\theta )}{q(Z)}\}$$
(把这两个式子拆开待会原式就可以证出来)

我们可以发现，$KL(q||p)$表示的其实是$q(Z)$和后验分布$p(Z|X,\theta )$之间的KL散度，KL散度恒大于等于零，当且仅当两个概率分布相等时取零（由吉布斯等式可证），也就是说KL$\ge 0$,
即,$$lnP(X|\theta )\ge L(q,\theta )$$
表示$L(q,\theta )$是$lnP(X|\theta )$的一个下界。

而EM就是在不断优化这个下界，从而达到最大化目标函数的效果。
（这个下届是个凹函数）

E步

在E步中，q分布被更新为当前参数值下的后验概率分布，即KL式等于0，这使得下界上移到与对数函似然函数值相同的位置。

M步

在M步，固定E步得到的$q(Z)$，下界关于参数最大化从而更新$\theta$。由于KL散度非负，故对数似然函数的增量至少与下界的增量相等。

综上，个人理解:观测序列已知，E步其实就是初始化参数，然后根据参数和观测序列得到隐变量的分布或者说所有可能的状态序列；M步就是根据E步得到的状态序列以及已有的观测序列去更新参数，从而反复迭代，直至不变收敛。