机器学习算法--EM算法

EM算法

一般来说,如果我们知道特征和标签,即知道数据的分布但是模型的参数未知的情况下,我们可以使用极大似然估计来估计模型的参数。

但是如果标签是未知的,一般我们把未知的标签称为隐变量,那就不能用极大似然估计估计出模型的参数

EM算法是一种解决存在隐含变量优化问题的有效方法。EM算法是期望极大(Expectation Maximization)算法的简称,EM算法是一种迭代型的算法,在每一次的迭代过程中,主要分为两步:即求期望(Expectation)步骤和最大化(Maximization)步骤。

准备知识

EM算法原理

EM算法步骤如下

Share