Data Science, Statistics, Dynamic Programming, Machine Learning.
兩者交替求解，不斷逼近函數可能的下界(E-Step)，並在給定下界的情況下對其進行最佳化(M-step)，藉此逼近目標函數。 放在 Baum-Welch 演算法，EM 算法的目標為求解一個聯合分布 P(O,H|λ)基於條件機率P(I|O,λ’)的期望值，其中λ’為當前模型參數，接著不斷透過 M-Step 更新模型參數直到收斂；直觀意涵是，當我們手頭資訊僅有觀測序列 O，以及一個被初始化的參數λ’時，我可以先透過 E-Step 找出該條件下的聯合分配，根據該分配去更新模型參數直到無法更新為止。 以上是簡單的表達式，接下來就要進入到實際計算的部分，首先，我們知道M-Step 可以改寫成 :