隐马尔可夫模型的原理及其应用

隐马尔可夫模型(Hidden Markov Models：HMM)是由两个随机变量序列组成，其中一个是不可观察的(即隐藏)变化状态序列，另一个是由不可观察的状态序列所产生的可观察符号序列。在过去几十年里，关于HMM的许多研究工作主要集中在一阶系统上，即一阶隐马尔可夫模型(first-order HMM：HMM1)上，HMM1作了两个重要假设： (1)状态转移的Markov假设：系统在当前时刻的状态向下一时刻所处的状态转移的状态转移概率仅仅与当前时刻的状态有关，而与以前的历史无关。 (2)输出值的Markov假设：系统在当前时刻输出观测值的概率，只取决于当前时刻的状态而与当前时刻以前的时刻所处的状态无关。 而在实际应用中，这样假设并不十分合理。为此，本文对HMM1中的两个假设条件作了改进。首先介绍了在观测噪声和马尔可夫链不相互独立的条件下改进的隐马尔可夫模型(二阶隐马尔可夫模型：second-order HMM，简记为HMM2)的结构。其次，在传统的隐马尔可夫模型的基础上，研究了改进的模型的前向-后向算法和Baum-Welch算法，并导出了改进的模型的参数估计公式。最后举例说明了改进的模型在计算语言学中的应用。