北京建设银行官方网站,银行门户网站建设,南京网站建设 小程序,设计之家logo设计HMM-维特比算法#xff08;viterbi#xff09;HMM回顾隐马科夫链解法#xff1a;维特比算法#xff08;Viterbi#xff09;HMM回顾 最终的公式可以解释主要分为两个部分#xff1a;
P(xi|yi)#xff0c;发射概率#xff0c;字面意思是从一个词性中发射/生成出某一个单…
HMM-维特比算法viterbiHMM回顾隐马科夫链解法维特比算法ViterbiHMM回顾 最终的公式可以解释主要分为两个部分
P(xi|yi)发射概率字面意思是从一个词性中发射/生成出某一个单词的概率P(yi|yi-1)转移概率表示从一个词性转移到下一个词性的概率 这两个概率都可以通过标注文档中统计得出
隐马科夫链解法维特比算法Viterbi
维特比算法其思想就是动态规划下面以HMM进行词性标注讲解维特比算法。
上图中我们需要对 “natural language processing ( nlp )” 这句话进行词性标注。最终目标是找到下图所示的最优可能路径。
求解顺序
在natural这个词中第一列我们要保留所有可能的词性因为每个词性后边都可能出现最优路径这里需要求的概率是P(“natural”|词性)这个是可以根据我们输入的训练集文档统计得出。在第二列中我们需要求解发射概率和转移概率。例如JJ我们可以分别求出JJ-NNJJ-JJJJ-VBJJ-LRBJJ-RRB的转移概率以及P(“language”|词性)的发射概率发射概率*转移概率值最大的路径即为JJ的最优路径同理我们可以对所有的词性都求出的一个最优路径。大概样子就变成了如下图所示示意图嘻嘻
注我们在这里求解发射概率与转移概率的乘积时为了避免精度损失通常会对其取对数 3. 重复第二步则最终结果如下图所示示意图嘻嘻 * 其实最终利用维特比算法得到了“词性”量词条路径从中选出概率最大路径即可
