概率图模型6:条件随机场(1)

作者:孙相国

这里写图片描述

上一节我们讲述了概率无向图模型(又叫做马尔科夫随机场)本,节主要介绍条件随机场的定义、和概率计算问题。阅读本文的前提条件是博文《概率图模型5:无向图入门》

1. 条件随机场的定义

在上一节中,我们提到过马尔科夫随机场的定义,其中最重要的就是要满足局部马尔科夫性:在给定随机变量(v)的直接邻居(W)的条件下,随机变量(v)与其他非直接邻居是独立的。
条件随机场的含义是,如果我们马尔科夫随机场中的这些节点看成是样本的标签,统称为(Y),样本的特征统称为(X),那么,在给定序列(X)的条件下,我们称条件概率分布(P(Y|X))为条件随机场(即条件为X时,Y的随机场)。

定义1:条件随机场

这里写图片描述

[P(Y_v|X,Y_u,u eq v)=P(Y_v|X,Y_w,wsim v)$$对任意节点成立,则称条件概率分布$P(Y|X)$为条件随机场。式子中$wsim v$表示图中$v$的直接邻居,$u eq v$表示结点$v$意外的所有节点。事实上,这个式子与我们上一节说到的局部马尔科夫公式是一直的:$$P(Y_v|Y_w)=P(Y_v|Y_w,Y_o) ]

在标注问题中,我们常考虑的X,Y图结构是链状的,如图:

![这里写图片描述](http://img.blog.csdn.net/20170429104644309?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvZ2l0aHViXzM2MzI2OTU1/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)

对于某一个标记结点(Y_i),它的直接邻居为(Y_{i-1},Y_{i+1}).这样,我们按照定义1,就可以得到条件随机场的一种特例:线性链条件随机场

定义2:线性链条件随机场

这里写图片描述

2.条件随机场的表示

这里写图片描述
这里写图片描述

上面的式子中(t,s)所表达的含义是什么呢?其实就是全排列中相邻连个变量的取值情况(t)和当前变量的取值情况(s)的一些假设。如果是这种情况,这些就取值为1,否则就取值为0。相当于选择函数。重要的不是(t,s),而是他们对应的系数。

这里写图片描述
这里写图片描述

3. 概率计算问题

在之前的博客中,我们曾经详细探讨过隐马尔科夫的前向后向算法,并且给出了python代码实现。在条件随机场里,概率计算问题的原理与之前是一样的。这里贴出几张图。代码可以参考之前的博文。

这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述

原文地址:https://www.cnblogs.com/xiangguosun/p/6785394.html