条件随机场学习笔记1 | 基础知识：概率

从今天开始进行条件随机场学习笔记的整理。

首先是明确一些基本知识的定义和概念。

条件随机场属于无向图的一种，由贝叶斯网络演化而来，想要学习条件随机场，首先要对概率论和图论有一定的了解。

这篇博客介绍一些概率论的基本知识。

1.概率分布

定义1：定义在 上的概率分布 是从事件空间 到实数集 的一个映射，该映射满足如下条件：

• 对所有的 ， 。
• 。
• 如果 且 。

第一个条件表明，概率均是非负的。第二个条件表示，允许所有可能输出结果的“平凡事件”最大的可能概率值1.第三个条件表示，两个不想交事件中存在一个事件发生的概率是每个事件发生概率的总和。

2.概率的解释

直观上去解释概率分布，例如，事件 的概率 量化了事件 发生的可信度。1为确信发生，0为确信不发生。其他的概率值表示位于这两个极端之间的选择。

但是这种描述并不能对概率的实际意义给出答案，对于概率，通常有两种解释。分别为频率派和主观置信度。前者将概率视为事件发生的频率，后者将概率视为一种主观置信度。

3.概率中的基本概念

3.1条件概率

明天年终总结，先写到这里，后天晚上继续。

开完组会了，回来更博。

*****************************这是一条分界线***************************************************************************

在已知事件 为真的条件下，如何改变事件 发生的概率呢？答案是利用条件概率（conditional probability）。形式上，在 给定的条件下， 的条件概率为

可以解释为，在 已知的条件下， 为真的概率是满足事件 的结果中满足事件 的结果的相对比列。

3.2 贝叶斯规则（Bayes' rule）

根据条件分布的定义，可以将上述的公式化为如下的形式

这个公式为条件概率的链式法则（chain rule）。更一般地，如果 ，… 是事件，那么

条件概率定义的另一个直接结果是贝叶斯规则

这个规则重要在于它可以由‘逆’条件概率计算条件概率。