熵、联合熵、条件熵、交叉熵与相对熵意义
2017-02-14 14:46
141 查看
熵:H(X)=−∑xp(x)lnp(x)
衡量不确定性的度量
联合熵: H(X,Y)=−∑x,yp(x,y)lnp(x,y)
(X,Y)在一起时的不确定性度量
条件熵: H(X,Y)−H(X)=−∑x,yp(x,y)lnp(y|x)
X确定时,Y的不确定性度量
在X发生是前提下,Y发生新带来的熵。
交叉熵:H(p,q)=−∑xp(x)lnq(x)
衡量p与q的相似性
相对熵: KL(p||q)=−∑xp(x)lnq(x)p(x)
p与q不相似的度量
KL(p||q)=−∑xp(x)lnq(x)p(x)
衡量不确定性的度量
联合熵: H(X,Y)=−∑x,yp(x,y)lnp(x,y)
(X,Y)在一起时的不确定性度量
条件熵: H(X,Y)−H(X)=−∑x,yp(x,y)lnp(y|x)
X确定时,Y的不确定性度量
在X发生是前提下,Y发生新带来的熵。
交叉熵:H(p,q)=−∑xp(x)lnq(x)
衡量p与q的相似性
相对熵: KL(p||q)=−∑xp(x)lnq(x)p(x)
p与q不相似的度量
KL(p||q)=−∑xp(x)lnq(x)p(x)
相关文章推荐
- 熵、联合熵、条件熵、交叉熵与相对熵意义
- 计算语言学之条件熵与联合熵、相对熵与交叉熵的应用
- duilib各种布局的作用,相对布局与绝对布局的的意义与用法
- 01-7类LSA的意义和产生条件--上
- 熵、信息熵、交叉熵、相对熵、条件熵、互信息、条件熵的贝叶斯规则
- MySQL学习----MySQL 连接和联合----15MySQL 交叉连接、内连接和外连接
- 联合主键条件过滤查询,记录一点点
- jquery 中多条件选择器,相对选择器,层次选择器的区别
- 联合分布 & 条件分布 & 边缘分布
- 条件编译 #ifndef、#def、#endif 等宏的意义及其用法
- jquery 联合选择器,相对选择和层级选择器__多类交集选择器,多属性选择器
- 信息熵、交叉熵与相对熵
- 概率图模型(01): 概述 & 三种分布 (边缘 & 联合 & 条件)
- 通俗的解释交叉熵与相对熵
- duilib各种布局的作用,相对布局与绝对布局的的意义与使用方法
- EF联合查询,如何设置条件过滤从表数据
- 联合查询时过滤条件放在ON之后和放在WHERE之后的区别
- jquery中的多条件选择,相对选择和层次选择
- 条件概率分布、联合概率分布和边缘概率分布
- Tip:判断条件与数据库相关时,需要注意什么。要尊重字段原本的意义