七月算法机器学习 8 信息论、最大熵模型与EM算法
2020-06-30 13:50
453 查看
目录
主要内容
有监督学习
先验概率与后验概率
最大似然法估计
自信息
熵：自信息的期望
互信息
信息论与机器学习的关系
最大熵原理
主要内容
统计学习基础回顾
1.后验概率 2.极大似然法(MLE)
信息论基础
1.（互）信息 2.熵、条件熵 3.交叉熵、相对熵
最大熵模型
1. 凸优化理论推导Maxent 2.与MLE的关系
EM算法
1. GMM实例 2. MLE推导EM
有监督学习
先验概率与后验概率
最大似然法估计
自信息
熵：自信息的期望
最值在三者相同的地方
互信息
信息论与机器学习的关系
最大熵原理
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- 七月算法机器学习笔记7 最大熵模型
- 七月算法机器学习笔记6 -- 工作流程与模型优化
- 机器学习常用算法：最大熵模型
- 机器学习之期望最大算法(EM算法）
- 机器学习之期望最大算法(EM算法）
- 七月算法机器学习笔记5 回归模型
- 七月算法机器学习笔记6 梯度下降法与拟牛顿法
- 机器学习系列之最大熵模型
- 最大熵模型 DFP学习算法
- 推荐｜机器学习中的模型评价、模型选择和算法选择！
- 机器学习中的概率模型和概率密度估计方法及VAE生成式模型详解之五（第3章 之 EM算法）
- 信息论中的熵（信息熵，联合熵，交叉熵，互信息）和最大熵模型
- 机器学习入门 第三课：基本原理、模型、梯度算法
- 机器学习之sklearn-KNN近邻算法分类小案例（乳腺癌预测最优模型）
- 机器学习模型（二）最大熵模型与逻辑斯蒂回归模型
- 七月算法机器学习笔记1--机器学习中的数学之数理统计和参数估计
- 七月算法机器学习笔记1 微积分与概率论
- 七月算法机器学习笔记2 数理统计与参数估计
- 机器学习入门之《统计学习方法》笔记整理——最大熵模型
- 深度 | 机器学习中的模型评价、模型选择及算法选择