人工智能数学基础--极大似然估计
极大似然估计
极大似然估计的原理,用一张图片来说明,如下图所示:
原理:极大似然估计是建立在极大似然原理的基础上的一个统计方法,是概率论在统计学中的应用。极大似然估计提供了一种给定观察数据来评估模型参数的方法,即:“模型已定,参数未知”。通过若干次试验,观察其结果,利用试验结果得到某个参数值能够使样本出现的概率为最大,则称为极大似然估计。
总结起来,最大似然估计的目的就是:利用已知的样本结果,反推最有可能(最大概率)导致这样结果的参数值。
如果觉得很蒙圈,举个贝叶斯原理的例子加以说明:
首先来看贝叶斯分类,我们都知道经典的贝叶斯公式,在已知先验概率,表示每种类别分布的概率; :类条件概率,表示在某种类别前提下,某事发生的概率;而 为后验概率,表示某事发生了,并且它属于某一类别的概率,有了这个后验概率,我们就可以对样本进行分类。后验概率越大,说明某事物属于这个类别的可能性越大,我们越有理由把它归到这个类别下。
问题
但是在实际问题中并不都是这样幸运的,我们能获得的数据可能只有有限数目的样本数据,而先验概率 和类条件概率(各类的总体分布) 都是未知的。根据仅有的样本数据进行分类时,一种可行的办法是我们需要先对先验概率和类条件概率进行估计,然后再套用贝叶斯分类器。
先验概率的估计较简单,1、每个样本所属的自然状态都是已知的(有监督学习);2、依靠经验;3、用训练样本中各类出现的频率估计。
类条件概率的估计(非常难),原因包括:概率密度函数包含了一个随机变量的全部信息;样本数据可能不多;特征向量x的维度可能很大等等。总之要直接估计类条件概率的密度函数很难。解决的办法就是,把估计完全未知的概率密度 转化为估计参数。这里就将概率密度估计问题转化为参数估计问题,极大似然估计就是一种参数估计方法。当然了,概率密度函数的选取很重要,模型正确,在样本区域无穷时,我们会得到较准确的估计值,如果模型都错了,那估计半天的参数,肯定也没啥意义了。
- 编程和数学基础不佳如何入门人工智能
- A. 人工智能 --- 数学基础
- 编程和数学基础不佳如何入门人工智能?
- 2018年最新python基础+人工智能+大数据基础+数学基础课程
- 学习人工智能需要哪些必备的数学基础?
- 学习人工智能需要哪些必备的数学基础?
- AI钜惠第三弹 | 人工智能的数学基础
- 学习人工智能需要哪些必备的数学基础?
- 【知识】人工智能数学基础知识
- 人工智能数学基础-概率论与数理统计
- 向AI转行——人工智能工程师必学的数学基础
- 人工智能时代,你的数学基础够用吗?
- 人工智能-数学基础评论专区
- 人工智能课程总结(一)数学基础 一些值得看的博客链接
- ML之math:人工智能之机器学习/深度学习的数学基础知识图谱(最全)
- 人工智能的数学基础之线性代数的一些概念及总结
- 2019最新网易云课堂人工智能数学基础(同步更新)
- 人工智能数学基础之线性代数
- 人工智能数学基础-内积和外积
- 人工智能需要具备哪些数学基础?