Boosting,AdaBoost ，Online Boosting,online Adaboost介绍

Boosting,AdaBoost
，Online Boosting,online Adaboost

Boosting

Boosting这其实思想相当的简单，大概是，对一份数据，建立M个模型（比如分类），一般这种模型比较简单，称为弱分类器(weak learner)每次分类都将上一次分错的数据权重提高一点再进行分类，这样最终得到的分类器在测试数据与训练数据上都可以得到比较好的成绩。

Online Boosting

在线 Boosting 算法重点研究如何替换弱分类器来学习时变的样本集,本文提出了一种新的在线 Boosting 算法,各弱学习器调节自身参数进而适应时变的环境。与以往直接替换学习器的方式不同,该方法随着新的样本集的到来调节弱分类器的参数,使分类正确率高的弱分类器有较高的权重,而分类正确率低的弱分类器的权重也会相应降低。

AdaBoost

AdaBoost 算法的主要思想之一就是在训练集上维护一套权重分布,初始化时 ,Adaboost 为训练集的每个训练例指定相同的权重 1/m。接着调用弱学习算法进行迭代学习。每次迭代后更新训练集上不同样本的权值,对训练失败的样本赋以较大的权重,也就是让学习算法在后续的学习过程中集中对比较难的训练例进行学习。

online Adaboost

offline算法最明显的特征是：首先训练模型，模型训练完就预测，预测得到一个结果，没有考虑到预测的样本对模型的影响。而online算法：首先也要训练一个简单的模型，其主要在预测的过程中学习，由于预测的样本没有保存在内存中，只有一次的学习机会。

online adaboost, 这篇文章发表于CVPR2006引用率蛮高，在tracking方面特别牛逼。

详细介绍参考：http://www.cnblogs.com/liqizhou/archive/2012/05/10/2494145.html

http://www.cnblogs.com/liqizhou/archive/2012/04/23/2466578.html