Pyramid match kernel and spatial pyramid matching

1.Pyramid match kernel

Pyramid match kernel是一种利用直方图交的结果进行计算的一种核函数。

　　给定一个集合的集合X，其中的每个集合由一些d维特征向量构成。假设这些向量在一个D半径球内，且向量之间的最小的距离为d√2（这可以通过缩放得到，为什么要这个假设，因为这样的话只要直方图bins的间距小于等于1/2就可以把所有数据分在单独的bins中，每个bins至多一个元素）。

　　定义特征函数(作用在集合x上)：Ψ(x)=[H−1(x),H0(x),...,HL(x)],其中Hi(x)表示每一维bins大小为2i的直方图。L=log2D。第一个直方图每一个bins至多只有一个元素，而最后一个直方图只有一个bins。文章中说Hi(x)中,bins的数目为ri=(D2id√)d(这个貌似是不对的)。

　　

　　定义直方图的交函数：I(A,B)=∑rj=1min(Aj,Bj)。(A,B)是两个具有r个bin的直方图。

　　

　　最后的kernel为：

K~Δ(Ψ(y),Ψ(z))=∑i=0L12i(I(Hi(y),Hi(z))−I(Hi−1(y),Hi−1(z)))

　　为什么这么定义：首先，宽度大的直方图包含宽度小的，也就是说，原来在同一个bins的还在同一个bins，为了避免重复计算，所以两个直方图相减，只取增加的数目。另外，由于宽度越小的直方图越有价值，所以分配越大的权重。

　　注意点：上面的kernel是定义在两个集合上的，也就是说y,z是两个集合。那么怎么应用到图像当中去呢。我们可以利用sift等特征提取的办法。首先提取图像的sift特征，得到一系列d维的特征向量来表示图片即可。接着我们用这个kernel就可以用来配合其他利用kernel的的算法当中去。比如SVM。

2.spatial pyramid matching

见这三篇文章即可

http://blog.csdn.net/jwh_bupt/article/details/9625469

http://blog.csdn.net/hong__fang/article/details/50557090

http://blog.csdn.net/love_yanhaina/article/details/8794694

开源工具：http://people.csail.mit.edu/jjl/libpmk/