压缩感知（Compressive Sensing）学习之（一）

压缩感知（压缩传感，Compressive Sensing）理论是近年来信号处理领域诞生的一种新的信号处理理论，由D. Donoho(美国科学院院士)、E. Candes(Ridgelet, Curvelet创始人)及华裔科学家T. Tao(2006年菲尔兹奖获得者)等人提出，自诞生之日起便极大地吸引了相关研究人员的关注。网站http://dsp.rice.edu/cs上可以获取大量相关的论文。
有关压缩感知，有两个科普文章，讲得很通俗易懂，可以很好地介绍了压缩感知：

http://www.cvchina.info/2010/06/08/compressed-sensing-2/

那什么叫压缩感知？为什么它的出现吸引了那么多的目光？

还记得我们在信号与信息处理有关课程里面必讲的一个知识吗？它可谓是现代数字信号处理系统理论建立的一个功臣之一。没错，就是能将物理世界和数字世界建立连接的采样定理：奈奎斯特采样定理（Shannon-Nyquist采样定理）。其要求：在进行模拟/数字信号的转换过程中，当采样频率fs.max大于信号中最高频率fmax的2倍时，采样之后的数字信号完整地保留了原始信号中的信息。

而压缩感知的出现，告诉我们：如果信号在某一个正交空间具有稀疏性（即可压缩性），就能以较低的频率（远低于奈奎斯特采样频率）采样该信号，并可能以高概率精确的重建该信号。

在上面所说的一篇科普文章中提到：所谓压缩感知，最核心的概念在于试图从原理上降低对一个信号进行测量的成本。比如说，一个信号包含一千个数据，那么按照传统的信号处理理论，至少需要做一千次测量才能完整的复原这个信号。这就相当于是说，需要有一千个方程才能精确地解出一千个未知数来。但是压缩感知的想法是假定信号具有某种特点（比如文中所描述得在小波域上系数稀疏的特点），那么就可以只做三百次测量就完整地复原这个信号（这就相当于只通过三百个方程解出一千个未知数）。

在cvchina里面有一篇很热的文章《稀疏表达：向量、矩阵与张量》，呵呵，有点深，我看不懂，但里面开篇的几张图像吸引了我：

首先是图像恢复，由左侧图像恢复出右侧结果：



然后是类似的图像inpainting



然后是图像去模糊，左上为输入模糊图像，右下为输出清晰图像及估计的相机运动（其实是PSF），中间均为迭代过程:



再然后是物体检测（自行车），左侧输入图像，中间为位置概率图，右侧为检测结果



当然我个人还推荐Yi Ma的sparse face，这个在对抗噪声的效果上很棒，比如下图中左侧的那张噪声图像（你能辨认是哪位不？这方法可以！）



上面的结果都很amazing，但是怎么实现的我就不知道了。原博主既然摆在那，就表明了它是稀疏表达的功劳了。

由于篇幅有点长，所以关于压缩感知理论在下篇介绍。