压缩感知(一)
2017-02-15 16:58
260 查看
压缩感知的提出基于一个非常朴素的问题,Ax=b能否有唯一解,当方程个数大于未知量个数时,这是肯定的。
但是当m<<n时,特别是当所求的x的值只集中在某些区域,就很难获得所需的答案。
当x满足一定的稀疏性时,就能够获得一定的唯一解。其中s-稀疏向量的定义如下
∑s:={x∈ℝN:||x||0≤s}
压缩感知就是基于对原信号的观测y,其中y=Θx0,y∈ℝn,x∈ℝN,在n<<N的情况下,借助x0的稀疏性,反求原信号x。
P0:minx∈ℝN||x||0s.t.Θx=y
如果我们对Θ作一定的限制,由P0就可以精确恢复x信号:
定理 假定Θ∈ℝn∗N是一个任2s列均线性无关的矩阵。我们选择P0解码。那么对于任意的x0∈∑s,
Δ(Θx0)=x0
上述定理即表示为了恢复嵌入在N维空间中的s-稀疏向量,需要2s次的观测。但是实际上P0是一个NP完全问题,为此,付出更多观测代价,找到以下更有效的算法,
P1:minx∈ℝN||x||1s.t.Θx=y
上述规划问题可以转换为以下形式,
P2:mint∈ℝNt1+t2+...+tNs.t.Θx=yti≥0,i=1,2,...,N.−tj≤xj≤tj
为了得到P0和P1等价的条件,首先定义指标集T⊂{1,...,N}及向量v∈ℝN,将v中指标在T中的元素取出构成新的向量vT∈ℝ#T。
定义 称Θ满足s-阶零空间性质,如果任意的v∈kerΘ,均有
||vT||1≤||vTc||1,对任意的T⊂{1,...,N},#T=s.
上述定义可以理解为kerΘ的非零元素较为均匀地分布,而不是集中在某s个元素上。
定义 如果选择P1的解法,Θ满足且仅满足s-阶零空间性质,那么,对于任意的x0∈∑s,
Δ(Θx0)=x0
但是给定一个矩阵的零空间性质很难在理论或者计算上证明,因此提出了另一种刻画方式矩阵的RIP性质(RestrictedIsometryProperty)。
定义 如果存在常数σs∈[0,1)使得
(1−σs)||x||2≤||Θx||2≤(1−σs)||x||2
对任意的x∈∑s成立,其中σs被称为RIP常数。上述定义可以理解为矩阵ΘTTΘT所有特征值位于区间[1−σs,1+σs],刻画了矩阵Θ中任取s列所形成矩阵的正交程度。
下面给出P1能精确s-稀疏信号的充分条件,
定理 假定矩阵Θ满足2s阶RIP性质,且RIP常数σ2s≤2√−1,则在P1中,对任意的x0∈∑s,
Δ(Θx0)=x0
对于非稀疏信号,也能进行较好地恢复。
定理 假定矩阵Θ满足2s阶RIP性质,且RIP常数σ2s≤2√−1,则在P1中,对任意的x0∈ℝN,
||Δ(Θx0)−x0||2≤C0σs(x)1s√,其中,C0为常数,σs(x)X:=minz∈∑s||x−z||X,x∈ℝNσs(K)X:=minx∈kσs(x)X,K⊂ℝN
那么对于P1,为了精确恢复所有s-稀疏信号,观测次数n应该为多少?
定理 假定Θ∈ℝn∗N,且使用P1恢复。那么,如果,
Δ(Θx0)=x0,对任意x∈∑2s,
则
n≥c1slog(Nc2s),其中c1=1log9,c2=4
本作品采用知识共享署名-相同方式共享 4.0 国际许可协议进行许可
但是当m<<n时,特别是当所求的x的值只集中在某些区域,就很难获得所需的答案。
当x满足一定的稀疏性时,就能够获得一定的唯一解。其中s-稀疏向量的定义如下
∑s:={x∈ℝN:||x||0≤s}
压缩感知就是基于对原信号的观测y,其中y=Θx0,y∈ℝn,x∈ℝN,在n<<N的情况下,借助x0的稀疏性,反求原信号x。
原理
Rn到RN的映射记为Δ,则还原效果可以表示为||x0−Δ(Θx0)||X,其中X表示一定范数。当x0中非0元素较少时,一种自然的解码即是如下规划问题的解P0:minx∈ℝN||x||0s.t.Θx=y
如果我们对Θ作一定的限制,由P0就可以精确恢复x信号:
定理 假定Θ∈ℝn∗N是一个任2s列均线性无关的矩阵。我们选择P0解码。那么对于任意的x0∈∑s,
Δ(Θx0)=x0
上述定理即表示为了恢复嵌入在N维空间中的s-稀疏向量,需要2s次的观测。但是实际上P0是一个NP完全问题,为此,付出更多观测代价,找到以下更有效的算法,
P1:minx∈ℝN||x||1s.t.Θx=y
上述规划问题可以转换为以下形式,
P2:mint∈ℝNt1+t2+...+tNs.t.Θx=yti≥0,i=1,2,...,N.−tj≤xj≤tj
为了得到P0和P1等价的条件,首先定义指标集T⊂{1,...,N}及向量v∈ℝN,将v中指标在T中的元素取出构成新的向量vT∈ℝ#T。
定义 称Θ满足s-阶零空间性质,如果任意的v∈kerΘ,均有
||vT||1≤||vTc||1,对任意的T⊂{1,...,N},#T=s.
上述定义可以理解为kerΘ的非零元素较为均匀地分布,而不是集中在某s个元素上。
定义 如果选择P1的解法,Θ满足且仅满足s-阶零空间性质,那么,对于任意的x0∈∑s,
Δ(Θx0)=x0
但是给定一个矩阵的零空间性质很难在理论或者计算上证明,因此提出了另一种刻画方式矩阵的RIP性质(RestrictedIsometryProperty)。
定义 如果存在常数σs∈[0,1)使得
(1−σs)||x||2≤||Θx||2≤(1−σs)||x||2
对任意的x∈∑s成立,其中σs被称为RIP常数。上述定义可以理解为矩阵ΘTTΘT所有特征值位于区间[1−σs,1+σs],刻画了矩阵Θ中任取s列所形成矩阵的正交程度。
下面给出P1能精确s-稀疏信号的充分条件,
定理 假定矩阵Θ满足2s阶RIP性质,且RIP常数σ2s≤2√−1,则在P1中,对任意的x0∈∑s,
Δ(Θx0)=x0
对于非稀疏信号,也能进行较好地恢复。
定理 假定矩阵Θ满足2s阶RIP性质,且RIP常数σ2s≤2√−1,则在P1中,对任意的x0∈ℝN,
||Δ(Θx0)−x0||2≤C0σs(x)1s√,其中,C0为常数,σs(x)X:=minz∈∑s||x−z||X,x∈ℝNσs(K)X:=minx∈kσs(x)X,K⊂ℝN
那么对于P1,为了精确恢复所有s-稀疏信号,观测次数n应该为多少?
定理 假定Θ∈ℝn∗N,且使用P1恢复。那么,如果,
Δ(Θx0)=x0,对任意x∈∑2s,
则
n≥c1slog(Nc2s),其中c1=1log9,c2=4
本作品采用知识共享署名-相同方式共享 4.0 国际许可协议进行许可
相关文章推荐
- 压缩感知进阶——有关稀疏矩阵
- 压缩感知中的lp球:p范数最优化为什么总会导致一个稀疏的解的原因
- 压缩感知(Compressive Sensing)一
- 压缩感知(II) A Compressed Sense of Compressive Sensing (II)
- 压缩感知(Compressive Sensing)学习之(一)
- 压缩感知(Compressive Sensing)学习之(一)
- 填补空缺——压缩感知
- 压缩感知应用——单像素相机
- 压缩感知在稀疏信道估计中的应用
- 压缩感知(III) A Compressed Sense of Compressive Sensing (III)
- 压缩感知(Compressive Sensing)学习之(二)
- 压缩感知(Compressive Sensing)学习之(二)
- 压缩感知简介
- 压缩感知中的数学知识:线性方程组的解
- 压缩感知(Compressive Sensing)学习之(一)
- 压缩感知(2)
- 压缩感知(compressed sensing)的通俗解释
- 压缩感知 compressive sensing(转)
- 压缩感知简介
- 压缩感知的常见稀疏基名称及离散傅里叶变换基