解L1范数优化的快速算法：分拆方法

记得在前阵一个QQ技术交流群一位朋友提过这个方法。最近看到一个相关资料，了解点皮毛。

针对以下形式的L1范数优化问题：





如果稀疏字典不可逆，这在压缩感知中常见的（样本个数小于信号维度）。在传统的稀疏表示中，如果稀疏表示字典很多也是不可逆的（过完备字典），即：





首先代换求解变量：





然后引入Bregman项，得到splitting Bregman （简称SB。

）形式：





解SB优化模型的一种方法（迭代，更新b）：





SB优化模型是等价于增强的拉格朗日形式的min-max问题：





即SB优化模型是增强性拉格朗日形式最小化问题的一个稳健的解。

此外，此方法字典可逆时，对一些特殊结构的L1范数优化，存在快速解法。