凸优化中的数学（二）范数，距离，单位球

凸优化中的数学（二）之

——范数，距离、单位球

我们首先给出范数的定义：

满足一下条件的函数f:Rn→R,domf=Rn称为范数

∙f是非负的：对所有的x∈Rn,domf=Rn成立f(x)≥0

∙f是正定的：仅对x=0成立f(x)=0

∙f是其次的：对所有的x∈Rn和t∈R成立f(tx)=|t|f(x)

∙f满足三角不等式：对所有的x,y∈Rn成立f(x+y)≤f(x)+f(y)

我们采用符号f(x)=∥x∥,改符号意味着范数是R上绝对值的推广。我们用∥x∥symb表示具体的范数，下表是区分范数的助记符号。

范数是对向量x的长度的度量；我们可以用两个向量x和y的差异的长度度量他们之间的距离，即 dist(x,y)=∥x−y∥ 我们用dist(x,y)表示x和y之间用范数∥⋅∥表示距离。最常见的就是n维欧式空间下的距离 dist(x,y)=[(x1−y1)2+……+(xn−yn)2]1/2

其范数小于或等于1的所有向量的集合B={x∈Rn|∥x∥≤1}

称为范数∥⋅∥的单位球。单位球具有以下性质：

∙B关于原点对称，当且仅当−x∈B时成立x∈B

∙B是凸集，

∙B是有界闭集，内部非空。

反之，如果C⊂Rn是满足这三个条件的任何集合，它就是一种范数的单位

下面给出一些例子

最简单的范数例子是R上的绝对值 ∥x∥1=|x1|+|x2|+……+|xn|

称之为绝对值之和或ℓ1范数。无穷范数定义为∥x∥∞=max{|x1|,……，|xn|}

又叫Chebyshev或ℓ∞范数，更一般的有ℓp范数,p≥1 ∥x∥p=(|x1|p+……+|xn|n)1/p,可以看到p=1为ℓ1范数，p=2为Euclid范数，p→∞为ℓ∞范数

还有一类范数是二次范数。对P∈Sn++,我们定义P−二次范数如下 ∥x∥P=(xTPx)1/2=∥P1/2x∥2 二次范数的单位求是椭圆,当P=E（单位矩阵），就等同于前面的球

对于矩阵Rm×n上的范数由有Frobenius范数（见范数第一篇）‘绝对值之和范数 ∥x∥sav=∑i=1m∑j=1n|xij|

以及最大绝对值范数：∥x∥mav=max{|Xij|i=1,…m;j=1,…,n}

这些概念挺重要的，以后会经常用到，希望大家理解。