图像处理（十三）保刚性图像变形算法-Siggraph 2004

图像变形可以说是很多图像、动画领域的一个非常常见的功能，就说ps、天天P图、美图秀秀、可牛等这些每个软件，有好多个功能都要用到图像变形，比如图像方向校正、图像全景、视频防抖等，在我的另外一篇博文全景矩形还原，就要用到图像变形算法。



变形算法实现图像姿态调整



变形算法实现物体方向位置调整

可以说ps中的一些图像扭曲都是通过变形方法实现的，比如这篇paper:《As-Rigid-As-Possible Image Registration for Hand-drawn Cartoon Animations》就有讲到它的变形算法与ps的效果分析，然而我今天要讲的算法无论是在视屏防抖《Content-Preserving Warps for 3D Video Stabilization》《Bundled Camera Paths for Video
Stabilization》，还是在图像全景《Rectangling Panoramic Images via Warping》等都用到这个算法，这几篇都是siggraph上的文献，对于搞图形图像的人来说，siggraph上的paper是每年必看的文章。保相似的变形算法就相当于是一个经典又好用的图像变形算法，具有保相似性，避免图像变形过程中，发生严重错切变换。好了到底是哪篇文献这么好用，那就是2005 siggraph上的一篇文献《As-Rigid-As-Possible Shape Manipulation》，这篇文献在三维网格曲面图形变形方面也具有重要的作用。

好了废话不多说，这里开始讲解《As-Rigid-As-Possible Shape Manipulation》，因为这篇paper分为两个步骤，

第一步主要是实现尽量保证变形前后，每个三角形都于原来的对应三角形相似，又称之为网格模型的保相似变形。

第二步主要是为了尽量保证每个三角形与原三角形尽量全等。由于第一步中算法只是保相似，这样变形后三角形会有的被放大，有的被缩小，出现图像的局部放大与缩小，所以需要对每个三角形进行适合的缩放调整，这一步又称为拟合步，拟合变形后的每个三角形与原网格三角形全等。

一、理论讲解

(1)相对坐标的概念。开始这个算法之前，我需要先给讲解一个三角形中相对坐标的概念：给定一个三角形v0v1v2，如下图所示：



那么我们定义，v2相对于v0、v1的坐标为(x01,y01)，满足：



也就是说，我们可以通过已知的一个三角形，然后建立一个以三角形的一个顶点为原点，以其邻接边、及其对应的垂直旋转90度后的方向分别作为x轴、y轴，求取三角形另外一个顶点的相对于这个坐标系的坐标。OK，如果我给你一个三角形，我要你计算出(x01,y01)，你要怎么计算？这个是一个简单的数学问题，同时也是本文算法开始的第一步，具体x01、y01怎么计算，那是高中问题了，不解释。

(2)整体保相似。保相似图像变形算法的原理很简单，说白了就是尽量保证变形前后，相对坐标不变，也就是说保证每个三角形的相对坐标(x12,y12)、(x20,y20)、(x01,y01)不变。因为如果两个三角形的这个相对坐标一样，那么这两个三角形就是相似三角形。那么算法具体是怎么实现尽量保证，每个三角形变形前后的这三个相对坐标不变的呢？

假设变形后的三角形顶点坐标为v0'，v1'，v2'。因为我们是要尽量的保证相对坐标不变，我们可以根据下面的计算公式：



计算出v2desired，然后使得如下误差最小化：





上面的能量公式越小，就代表变形后的三角形与原三角形越相似。而对于有多个三角面片的网格模型，那么总误差能量公式为：



这个问题其实归结为求解一个最小二乘问题，大家还记得吗，最小二乘其实就是使得误差能量最小化，因此到了这里其实我们就可以猜到，这个算法最后归结为求解一个稀疏的线性系统。我们的目的是使得上面的总能量最小化，设相对坐标v'=

,那么：



我们的问题是要使得E1{v’}最小化，而最小化说白了就是使得其偏导数为0，因此我们需要对E1{v’}求偏导。开始前先把公式5，换另外一种形式来表达：



其中

，q表示控制顶点,u表示自由顶点。对上面的式子求偏导：



把上面的式子简写为：



需要注意的是：对于控制顶点不变的模型，G'、B是一个固定的稀疏矩阵，因此我们可以通过上式求解u，得到自由顶点的坐标。

(3)局部完全保相似,及局部缩放调整。每个三角形分开重新调整，使得其与原三角形更为相似，同时对其做缩放调整。

首先，在经过上面的整体相似变换后，三角形可能进行放大或者缩小，因为我们用了三角形的内在属性相对坐标，这样只能保证所有三角形的尽量相似，并不能保证全等。如果算法直到这里就结束了，那么变形后的图像将会出现局部放大与缩小。就拿上面的瘦脸图片来说，如果只经过上面相似变换步骤，我们只是要移动脸型轮廓的特征点，而最后变形出来的结果可能就会出现眼睛等局部位置的放大，或缩小，因此我们要进行大小调整，瘦脸后，眼睛的大小与原来图像的大小相等。



就像上面图像中，图(a)是原图，图(c)的结果就是只经过相似变换后的结果，可以看到(c)中的右手部变粗了许多，而左手部变细了许多，因此我们接着这一步要做的事就是调整大小，使得(a)变形后，使得图像变形后不会出现局部放大与缩小的情况，得到如(d)结果图。

另一方面，在经过上面的整体相似变换后，因为我们用了整个三角网格模型进行整体调整，使得能量最小化，这个就像最小二乘一样，最后求解出来的结果并不能保证每个三角形与原三角形完全相似，也会发生错切变换，误差还是存在的。就像最小二乘，求解出来的结果并不能保证最后每个方程的残差为0。



在经过(2)中的相似变换后，因为我们是对网格模型的所有三角形一起调整的，保证总三角形错切变形能最小化，这个时候得到的每个三角形也不全是完全相似的一个三角形，且大小也发生了变化，如上图所示。我们得到了v0'v1'v2'，这个三角形我们称之为中介三角形，接着我们要把每个三角形分开拟合成跟原三角形v0v1v2完全全等的三角形，我们定义拟合阶段的三角形变形能为：



当然我们还需要保证变形前后的也与原三角形相似：



这样联立公式(9)、(10)，同时对其求偏导，使得变形能最小化：



记住，这一步是对每个三角形进行分开调整，这样才能得到与原网格模型的三角形完全相似。同时在满是上面式子后，对整个三角形以重心坐标为缩放原点，对每个三角形进行缩放调整

(4)整体拟合

上面那一部是对每个三角形分开调整，这个时候，每个三角形是完全独立的，我们需要对齐对整体连接调整，否则两个邻接三角形的共用边的两个顶点的位置各不一样，这样根本是不是三角网格模型。





整个三角网格模型的总能量为：



H是一个表示整个网格模型拓扑连接关系的矩阵，对上式换另外一种表达方式，并对其求偏导，求取最小值：



简化为：



然后重新求解，可得到自由顶点u的坐标。

二、算法流程

输入：原三角网格模型，控制顶点

输出：变形后的三角网格模型

Algorithm：

1、整体相似变换

(1)计算原网格模型的相对坐标。根据给定的原三角网格模型，遍历每一个三角面片，



并计算每个顶点，相对于另外两个顶点的坐标。以计算v2相对于边v0v1的坐标为例：



(x01,y01)表示的是一个相对坐标，如果三角形的三个顶点的坐标已知v0，v1，v2，其实计算这个相对坐标是非常容易的。

(1)建立局部坐标轴。先求出边向量v0v1，然后利用v0v1求出其单位向量即为局部坐标系的x轴，接着只需要把x轴旋转90度，就可以得到y轴了。

(2)计算相对坐标(x01,y01)，这一步首先需要把向量v0v2投影到x轴，y轴。这里需要注意的是我们上面的公式中x轴指的是v0v1，y轴指的是把v0v1旋转90度后的向量，因此我们需要对投影结果做一个缩放处理

相关代码实现如下：

[cpp] view
plain copy

// 遍历网格模型的每个三角面片

for ( unsigned int i = 0; i < nTris; ++i ) {

Triangle & t = m_vTriangles[i];//第i个三角面片

//计算当前三角形每个顶点相对于另外两个顶点的坐标

for ( int j = 0; j < 3; ++j ) {

unsigned int n0 = j;

unsigned int n1 = (j+1)%3;

unsigned int n2 = (j+2)%3;//三角面片三个顶点的索引

Eigen::Vector2d v0 = GetInitialVert( t.nVerts[n0] );

Eigen::Vector2d v1 = GetInitialVert( t.nVerts[n1] );

Eigen::Vector2d v2 = GetInitialVert( t.nVerts[n2] );//三角面片三个顶点的坐标

//建立局部坐标系的 x轴 与y 轴

Eigen::Vector2d v01( v1 - v0 );

Eigen::Vector2d v01N( v01 );

v01N.normalize();//边向量v0v1的方向向量 x轴

Eigen::Vector2d v01Rot90( v01(1), -v01(0) );

Eigen::Vector2d v01Rot90N( v01Rot90 ); v01Rot90N.normalize();//垂直于边v0v1的方向向量 y轴

//计算局部相对坐标

Eigen::Vector2d vLocal(v2 - v0);

float fX = vLocal.dot(v01) /SquaredLength(v01);//计算局部相对坐标x01

float fY = vLocal.dot(v01Rot90) /SquaredLength(v01Rot90);//计算局部相对坐标y01

Eigen::Vector2d v2test(v0 + fX * v01 + fY * v01Rot90);

float fLength = Length(v2test - v2);

t.vTriCoords[j] = Eigen::Vector2d(fX,fY);//局部相对坐标(x01,y01)

}

}

(2)构造公式(7)的相关矩阵。

[cpp] view
plain copy

void RigidMeshDeformer2D::PrecomputeOrientationMatrix()

{

std::vector<Constraint,Eigen::aligned_allocator<Constraint> > vConstraintsVec;

std::set<Constraint>::iterator cur(m_vConstraints.begin()), end(m_vConstraints.end());

while ( cur != end )

vConstraintsVec.push_back( *cur++ );

unsigned int nVerts = (unsigned int)m_vDeformedVerts.size();

m_mFirstMatrix.resize( 2*nVerts, 2*nVerts);

for ( unsigned int i = 0; i < 2*nVerts; ++i )

for ( unsigned int j = 0; j < 2*nVerts; ++j )

m_mFirstMatrix(i,j) = 0.0;

size_t nConstraints = vConstraintsVec.size();

unsigned int nFreeVerts = nVerts - nConstraints;

unsigned int nRow = 0;

m_vVertexMap.resize(nVerts);

for ( unsigned int i = 0; i < nVerts; ++i ) {

Constraint c(i, vec2(0,0));

if ( m_vConstraints.find(c) != m_vConstraints.end() )

continue;

m_vVertexMap[i] = nRow++;

}

for ( unsigned int i = 0 ; i < nConstraints; ++i )

m_vVertexMap[vConstraintsVec[i].nVertex ] = nRow++;

size_t nTriangles = m_vTriangles.size();

for ( unsigned int i = 0; i < nTriangles; ++i ) {

Triangle & t = m_vTriangles[i];

double fTriSumErr = 0;

for ( int j = 0; j < 3; ++j ) {

double fTriErr = 0;

int n0x = 2 * m_vVertexMap[ t.nVerts[j] ];

int n0y = n0x + 1;

int n1x = 2 * m_vVertexMap[ t.nVerts[(j+1)%3] ];

int n1y = n1x + 1;

int n2x = 2 * m_vVertexMap[ t.nVerts[(j+2)%3] ];

int n2y = n2x + 1;

float x = t.vTriCoords[j](0);

float y = t.vTriCoords[j](1);

m_mFirstMatrix(n0x,n0x)+= 1 - 2*x + x*x + y*y;

m_mFirstMatrix(n0x,n1x)+= 2*x - 2*x*x - 2*y*y;

m_mFirstMatrix(n0x,n1y)+= 2*y;

m_mFirstMatrix(n0x,n2x)+= -2 + 2*x;

m_mFirstMatrix(n0x,n2y)+= -2 * y;

m_mFirstMatrix(n0y,n0y)+= 1 - 2*x + x*x + y*y;

m_mFirstMatrix(n0y,n1x)+= -2*y;

m_mFirstMatrix(n0y,n1y)+= 2*x - 2*x*x - 2*y*y;

m_mFirstMatrix(n0y,n2x)+= 2*y;

m_mFirstMatrix(n0y,n2y)+= -2 + 2*x;

m_mFirstMatrix(n1x,n1x)+= x*x + y*y;

m_mFirstMatrix(n1x,n2x)+= -2*x;

m_mFirstMatrix(n1x,n2y)+= 2*y;

m_mFirstMatrix(n1y,n1y)+= x*x + y*y;

m_mFirstMatrix(n1y,n2x)+= -2*y;

m_mFirstMatrix(n1y,n2y)+= -2*x;

m_mFirstMatrix(n2x,n2x)+= 1;

m_mFirstMatrix(n2y,n2y)+= 1;

}

}

Eigen::MatrixXd mG00( 2*nFreeVerts, 2*nFreeVerts );

ExtractSubMatrix( m_mFirstMatrix, 0, 0, mG00 );

Eigen::MatrixXd mG01( 2 * (int)nFreeVerts, 2 * (int)nConstraints );

ExtractSubMatrix( m_mFirstMatrix, 0, 2*nFreeVerts, mG01 );

Eigen::MatrixXd mG10( 2 * (int)nConstraints, 2 * (int)nFreeVerts );

ExtractSubMatrix( m_mFirstMatrix, 2*nFreeVerts, 0, mG10 );

//

Eigen::MatrixXd mGPrime = mG00 + mG00.transpose();

Eigen::MatrixXd mB = mG01 + mG10.transpose();

Eigen::MatrixXd mGPrimeInverse=mGPrime.inverse();

Eigen::MatrixXd mFinal = mGPrimeInverse * mB;

mFinal *= -1;

m_mFirstMatrix = mFinal;

}

2、局部完全相似，及大小缩放调整。

计算公式(11)的F、C矩阵:

[cpp] view
plain copy

//计算公式11 F、C矩阵

void RigidMeshDeformer2D::PrecomputeScalingMatrices( unsigned int nTriangle )

{

//遍历每个三角形

Triangle & t = m_vTriangles[nTriangle];

t.mF =Eigen::MatrixXd(4,4);

t.mC = Eigen::MatrixXd(4,6);

double x01 = t.vTriCoords[0](0);

double y01 = t.vTriCoords[0](1);

double x12 = t.vTriCoords[1](0);

double y12 = t.vTriCoords[1](1);

double x20 = t.vTriCoords[2](0);

double y20 = t.vTriCoords[2](1);

double k1 = x12*y01 + (-1 + x01)*y12;

double k2 = -x12 + x01*x12 - y01*y12;

double k3 = -y01 + x20*y01 + x01*y20;

double k4 = -y01 + x01*y01 + x01*y20;

double k5 = -x01 + x01*x20 - y01*y20 ;

double a = -1 + x01;

double a1 = pow(-1 + x01,2) + pow(y01,2);

double a2 = pow(x01,2) + pow(y01,2);

double b = -1 + x20;

double b1 = pow(-1 + x20,2) + pow(y20,2);

double c2 = pow(x12,2) + pow(y12,2);

double r1 = 1 + 2*a*x12 + a1*pow(x12,2) - 2*y01*y12 + a1*pow(y12,2);

double r2 = -(b*x01) - b1*pow(x01,2) + y01*(-(b1*y01) + y20);

double r3 = -(a*x12) - a1*pow(x12,2) + y12*(y01 - a1*y12);

double r5 = a*x01 + pow(y01,2);

double r6 = -(b*y01) - x01*y20;

double r7 = 1 + 2*b*x01 + b1*pow(x01,2) + b1*pow(y01,2) - 2*y01*y20;

//计算F矩阵

// F矩阵的第一行

t.mF(0,0)= 2*a1 + 2*a1*c2 + 2*r7;

t.mF(0,1)= 0;

t.mF(0,2)= 2*r2 + 2*r3 - 2*r5;

t.mF(0,3)= 2*k1 + 2*r6 + 2*y01;

// F矩阵的第二行

t.mF(1,0)= 0;

t.mF(1,1)= 2*a1 + 2*a1*c2 + 2*r7;

t.mF(1,2)= -2*k1 + 2*k3 - 2*y01;

t.mF(1,3)= 2*r2 + 2*r3 - 2*r5;

// F矩阵的第三行

t.mF(2,0)= 2*r2 + 2*r3 - 2*r5;

t.mF(2,1)= -2*k1 + 2*k3 - 2*y01;

t.mF(2,2)= 2*a2 + 2*a2*b1 + 2*r1;

t.mF(2,3)= 0;

//F矩阵的第四行

t.mF(3,0)= 2*k1 - 2*k3 + 2*y01;

t.mF(3,1)= 2*r2 + 2*r3 - 2*r5;

t.mF(3,2)= 0;

t.mF(3,3)= 2*a2 + 2*a2*b1 + 2*r1;

// 求逆

Eigen::MatrixXd mFInverse=t.mF.inverse();

mFInverse *= -1.0;

t.mF = mFInverse;

//计算C矩阵

// C矩阵的第一行

t.mC(0,0)= 2*k2;

t.mC(0,1)= -2*k1;

t.mC(0,2)= 2*(-1-k5);

t.mC(0,3)= 2*k3;

t.mC(0,4)= 2*a;

t.mC(0,5)= -2*y01;

// C矩阵的第二行

t.mC(1,0)= 2*k1;

t.mC(1,1)= 2*k2;

t.mC(1,2) = -2*k3;

t.mC(1,3)= 2*(-1-k5);

t.mC(1,4)= 2*y01;

t.mC(1,5)= 2*a;

// C矩阵的第三行

t.mC(2,0)= 2*(-1-k2);

t.mC(2,1)= 2*k1;

t.mC(2,2)= 2*k5;

t.mC(2,3)= 2*r6;

t.mC(2,4)= -2*x01;

t.mC(2,5)= 2*y01;

//C矩阵的第四行

t.mC(3,0)= 2*k1;

t.mC(3,1)= 2*(-1-k2);

t.mC(3,2)= -2*k3;

t.mC(3,3)= 2*k5;

t.mC(3,4)= -2*y01;

t.mC(3,5)= -2*x01;

}

并求解公式11，得每个三角面片新顶点的位置

3、全局连接拟合。

构造公式(16)的相关矩阵：

[cpp] view
plain copy

void RigidMeshDeformer2D::PrecomputeFittingMatrices()

{

std::vector<Constraint,Eigen::aligned_allocator<Constraint> > vConstraintsVec;

std::set<Constraint>::iterator cur(m_vConstraints.begin()), end(m_vConstraints.end());

while ( cur != end )

vConstraintsVec.push_back( *cur++ );

unsigned int nVerts = (unsigned int)m_vDeformedVerts.size();

size_t nConstraints = vConstraintsVec.size();

unsigned int nFreeVerts = nVerts - nConstraints;

unsigned int nRow = 0;

m_vVertexMap.resize(nVerts);

for ( unsigned int i = 0; i < nVerts; ++i )

{

Constraint c(i,vec2(0,0));

if ( m_vConstraints.find(c) != m_vConstraints.end() )

continue;

m_vVertexMap[i] = nRow++;

}

for ( unsigned int i = 0 ; i < nConstraints; ++i )

m_vVertexMap[vConstraintsVec[i].nVertex ] = nRow++;

Eigen::VectorXd gUTestX( nVerts ), gUTestY(nVerts);

for ( unsigned int i = 0; i < nVerts; ++i )

{

Constraint c(i,vec2(0,0));

if ( m_vConstraints.find(c) != m_vConstraints.end() )

continue;

int nRow = m_vVertexMap[i];

gUTestX[nRow] = m_vInitialVerts[i].vPosition(0);

gUTestY[nRow] = m_vInitialVerts[i].vPosition(1);

}

for ( unsigned int i = 0; i < nConstraints; ++i ) {

int nRow = m_vVertexMap[ vConstraintsVec[i].nVertex ];

gUTestX[nRow] = vConstraintsVec[i].vConstrainedPos[0];

gUTestY[nRow] = vConstraintsVec[i].vConstrainedPos[1];

}

Eigen::MatrixXd mHX( nVerts, nVerts );

Eigen::MatrixXd mHY( nVerts, nVerts );

for ( unsigned int i = 0; i < nVerts; ++i )

for ( unsigned int j = 0; j < nVerts; ++j )

mHX(i,j) = mHY(i,j) = 0.0;

size_t nTriangles = m_vTriangles.size();

for ( unsigned int i = 0; i < nTriangles; ++i ) {

Triangle & t = m_vTriangles[i];

double fTriSumErr = 0;

for ( int j = 0; j < 3; ++j ) {

double fTriErr = 0;

int nA = m_vVertexMap[ t.nVerts[j] ];

int nB = m_vVertexMap[ t.nVerts[(j+1)%3] ];

mHX(nA,nA)+= 2;

mHX(nA,nB)+= -2;

mHX(nB,nA)+= -2;

mHX(nB,nB)+= 2;

mHY(nA,nA)+= 2;

mHY(nA,nB)+= -2;

mHY(nB,nA)+= -2;

mHY(nB,nB)+= 2;

}

}

Eigen::MatrixXd mHX00( (int)nFreeVerts, (int)nFreeVerts );

Eigen::MatrixXd mHY00( (int)nFreeVerts, (int)nFreeVerts );

ExtractSubMatrix( mHX, 0, 0, mHX00 );

ExtractSubMatrix( mHY, 0, 0, mHY00 );

Eigen::MatrixXd mHX01( (int)nFreeVerts, (int)nConstraints );

Eigen::MatrixXd mHX10( (int)nConstraints, (int)nFreeVerts );

ExtractSubMatrix( mHX, 0, nFreeVerts, mHX01 );

ExtractSubMatrix( mHX, nFreeVerts, 0, mHX10 );

Eigen::MatrixXd mHY01( (int)nFreeVerts, (int)nConstraints );

Eigen::MatrixXd mHY10( (int)nConstraints, (int)nFreeVerts );

ExtractSubMatrix( mHY, 0, nFreeVerts, mHY01 );

ExtractSubMatrix( mHY, nFreeVerts, 0, mHY10 );

m_mHXPrime = mHX00;

m_mHYPrime = mHY00;

m_mDX = mHX01;

m_mDY = mHY01;

m_mLUDecompX=Eigen::FullPivLU<Eigen::MatrixXd>(m_mHXPrime);

m_mLUDecompY=Eigen::FullPivLU<Eigen::MatrixXd>(m_mHYPrime);

}

这篇paper的总思路就是分成三步，因为如果控制顶点、和自由顶点的没有发生变化，相关的矩阵只要经过第一次求解就可以了，因此可以实现实时拖拽更新，这个我在三维图形学网格曲面变形的时候，用到的拉普拉斯网格变形的方法思路大体相同，需要对原网格模型做预处理操作，然后才能实现实时变形。具体这个算法要和图像结合起来，就要对图像进行三角剖分，然后计算每个三角形的放射变换矩阵，根据仿射变换矩阵计算每个像素点值的变化，才能对图像进行变形，具体就不贴代码了，因为这一些代码都是比较简单的，没有什么技术含量在里面。本文地址：http://blog.csdn.net/hjimce/article/details/45766321
作者：hjimce 联系qq：1393852684 更多资源请关注我的博客：http://blog.csdn.net/hjimce
原创文章，转载请保留本行信息