学习OpenCV范例（二十二）—GrabCut图像分割

由于最近都有很多课，所以就好久没有写博客，今天抽空写一篇，不能落下太多了，要坚持有时间就写写博客，为自己留下一些回忆，也可以到后期忘记的时候及时复习，不积跬步，无以至千里。不积小流，无以成江海。脚踏实地，打好基础，那才是王道，感觉说了一大堆废话，哈哈，现在正式进入主题，今天要讲的内容就是GrabCut图像分割啦，关于图像分割的方法五花八门，非常多，大家都可以从网上找到，包括GrabCut也是，本人也是在网上学习后在这里做一下记录，顺便分析一下OpenCV自带grabCut函数的使用，和例子的分析，没有什么创新点，方便以后查阅。

1、算法原理

原理在这几篇博客里已经讲得很仔细了，涉及到的内容也比较多，大家可以查阅一下，它是一个系列来的

①、图像分割之（一）概述

②、图像分割之（二）Graph Cut（图割）

③、图像分割之（三）从Graph Cut到Grab Cut

④、图像分割之（四）OpenCV的GrabCut函数使用和源码解读

总的来说，GrabCut算法时Graph Cut算法的改进，主要有以下几点的改进

①、Graph Cut的目标和背景的模型是灰度直方图，Grab Cut取代为RGB三通道的混合高斯模型GMM；

②、Graph Cut的能量最小化（分割）是一次达到的，而Grab Cut取代为一个不断进行分割估计和模型参数学习的交互迭代过程；

③、Grab Cut允许不完全的标注，Graph Cut需要用户指定目标和背景的一些种子点，但是Grab Cut只需要提供背景区域的像素集，最后如果需要得到更精确的分割，可以在初次分割的结果上加上一些确定的种子点，再运行算法。

2、代码实现

GCApplication.h

#include "opencv2/highgui/highgui.hpp"
#include "opencv2/imgproc/imgproc.hpp"
#include <iostream>
using namespace std;
using namespace cv;
const Scalar RED = Scalar(0,0,255);
const Scalar PINK = Scalar(230,130,255);
const Scalar BLUE = Scalar(255,0,0);
const Scalar LIGHTBLUE = Scalar(255,255,160);
const Scalar GREEN = Scalar(0,255,0);

const int BGD_KEY = CV_EVENT_FLAG_CTRLKEY;//当CTRL被按下时，flags返回的值
const int FGD_KEY = CV_EVENT_FLAG_SHIFTKEY;//当SHIFT被按下时，flags返回的值

static void getBinMask( const Mat& comMask, Mat& binMask )
{
if( comMask.empty() || comMask.type()!=CV_8UC1 )
CV_Error( CV_StsBadArg, "comMask is empty or has incorrect type (not CV_8UC1)" );
if( binMask.empty() || binMask.rows!=comMask.rows || binMask.cols!=comMask.cols )
binMask.create( comMask.size(), CV_8UC1 );
binMask = comMask & 1;
}
class GCApplication
{
public:
enum{ NOT_SET = 0, IN_PROCESS = 1, SET = 2 };
static const int radius = 2;
static const int thickness = -1;

void reset();
void setImageAndWinName( const Mat& _image, const string& _winName );
void showImage() const;
void mouseClick( int event, int x, int y, int flags, void* param );
int nextIter();
int getIterCount() const { return iterCount; }
private:
void setRectInMask();
void setLblsInMask( int flags, Point p, bool isPr );

const string* winName;
const Mat* image;
Mat mask;
Mat bgdModel, fgdModel;
//rectState, lblsState, prLblsState三个变量分别表示矩形标记的状态，
//鼠标左键标记的状态，鼠标右键标记的状态，分别有三个状态：NOT_SET（未处理）
//IN_PROCESS（处理）、SET（已处理）
uchar rectState, lblsState, prLblsState;
bool isInitialized;

Rect rect;
//在第一次矩形分割后，第二次标记mask值时，四种值出现的点都分别保存在
//fgdPxls, bgdPxls, prFgdPxls, prBgdPxls四个变量中
vector<Point> fgdPxls, bgdPxls, prFgdPxls, prBgdPxls;
//迭代的次数
int iterCount;
};

GCApplication.cpp

#include "GCApplication.h"
//初始化掩码图和各变量
//mask图GrabCut函数中对应第二个参数，标记图片中哪些属于前景，哪些属于背景
//mask图只可存入四种数值，分别为：GC_BGD、GC_FGD、GC_PR_BGD、GC_PR_FGD
//mask初始化为背景，即赋值为GC_BGD
void GCApplication::reset()
{
if( !mask.empty() )
mask.setTo(Scalar::all(GC_BGD));
bgdPxls.clear(); fgdPxls.clear();
prBgdPxls.clear();  prFgdPxls.clear();
isInitialized = false;
rectState = NOT_SET;
lblsState = NOT_SET;
prLblsState = NOT_SET;
iterCount = 0;
}
//初始化窗口和图片
//将读取的图片和窗口名存入类中的私有变量image和winName中，有利于存储
//初始化掩码图以及各变量
void GCApplication::setImageAndWinName( const Mat& _image, const string& _winName  )
{
if( _image.empty() || _winName.empty() )
return;
image = &_image;
winName = &_winName;
mask.create( image->size(), CV_8UC1);
reset();
}
//显示图片
//如果 fgdPxls, bgdPxls, prFgdPxls, prBgdPxls变量非空，则在图片中显示标记的点
//如果 rectState 已经表示被标记，则也在图片中显示标记的矩形
void GCApplication::showImage() const
{
if( image->empty() || winName->empty() )
return;

Mat res;
Mat binMask;
//如果图像已经被重置，则拷贝整幅图像
//否则显示已经被处理过的图像
if( !isInitialized )
image->copyTo( res );
else
{
getBinMask( mask, binMask );
image->copyTo( res, binMask );
}

vector<Point>::const_iterator it;
for( it = bgdPxls.begin(); it != bgdPxls.end(); ++it )
circle( res, *it, radius, BLUE, thickness );
for( it = fgdPxls.begin(); it != fgdPxls.end(); ++it )
circle( res, *it, radius, RED, thickness );
for( it = prBgdPxls.begin(); it != prBgdPxls.end(); ++it )
circle( res, *it, radius, LIGHTBLUE, thickness );
for( it = prFgdPxls.begin(); it != prFgdPxls.end(); ++it )
circle( res, *it, radius, PINK, thickness );

if( rectState == IN_PROCESS || rectState == SET )
rectangle( res, Point( rect.x, rect.y ), Point(rect.x + rect.width, rect.y + rect.height ), GREEN, 2);

imshow( *winName, res );
}
//通过矩形标记Mask
void GCApplication::setRectInMask()
{
assert( !mask.empty() );
mask.setTo( GC_BGD );
rect.x = max(0, rect.x);
rect.y = max(0, rect.y);
rect.width = min(rect.width, image->cols-rect.x);
rect.height = min(rect.height, image->rows-rect.y);
(mask(rect)).setTo( Scalar(GC_PR_FGD) );
}

void GCApplication::setLblsInMask( int flags, Point p, bool isPr )
{
vector<Point> *bpxls, *fpxls;
uchar bvalue, fvalue;
//如果左键按下，则运行以下代码
if( !isPr )
{
bpxls = &bgdPxls;
fpxls = &fgdPxls;
bvalue = GC_BGD;
fvalue = GC_FGD;
}
//否则，运行以下代码
else
{
bpxls = &prBgdPxls;
fpxls = &prFgdPxls;
bvalue = GC_PR_BGD;
fvalue = GC_PR_FGD;
}
//判断是shift键被按下或者ctrl键被按下，分别执行操作
if( flags & BGD_KEY )
{
bpxls->push_back(p);
circle( mask, p, radius, bvalue, thickness );
}
if( flags & FGD_KEY )
{
fpxls->push_back(p);
circle( mask, p, radius, fvalue, thickness );
}
}
//鼠标响应
void GCApplication::mouseClick( int event, int x, int y, int flags, void* )
{
// TODO add bad args check
switch( event )
{
case CV_EVENT_LBUTTONDOWN: // set rect or GC_BGD(GC_FGD) labels
{
bool isb = (flags & BGD_KEY) != 0,
isf = (flags & FGD_KEY) != 0;
//如果rectState为NOT_SET并且ctrl或者shift没被按下，则运行以下代码，设置矩形框
if( rectState == NOT_SET && !isb && !isf )
{
rectState = IN_PROCESS;
rect = Rect( x, y, 1, 1 );
}
//如果rectState为SET，并且ctrl或者shift被按下，则运行以下代码，标记GC_BGD(GC_FGD)
if ( (isb || isf) && rectState == SET )
lblsState = IN_PROCESS;
}
break;
case CV_EVENT_RBUTTONDOWN: // set GC_PR_BGD(GC_PR_FGD) labels
{
//如果rectState为SET，并且ctrl或者shift被按下时，标记GC_PR_BGD(GC_PR_FGD)
bool isb = (flags & BGD_KEY) != 0,
isf = (flags & FGD_KEY) != 0;
if ( (isb || isf) && rectState == SET )
prLblsState = IN_PROCESS;
}
break;
case CV_EVENT_LBUTTONUP:
//如果rectState为IN_PROCESS，则确定鼠标走过的整个矩形，并且通过矩形设置Mask
if( rectState == IN_PROCESS )
{
rect = Rect( Point(rect.x, rect.y), Point(x,y) );
rectState = SET;
setRectInMask();
assert( bgdPxls.empty() && fgdPxls.empty() && prBgdPxls.empty() && prFgdPxls.empty() );
showImage();
}
//如果lblsState为IN_PROCESS，则通过圆圈标记Mask
if( lblsState == IN_PROCESS )
{
setLblsInMask(flags, Point(x,y), false);
lblsState = SET;
showImage();
}
break;
case CV_EVENT_RBUTTONUP:
//如果prLblsState为IN_PROCESS，则通过圆圈标记Mask
if( prLblsState == IN_PROCESS )
{
setLblsInMask(flags, Point(x,y), true);
prLblsState = SET;
showImage();
}
break;
case CV_EVENT_MOUSEMOVE:
//如果rectState为IN_PROCESS，则鼠标移动时生成矩形
if( rectState == IN_PROCESS )
{
rect = Rect( Point(rect.x, rect.y), Point(x,y) );
assert( bgdPxls.empty() && fgdPxls.empty() && prBgdPxls.empty() && prFgdPxls.empty() );
showImage();
}//如果lblsState为IN_PROCESS，则鼠标移动时用圆圈标记Mask
else if( lblsState == IN_PROCESS )
{
setLblsInMask(flags, Point(x,y), false);
showImage();
}//如果prLblsState为IN_PROCESS，则鼠标移动时用圆圈标记Mask
else if( prLblsState == IN_PROCESS )
{
setLblsInMask(flags, Point(x,y), true);
showImage();
}
break;
}
}
//如果lblsState或者prLblsState被设置为SET，则说明图片已经被鼠标标记处前景和背景，
//而且已经经过矩形处理过一次了，则执行grabCut的GC_INIT_WITH_MASK形式，否则，执行
//GC_INIT_WITH_RECT形式，清除bgdPxls等变量标记，方便下次标记
int GCApplication::nextIter()
{
if( isInitialized )
grabCut( *image, mask, rect, bgdModel, fgdModel, 3 );
else
{
if( rectState != SET )
return iterCount;

if( lblsState == SET || prLblsState == SET )
grabCut( *image, mask, rect, bgdModel, fgdModel, 3, GC_INIT_WITH_MASK );
else
grabCut( *image, mask, rect, bgdModel, fgdModel, 3, GC_INIT_WITH_RECT );

isInitialized = true;
}
iterCount++;

bgdPxls.clear(); fgdPxls.clear();
prBgdPxls.clear(); prFgdPxls.clear();

return iterCount;
}

main.cpp

#include "GCApplication.h"

static void help()
{
cout << "\nThis program demonstrates GrabCut segmentation -- select an object in a region\n"
"and then grabcut will attempt to segment it out.\n"
"Call:\n"
"./grabcut <image_name>\n"
"\nSelect a rectangular area around the object you want to segment\n" <<
"\nHot keys: \n"
"\tESC - quit the program\n"
"\tr - restore the original image\n"
"\tn - next iteration\n"
"\n"
"\tleft mouse button - set rectangle\n"
"\n"
"\tCTRL+left mouse button - set GC_BGD pixels\n"
"\tSHIFT+left mouse button - set CG_FGD pixels\n"
"\n"
"\tCTRL+right mouse button - set GC_PR_BGD pixels\n"
"\tSHIFT+right mouse button - set CG_PR_FGD pixels\n" << endl;
}

GCApplication gcapp;

static void on_mouse( int event, int x, int y, int flags, void* param )
{
gcapp.mouseClick( event, x, y, flags, param );
}

int main( int argc, char** argv )
{
//读取图片文件
string filename ="shark.jpg";
if( filename.empty() )
{
cout << "\nDurn, couldn't read any file."<< endl;
return 1;
}
Mat image = imread( filename, 1 );
if( image.empty() )
{
cout << "\n Durn, couldn't read image filename " << filename << endl;
return 1;
}
//帮助说明
help();

const string winName = "image";
namedWindow( winName, WINDOW_AUTOSIZE );
//设置鼠标响应函数
setMouseCallback( winName, on_mouse, 0 );
//初始化窗口和图片
gcapp.setImageAndWinName( image, winName );
gcapp.showImage();

for(;;)
{
int c = waitKey(0);
switch( (char) c )
{
//ESC按键退出
case '\x1b':
cout << "Exiting ..." << endl;
goto exit_main;
//r按键重置图像
case 'r':
cout << endl;
gcapp.reset();
gcapp.showImage();
break;
//n按键进行一次处理
case 'n':
int iterCount = gcapp.getIterCount();
cout << "<" << iterCount << "... ";
int newIterCount = gcapp.nextIter();
if( newIterCount > iterCount )
{
gcapp.showImage();
cout << iterCount << ">" << endl;
}
else
cout << "rect must be determined>" << endl;
break;
}
}

exit_main:
destroyWindow( winName );
return 0;
}

3、运行结果

图1、原始图像

图2、第一次运行后图像

图3、第二次标记后图像

图4、第二次标记后运行结果（基本已完成）

4、用到的函数

void grabCut(InputArray img, InputOutputArray mask, Rect rect, InputOutputArray bgdModel, InputOutputArray fgdModel, int iterCount, int mode=GC_EVAL )

img：待分割的源图像，必须是8位3通道（CV_8UC3）图像，在处理的过程中不会被修改；

mask：掩码图像，如果使用掩码进行初始化，那么mask保存初始化掩码信息；在执行分割的时候，也可以将用户交互所设定的前景与背景保存到mask中，然后再传入 grabCut函数；在处理结束之后，mask中会保存结果。mask只能取以下四种值：

GCD_BGD（=0），背景；

GCD_FGD（=1），前景；

GCD_PR_BGD（=2），可能的背景；

GCD_PR_FGD（=3），可能的前景。

如果没有手工标记GCD_BGD或者GCD_FGD，那么结果只会有GCD_PR_BGD或GCD_PR_FGD；

rect：用于限定需要进行分割的图像范围，只有该矩形窗口内的图像才被认为可能是前景GCD_PR_FGD，矩形外的被认为是背景GCD_BGD。

bgdModel：背景模型，如果为null，函数内部会自动创建一个bgdModel；bgdModel必须是单通道浮点型（CV_32FC1）图像，且行数只能为1，列数只能为13x5；

fgdModel：前景模型，如果为null，函数内部会自动创建一个fgdModel；fgdModel必须是单通道浮点型（CV_32FC1）图像，且行数只能为1，列数只能为13x5；

iterCount：迭代次数，必须大于0；

mode：用于指示grabCut函数进行什么操作，可选的值有：

GC_INIT_WITH_RECT（=0），用矩形窗初始化GrabCut；

GC_INIT_WITH_MASK（=1），用掩码图像初始化GrabCut；

GC_EVAL（=2），执行分割。