运行caffe版(python)faster RCNN

sudo pip install Cython
sudo pip install easydict

git clone --recursive https://github.com/rbgirshick/py-faster-rcnn.git[/code] 
在py-faster-rcnn/lib目录下修改和编译Cython

将setup.py文件第135行

'nvcc': ['-arch=sm_35',


对照NVIDIA网站
改为符合自己显卡的数字，比如GTX 1080对应61，即

'nvcc': ['-arch=sm_61',


然后编译：

make -j8


第三步：在caffe-faster-rcnn目录下修改Makefile.config文件

cp Makefile.config.example Makefile.config
注意修改

USE_CUDNN := 1

WITH_PYTHON_LAYER := 1

USE_PKG_CONFIG := 1

第四步：替换为新版CUDNN文件

由于caffe-fast-rcnn在编写时使用的是低版本的cudnn，我们需要先下载或者git clone最新版的caffe，然后再进行文件替换。

主要替换文件如下：

py-faster-rcnn/caffe-fast-rcnn/include/caffe/util/cudnn.hpp
py-faster-rcnn/caffe-fast-rcnn/src/caffe/util/cudnn.cpp
py-faster-rcnn/caffe-fast-rcnn/src/caffe/layers/ 下16个cudnn_开头的文件
py-faster-rcnn/caffe-fast-rcnn/include/caffe/layers/下8个cudnn_开头的文件


第五步：编译

make -j8 && make pycaffe