[学习笔记]SiftGPU入门

当有读者看到我这篇SiftGPU入门的学习笔记时,相信你已经读过了高博那篇《SLAM拾萃:SiftGPU》,那篇文章写于16年,已经过去两年的时间。在我尝试配置SiftGPU的环境时,遇到了几个问题,在网络上也少有较为系统的关于SiftGPU的介绍,因此觉得有必要记录下来,以便同样对此感兴趣的同学们少走弯路。

暑假的时候参加了高分举办的无人机大赛,在进行图像处理的时候用到过特征提取,当时主要是考虑SIFT和SURF两种方法,由于提取速度上的优势,我采用了SURF。比赛之后读过一些博客和文章,发觉SIFT的准确率应该更高一些,而我在比赛中也发现SURF偶尔会出现无法匹配的情况。OpenCV集成了SIFT算子,我们可以比较容易地利用其中的函数进行特征点的检测,而由于传统的SIFT算法速度较为缓慢,检测一张图片在台式机上通常都需要100+ms,因此传统的SIFT算法很难应用在无人机这种资源紧张而且对速度要求很高的平台上。目前我们组的无人平台上主要应用过ORBSLAM和VINS。

我的原计划是阅读Lowe的论文,理解算法的原理,而后对源码进行一定的优化以在特定的情景中加快检测速度,然而在一次组会中,老板提到了SiftGPU让我去了解一下,于是就有了这篇学习笔记。原作者Wu Changchang来自北卡罗来纳大学教堂山分校,高博文章中的下载链接基于此。

笔者使用的是Ubuntu 16.04的系统,工作机配置了CUDA9.0,笔记本配置的是CUDA9.2,OpenCV的版本都是3.2.0,关于OpenCV及其contrib的编译可以参照我的另一篇博文[环境配置]Ubuntu 16.04 源码编译安装OpenCV-3.2.0+OpenCV_contrib-3.2.0及产生的问题。SiftGPU大部分代码是基于OpenGL的,因此不编译CUDA也没有问题,两者速度的对比后面会提到。

 


下载和编译

源码编译之前我们需要安装一些包以及Glew。

$ sudo apt-get install libgl1-mesa-dev libglu1-mesa-dev freeglut3-dev libdevil-dev

Glew的源码位于其官网,下载最新版的即可,之后直接解压。

$ cd Downloads/glew-2.1.0
$ make
$ sudo make install

我们需要告诉系统的cmake工具编译好的文件的位置。

$ sudo ldconfig /usr/lib64/

接下来就是SiftGPU的编译了,Wu Changchang的源码链接已经失效,因此只能去万能的github上下载源码了。但是这个版本的SiftGPU有几处问题,编译之前需要更正,否则无法正确编译完成,为方便起见,我fork之后更新了需要更正的文件,放在我的github上,大家可以直接clone我更正后的代码,然后编译SiftGPU。

$ cd Downloads/SiftGPU
$ make

检查一下得到的bin/libsiftgpu.so的链接是否正确

$ ldd bin/libsiftgpu.so

如果得到如下的图片,说明编译成功,每一个库都找到了对应的位置。

 笔者对pitzer的源码主要更改了两个文件,首先一个关于freeglut的问题,报错如下

freeglut ERROR: Function <glutDestroyWindow> called without first calling 'glutInit'.

我们打开src/SiftGPU/LiteWindow.h,找到

virtual ~LiteWindow()   {  if(glut_id > 0) glutDestroyWindow(glut_id);  }

改为

virtual ~LiteWindow()   
{  
    if(glut_id > 0) 
    {
      int argc = 0;
      char** argv;
      glutInit(&argc, argv); 
      glutDestroyWindow(glut_id); 
    } 
}

第二个文件是src/SiftGPU/SiftGPU.h,在头文件处加一个

#include <stddef.h>

如果缺少这个头文件,会报如下的错误

/home/yao/Environment/SiftGPU/src/SiftGPU/SiftGPU.h:336:40: error: declaration of ‘operator new’ as non-function SIFTGPU_EXPORT void* operator new (size_t size);

测试与结果

测试代码我放在了我的github上,有兴趣的同学可以下载下来测试。

OpenGL

编译好之后我们当然需要来测试一下,笔者主要使用cmake从命令行进行编译,使用编译器的同学如果是调用cmake工具的话,应该步骤相同。首先我们创建一个工程文件夹,名字就叫test_SiftGPU,在文件夹下创建CMakeLists.txt

cmake_minimum_required(VERSION 2.8.3)
project(test_SiftGPU)

# OpenCV依赖
find_package( OpenCV REQUIRED )

# OpenGL
find_package(OpenGL REQUIRED)

# GLUT
find_package(GLUT REQUIRED)

# Glew
find_package(GLEW REQUIRED)

find_package(CUDA REQUIRED) # SiftGPU:手动设置其头文件与库文件所在位置 include_directories(
"/home/yao/Environment/SiftGPU/src/SiftGPU/" ${OpenGL_INCLUDE_DIR}) set(SIFTGPU_LIBS "/home/yao/Environment/SiftGPU/bin/libsiftgpu.so") add_executable( test_SiftGPU main.cpp ) target_link_libraries( testSiftGPU ${OpenCV_LIBS} ${SIFTGPU_LIBS} ${GLEW_LIBRARIES} ${GLUT_LIBRARIES} ${OPENGL_LIBRARIES} )

注意设置SiftGPU的路径时读者要改成自己的路径。此外高博的文章中写到需要为Glew写一个寻找其路径的cmake文件,但在我安装完Glew后cmake的modules文件夹下出现了FindGLEW.cmake这个文件,因此我们不需要专门为Glew写这个文件,直接加上GLEW的find_package代码,注意大写。

main.cpp我一开始使用了高博的代码,在用OpenCV读入图像的条件下,检测出一张640*480图像中所有的特征点需要不到10ms,但是我发现这个测试程序有一些问题,前一部分是测试直接读取一张图片进行Sift检测,后面是对同一张图片先读取再检测。当我注释掉前一段代码时,发现后一段代码无法运行,我必须取消注释检测那一句代码才可以运行,因此我推测后一段代码引用了前一段的结果。我重新改写了一份测试代码,测试速度还算是比较快,通过调参,可以在我的笔记本上达到30ms/帧的检测速度。

在定义部分,默认调用OpenGL,如果想要调用CUDA,换用另一个字符串指针即可,但是要预先安装好CUDA,以及配置好CUDA,配置过程在后面会写。


#include <SiftGPU.h>
#include <iostream>
#include <vector>
#include <opencv2/core/core.hpp>
#include <opencv2/highgui/highgui.hpp>
#include "opencv2/imgproc/imgproc.hpp"
#include <chrono>
#include <GL/gl.h>


using namespace std;
using namespace chrono;


int main( int argc, char** argv)
{
  //声明SiftGPU并初始化
  SiftGPU sift;
  char* myargv[5] = { "-m", "-s", "-unpa", "0"};
  //char* myargv[4] = {"-fo", "-1", "-cuda", "0"};
  sift.ParseParam(5, myargv);


  //检查硬件是否支持SiftGPU
  int support = sift.CreateContextGL();
  if ( support != SiftGPU::SIFTGPU_FULL_SUPPORTED )
  {
    std::cerr << "SiftGPU is not supported!" << std::endl;
    return 2;
  }


  sift.ParseParam(5, myargv);
  cv::Mat img = cv::imread("/home/yao/workspace/SIFT_detection/image/2.png");
  int width = img.cols;
  int height = img.rows;

  sift.AllocatePyramid(width, height);
  sift.SetTightPyramid(1);
  auto start_siftgpu = std::chrono::system_clock::now();
  sift.RunSIFT(width, height, img.data, GL_RGB, GL_UNSIGNED_BYTE);
  float time_cost = chrono::duration_cast<microseconds>(std::chrono::system_clock::now() - start_siftgpu).count() / 1000.0;
  std::cout << "siftgpu::runSIFT() cost time=" << time_cost << "ms" << std::endl;
  int num = sift.GetFeatureNum();
  std::cout << "Feature number=" << num << std::endl;
  std::vector<float> descriptors(128*num);
  std::vector<SiftGPU::SiftKeypoint> keys(num);

  auto start_siftfeature = std::chrono::system_clock::now();
  sift.GetFeatureVector(&keys[0], &descriptors[0]);

  return 0;
}

然后就是轻车熟路的cmake编译过程了。

$ mkdir build
$ cd build
$ cmake ..
$ make
$ ./test_SiftGPU

结果如下图所示

测试代码只调用了OpenGL,我笔记本的配置是i7-7700HQ,显卡GTX1050,读取一张图像后,提取出一张图像中所有的SIFT特征点只需要35毫秒,这相比较于传统的SIFT提取消耗的时间大大减小。多数情况下,我们都是调用OpenCV进行图像的读取以及后续的处理,因此使用SiftGPU可以加快提取特征点的速度。在无人机平台上,图像处理速度一般要求在20HZ以上,因此SiftGPU获取特征点的策略可以应用于无人机平台,与ORB等算子速度相当。

CUDA

我们切换至CUDA下进行特征点提取,关于调用CUDA来完成SiftGPU的测试,github上的原作者写的比较含糊,网络上也鲜有教程,因此特做记录如下。

首先切换至SiftGPU的安装路径,找到makefile中的

ifneq ($(simple_find_cuda), )
     siftgpu_enable_cuda = 0
else
    siftgpu_enable_cuda = 0
endif

CUDA_INSTALL_PATH = /usr/local/cuda
#change  additional  settings, like SM version here if it is not 1.0 (eg. -arch sm_13 for GTX280)
#siftgpu_cuda_options = -Xopencc -OPT:unroll_size=200000
#siftgpu_cuda_options = -arch sm_10

改为

ifneq ($(simple_find_cuda), )
     siftgpu_enable_cuda = 1
else
    siftgpu_enable_cuda = 0
endif

CUDA_INSTALL_PATH = /usr/local/cuda
#change  additional  settings, like SM version here if it is not 1.0 (eg. -arch sm_13 for GTX280)
#siftgpu_cuda_options = -Xopencc -OPT:unroll_size=200000
siftgpu_cuda_options = -arch sm_50

其中最后一行的sm_50取决于读者电脑的GPU算力,笔者笔记本使用的GPU是Pascal架构的GTX1050,算力为5.2,因此采用sm_50这个参数,关于不同GPU的算力可以参考这篇博客。之后重新编译安装SiftGPU。

$ make clean
$ make

我们切回到SiftGPU的测试程序,找到主程序main.cpp,取消注释下面这句

//char* myargv[4] = {"-fo", "-1", "-cuda", "0"};

然后cmake编译,就可以测试了,测试结果如下

调用CUDA检测处同样的一张图片中的所有特征点需要消耗31ms,与不调用CUDA的情况时间相差无几,依据SiftGPU的手册,分辨率低于1080p的时候,OpenGL速度较快,因此这种结果也可以接受。


总结

SIFT在特征点检测领域是一个非常优秀的算子,用于匹配准确率高,缺点是速度慢,而Wu Changchang提出的SiftGPU算法加快了特征点的提取,在CUDA的加成下相较于只调用OpenGL的SiftGPU速度提升有限,因此对于没有装CUDA的同学们来说这算是一个利好。7700HQ的CPU+GTX1050的显卡可以将一幅640*480的图像只用31毫秒便找出了所有的特征点,因此在无人机的轻量级运算平台上的应用很可期。

本文主要是介绍了SiftGPU的编译和使用过程,改进了源码的几处错误以便于正确编译,尝试了调用CUDA的方法,给出了解决方案,对SiftGPU的使用提供了较为系统的方法,同时给出了一个测试程序。欢迎读者提出指正与问题,便于讨论与共同进步。

 

posted on 2018-11-06 13:32  RichardYao1995  阅读(3074)  评论(1编辑  收藏  举报

导航