CUDA -- cuda测试中的计时方式(程序/工具)

写CUDA，追求的就是加速比，想要得到准确的时间，计时函数就是必不可少

计时通常分为两种情况，（1）直接得到接口函数的时间，一般用于得到加速比；（2）获得接口函数内核函数、内存拷贝函数等所耗时间，一般用于优化代码时。 

情况（1）方法有两种，CPU计时函数和GPU计时函数。

情况（2）有三种工具nsight，nvvp，nvprof

本文会详细介绍情况（1）的两种方法；情况（2）简单介绍一下nvvp和nvprof的用法。

CPU计时函数 

在利用CPU计时函数时，要考虑的一个问题是：核函数的执行是异步执行的，所以必须加上核函数同步函数，才能得到准确的时间。

示例代码如下：

double cpuSecond() {

    struct timeval tp;

    gettimeofday(&tp,NULL);

    return ((double)tp.tv_sec + (double)tp.tv_usec*1.e-6);

}

double iStart = cpuSecond();

function(argument list);

cudaDeviceSynchronize();  // 同步函数

double iElaps = cpuSecond() - iStart;

 

GPU计时函数

GPU计时函数就不需要考虑同步问题，直接用计时事件函数就可以了，

示例代码如下：

cudaEvent_t start, stop;

float elapsedTime = 0.0;

cudaEventCreate(&start);

cudaEventCreate(&stop);

cudaEventRecord(start, 0);

function(argument list);;

cudaEventRecord(stop, 0);

cudaEventSynchronize(stop);

cudaEventElapsedTime(&elapsedTime, start, stop);

cout << elapsedTime << endl; 

cudaEventDestroy(start);

cudaEventDestroy(stop);

 

nvvp和nvprof的用法

nvprof是自cuda5.0开始存在的一个命令行Profiler，你可以只用nvprof来你代码的一些执行细节。简单用法如下：

$ nvprof ./sumArraysOnGPU-timer

你就可以得到如下：

 

 

关于nvprof的更多参数信息，可以使用帮助命令：

$ nvprof --help

The NVIDIA Visual Profiler（nvvp）是一款图形化界面的Profiler

看文档  https://wenku.baidu.com/view/5796a1d2ad51f01dc281f1f9.html