OpenCL设备端并行执行内核

OpenCL设备端并行执行内核

Vortex存储库的tests/OpenCL目录中有OpenCL测试程序。OpenCL程序分为主机代码[cc|cpp]和设备代码kernel.cl。

OpenCL通过在设备端并行执行内核来加快速度。在tests/opencl/sgemm中的代码作为一个具体的例子。代码经过了轻微修改，使差异更加清晰。

1）展示主机上运行的main.cc中的matmul函数，代码如下。

void matmul(const float* A,

            const float* B,

            float*       C,

            int          N) {

  for (int i = 0; i < N; ++i) {

    for (int j = 0; j < N; ++j) {

      float acc = 0.0f;

      for (int k = 0; k < N; ++k) {

        acc += A[i + k * N] * B[k + j * N];

      }

      C[i + j * N] = acc;

    }

  }

}

2）在与上述功能相对应的设备上，运行kernel.cl的程序，代码如下。

__kernel void sgemm(__global const float* A,

                    __global const float* B,

                    __global float*       C,

                    int                   N) {

  const int i = get_global_id(0);

  const int j = get_global_id(1);

  float acc = 0.0f;

  for (int k = 0; k < N; ++k) {

    acc += A[i + k * N] * B[k + j * N];

  }

  C[i + j * N] = acc;

}

OpenCL通过在设备端并行执行内核来优化加速，如图1-41所示。

图1-41 OpenCL通过在设备端并行执行内核来加快速度