(二)cuda学习笔记之 cuda基本概念

Cuda编程基本概念

CUDA C基础

Cuda C是对c/c++语言进行拓展后形成的变种，兼容C/C++语法，文件类型为.cu文件，编译器使用的是nvcc。相比传统的C/C++，主要添加了一下几个方面：

函数类型限定符（如__global__, __device__，__host__）

执行配置运算符

五个内置变量

变量类型限定符

其他的还有数学函数，原子函数，纹理函数，绑定函数等

函数限定符

用来确定某个函数是在CPU还是GPU上执行，以及这个函数是在从CPU调用还是从GPU调用。

__device__ 表示从GPU上调用，在GPU上执行

__global__ 表示从CPU上调用，在GPU上执行，也称为kernel函数

__host__ 表示在CPU上调用，在CPU上执行

执行配置运算符

cuda核函数使用<<<>>>形式，用来传递内核函数的执行参数，格式如下：

kernel<<<\gridDim,blockDim, memSize, stream>>>(para1, para2,…);

gridDim表示网格的大小，可以为1维，2维或者3维

blockDim表示块的大小，可以为1维，2维或者3维

memSize表示动态分配的共享存储器大小，默认为0

stream表示执行的流，默认位0

para1,para2等为核函数参数

5个内置变量

gridDim：包含三个元素x,y,z的结构体，表示Grid在三个方向上的尺寸，对应于执行配置中的第一个参数。

blockDim：包含三个元素x,y,z的结构体，表示Block在三个方向上的尺寸，对应于执行配置中的第二个参数。

blockIdx: 包含三个元素x,y,z 的结构体，分别表示当前线程所在块在网格中x,y,z方向上的索引。

threadIdx:包含三个元素x,y,z的结构体，分别表示当前线程在其线程在其所在块中x,y,z方向上的索引。

warpSize：表示warp的大小。

如何确定线程索引？

1. 一维结构

首先从简单的一维结构来确认线程索引。如下图所示：



grid在x,y,z方向上都有block, block在x,y,z三个方向都有thread。因此对于一维结构来说，x方向上thread索引为：

int tid = threadIdx.x + blockIdx.x * blockDim.x

2.二维结构

gpu中的线程的二维结构如图所示：



计算如下：

//左边有x个线程

int x = threadIdx.x + blockIdx.x * blockDim.x

//上方有x个线程

int y = threadIdx.y + blockIdx.y * blockDim.y

//线程id

id = x + y * blockDim.x * gridDim.x