一、核心思维转换:从"循环"到"线程"
1.1 CPU程序员的思维习惯
CPU上处理一批数据,本能写法是一个for循环:
for (int i = 0; i < N; i++) {
c[i] = a[i] + b[i];
}
这个循环里,"i"是一个不断变化的变量,
同一份代码,被同一个CPU核心,按顺序执行N次,
每次执行时i的值不一样。
1.2 GPU上的对应思维
CUDA的写法,是把这个循环"拆开摊平":
不再是"一个线程,跑N次循环,每次处理一个i"
而是"直接开N个线程,每个线程只负责处理一个固定的i,
每个线程只执行一次"
kernel函数体内,看起来就像是把for循环里的"循环体"
单独拿出来,把循环变量i换成了通过threadIdx/blockIdx
算出来的全局索引:
__global__ void addKernel(float *a, float *b, float *c)
{
int i = blockIdx.x * blockDim.x + threadIdx.x;
c[i] = a[i] + b[i]; // 就是循环体本身,i换成了全局索引
}
这就是"CPU循环 → kernel"最核心的思维转换:
CPU版本:一个执行单元,循环N次
GPU版本:N个执行单元,各自执行1次
两者要做的计算内容(循环体里的那一行)是完全一样的,
变的只是"由谁、执行几次"这个组织方式。
1.3 转换的通用步骤
面对一段