cuda编程：完整cuda程序的七大步骤

东方耀

cuda编程：完整cuda程序的七大步骤：
1、设置显卡设备
2、分配显存空间
3、从内存拷贝数据到显存
4、执行并行操作(cuda的优势)
5、从显存拷贝结果到内存
6、释放显存空间
7、设备重置
如果是单GPU可以省掉1和7步骤

1. #include <iostream>
   
2. 
   
3. using namespace std;
   
4. 
   
5. 
   
6. __global__ void kernelFunc(float *a){
   
7.     a[threadIdx.x] = 1;
   
8. }
   
9. 
   
10. int main(){
    
11.     int gpuCount = -1;
    
12.     cudaGetDeviceCount(&gpuCount);
    
13.     printf("本机GPU的数量=%d\n",gpuCount);
    
14.     if(gpuCount < 1){
    
15.         printf("本机没有GPU设备！退出程序！\n");
    
16.         return 0;
    
17.     }
    
18.    
    
19.     cout << "1、设置显卡设备" << endl;
    
20.     cudaSetDevice(gpuCount-1);
    
21.    
    
22.     int device_id;
    
23.     cudaGetDevice(&device_id);
    
24.     printf("看一下设备是否设置成功？device_id=%d\n",device_id);
    
25.     //可以查看当前GPU设备的信息
    
26.     cudaDeviceProp prop;
    
27.     cudaGetDeviceProperties(&prop, device_id);
    
28.     printf("设备名字=%s\n", prop.name);
    
29.     printf("maxThreadsPerBlock=%d\n", prop.maxThreadsPerBlock);
    
30.     printf("maxThreadsDim[0]=%d\n", prop.maxThreadsDim[0]);
    
31.     printf("maxGridSize[0]=%d\n", prop.maxGridSize[0]);
    
32.     printf("totalConstMem=%ld\n", prop.totalConstMem);
    
33.     printf("totalGlobalMem=%ld\n", prop.totalGlobalMem);
    
34.     printf("compute capability算力=%d.%d\n", prop.major, prop.minor);
    
35.     printf("clockRate=%d\n", prop.clockRate);
    
36.     printf("是否集成显卡integrated=%d\n", prop.integrated);
    
37. 
    
38.     float *aGpu;  // gpu上的数组指针
    
39.     cout << "2、分配显存空间" << endl;
    
40.     cudaMalloc(&aGpu, 16*sizeof(float));
    
41.     float a[16] = {0};  //内存空间 分配了
    
42.     cout << "3、从内存拷贝数据到显存" << endl;
    
43.     cudaMemcpy(aGpu, a, 16*sizeof(float), cudaMemcpyHostToDevice);
    
44.     cout << "4、执行并行操作(cuda的优势)" << endl;
    
45.     //<<<blockNum, threadNum>> >
    
46.     kernelFunc<<<1, 16>>>(aGpu);   // 1个block   16个线程
    
47.     cout << "5、从显存拷贝结果到内存" << endl;
    
48.     cudaMemcpy(a, aGpu, 16*sizeof(float), cudaMemcpyDeviceToHost);
    
49.     //打印一下看看是否修改了？
    
50.     for (int i =0; i<16;i++){
    
51.         printf("%f ", a[i]);
    
52.     }
    
53.     printf("\n");
    
54.     cout << "6、释放显存空间" << endl;
    
55.     cudaFree(aGpu);
    
56.     cout << "7、设备重置" << endl;
    
57.     cudaDeviceReset();
    
58. 
    
59.     return 0;
    
60. }
    
61. 
    
62. 
    

复制代码

1. CMAKE_MINIMUM_REQUIRED(VERSION 2.8)
   
2. PROJECT(jiang)
   
3. SET(CMAKE_CXX_FLAGS "-std=c++11")
   
4. FIND_PACKAGE(CUDA REQUIRED)
   
5. CUDA_ADD_EXECUTABLE(jiang main.cu)
   
6. TARGET_LINK_LIBRARIES(jiang)

复制代码

1. 本机GPU的数量=1
   
2. 1、设置显卡设备
   
3. 看一下设备是否设置成功？device_id=0
   
4. 设备名字=GeForce RTX 2070
   
5. maxThreadsPerBlock=1024
   
6. maxThreadsDim[0]=1024
   
7. maxGridSize[0]=2147483647
   
8. totalConstMem=65536
   
9. totalGlobalMem=8366784512
   
10. compute capability算力=7.5
    
11. clockRate=1620000
    
12. 是否集成显卡integrated=0
    
13. 2、分配显存空间
    
14. 3、从内存拷贝数据到显存
    
15. 4、执行并行操作(cuda的优势)
    
16. 5、从显存拷贝结果到内存
    
17. 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000
    
18. 6、释放显存空间
    
19. 7、设备重置
    

复制代码

zouqiqi

让天下人人学会人工智能！人工智能的前景一片大好！