使用CUDA计算GPU的理论显存带宽

---

一、显存带宽和理论显存带宽

1. 显存带宽

显存带宽是指显存和GPU计算单元之间的数据传输速率。

显存带宽越大，意味着数据传输越快，那么GPU整体的计算速度也会越快。所以该指标可以作为我们评估核函数运行速度的评价指标。

2. 理论显存带宽

1）计算公式

理论显存带宽由具体硬件所定义。计算公式为：

理论显存带宽 = 显存频率（Hz） * 显存位宽（bit） / 8 * 2    
// 这里除以8是因为位宽的单位是bit，我们要转成 byte
// * 2 是因为 DDR（double data rate）
1
2
3

2）举例

以我的笔记本电脑为例：

GPU型号: NVIDIA GeForce RTX 3050 4GB Laptop GPU
显存频率：7001000 kHz
显存位宽：64 bit

理论显存带宽 = (7001000 * 1000)Hz * (64 / 8)byte * 2 = 112016000000 byte/s ≈ 112 GB/s
1
2
3
4
5

与鲁大师的检测结果一致：

---

二、利用CUDA计算理论显存带宽

主要使用到了cudaGetDeviceProperties()函数。该函数用于获取GPU的相关属性信息。

具体代码如下：

#include "cuda_runtime.h"
#include "device_launch_parameters.h"

void CalTheoreticalBandWidth()
{
    int deviceCount;
    cudaGetDeviceCount(&deviceCount);               // 获取设备上的GPU个数

    for (int i = 0; i < deviceCount; ++i) {
        cudaDeviceProp deviceProp;
        cudaGetDeviceProperties(&deviceProp, i);    // 获取当前GPU的相关属性


        std::cout << "GPU: " << i << std::endl;
        std::cout << "Name: " << deviceProp.name << std::endl;
        std::cout << "Bit width: " << deviceProp.memoryBusWidth << " bit" << std::endl;
        std::cout << "Memory clock rate: " << deviceProp.memoryClockRate << " kHz" << std::endl;

        int bw = static_cast<size_t>(deviceProp.memoryClockRate) * 1000 * deviceProp.memoryBusWidth / 8 * 2 / 1000000000;
        
        std::cout << "Theoretical band width = " << bw << " GB/s" << std::endl;
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

运行结果：

GPU: 0
Name: NVIDIA GeForce RTX 3050 4GB Laptop GPU
Bit width: 64 bit
Memory clock rate: 7001000 kHz
Theoretical band width = 112 GB/s
1
2
3
4
5