CPU GPU TPU NPU 的一些概念 和 使用

1. 硬件和驱动：

想要使用硬件，需要驱动。

不同硬件的驱动程序不同：对于GPU来说，有很多厂商都提供GPU硬件，如 英伟达，AMD等，不同厂商的硬件产品对应的驱动不同。对于英伟达的GPU硬件，其驱动名字是为 CUDA Driver 。

2. CUDA && CUDA Driver && CUDA Toolkit 都是什么？

CUDA（CUDA（Compute Unified Device Architecture，统一计算架构） ：英伟达通过CUDA使得人们可以对 本来只能用于图形展示的芯片GPU 变得 可以支持一些逻辑运算了

CUDA Driver 就是英伟达GPU硬件的驱动

CUDA Toolkit 提供了一些 CUDA-C CUDA-C++的编译器（这个编译器就是 NVCC），一些实用库、科学库等，一些 library API 及其示例代码

NVCC（NVIDIA CUDA Compiler）：将包含CUDA内核操作的 C/C++ 代码 编译为 可以被GPU处理的机器码，这样我们就可以通过指令来操作GPU这个本来用于图形渲染的硬件了

3.GPU的工作原理：