TensorRT使用——①安装

下载

TensorRT官网：https://developer.nvidia.com/tensorrt

TensorRT下载：https://developer.nvidia.com/nvidia-tensorrt-download

* 需结合CUDA版本、驱动版本等选择TensorRT版本，尽可能使用高版本

安装

TensorRT安装包开箱即用，无需编译。

1. 解压

mv TensorRT-8.4.3.1.Linux.x86_64-gnu.cuda-11.6.cudnn8.4.tar.gz /usr/local
 
tar -zxvf TensorRT-8.4.3.1.Linux.x86_64-gnu.cuda-11.6.cudnn8.4.tar.gz

2. 修改环境变量

#tensort
export LD_LIBRARY_PATH=/usr/local/TensorRT-8.4.3.1/lib:$LD_LIBRARY_PATH
export LIBRARY_PATH=/usr/local/TensorRT-8.4.3.1/lib:$LIBRARY_PATH

3. 测试

cd samples/sampleMNIST
make
../../bin/sample_mnist

如果输出类似以下的情况，则说明安装成功。