Ubuntu 22.04安装TensorRT教程：深度学习推理加速的完整指南（小白也能轻松上手的NVIDIA TensorRT配置实战）

第一步：安装前的关键准备工作

在正式开始Ubuntu 22.04安装TensorRT的步骤之前，系统的软硬件环境必须满足要求。TensorRT本身不包含显卡驱动和CUDA工具包，因此这是所有后续工作的基石 -1-4。

1.1 安装NVIDIA显卡驱动

首先，你需要确保系统已经安装了NVIDIA显卡驱动。可以通过 nvidia-smi 命令来检查。如果命令未找到或报错，则说明需要安装驱动 -4。

安装步骤简述：

1. 禁用开源驱动nouveau：编辑 /etc/modprobe.d/blacklist.conf 文件，在末尾添加 blacklist nouveau，然后执行 sudo update-initramfs -u 并重启 -4。
2. 下载官方驱动：访问NVIDIA官网下载对应你显卡型号的驱动程序。
3. 安装驱动：给下载的.run文件添加执行权限 sudo chmod a+x NVIDIA-Linux-.run，然后执行 sudo sh NVIDIA-Linux-.run 进行安装 -8。

安装完成后再次运行 nvidia-smi，如果看到显卡信息列表，则表示驱动安装成功。

1.2 安装CUDA和cuDNN

TensorRT的安装依赖于特定版本的CUDA和cuDNN -2-7。你需要根据后续安装的TensorRT版本要求，选择合适的CUDA版本（例如CUDA 11.x 或 12.x）。CUDA Toolkit包含了CUDA的编译器（nvcc）和库文件 -4。安装方法推荐使用runfile或deb包。

cuDNN则是深度神经网络的加速库，需要从NVIDIA开发者网站下载与CUDA版本匹配的cuDNN包，并进行解压和复制操作 -4。

第二步：选择并下载TensorRT安装包

完成上述依赖安装后，就可以着手进行Ubuntu22.04安装TensorRT的核心环节了。TensorRT提供了多种安装方式，如pip、Debian和Tar包等 -2-6。

• pip安装：最简单快捷，适合仅进行Python开发的用户，命令为 pip install tensorrt -2。
• Debian安装：适合系统级安装，便于管理，但需要root权限 -2-8。
• Tar压缩包安装：最为灵活，可以解压到任意目录，便于多版本管理，也是很多教程推荐的方式，因为可以避免一些包管理器的依赖问题 -4-6。

本教程以Tar包安装为例，因为它对初学者更友好，也更容易排查问题。首先，访问NVIDIA官网的TensorRT下载页面，选择与你的CUDA版本和系统架构（Ubuntu 22.04对应Linux x86_64）匹配的Tar压缩包进行下载 -4。

第三步：TensorRT的解压与环境变量配置

下载完成后，打开终端，执行解压命令。通常将TensorRT解压到 /usr/local 目录下是一个不错的选择，这样可以与其他系统库放在一起 -4-5。

sudo tar -xzvf TensorRT-10.x.x.x.Linux.x86_64-gnu.cuda-xx.x.tar.gz -C /usr/local

环境变量配置：这是TensorRT安装教程中至关重要的一步，目的是让系统和编译器能找到TensorRT的库和头文件。编辑用户的配置文件 ~/.bashrc：

vim ~/.bashrc

在文件末尾添加以下内容（请将路径中的版本号替换为你实际解压的文件夹名）：

export LD_LIBRARY_PATH=/usr/local/TensorRT-10.x.x.x/lib:$LD_LIBRARY_PATHexport C_INCLUDE_PATH=/usr/local/TensorRT-10.x.x.x/include:$C_INCLUDE_PATHexport CPLUS_INCLUDE_PATH=/usr/local/TensorRT-10.x.x.x/include:$CPLUS_INCLUDE_PATH

保存退出后，执行以下命令使环境变量立即生效：

source ~/.bashrc

第四步：验证TensorRT安装是否成功

完成上述所有步骤后，我们最后一步就是验证TensorRT安装是否成功。一个可靠的方法是编译并运行TensorRT自带的样例程序（samples）-4-8。

进入TensorRT的样例目录，例如 sampleOnnxMNIST，然后使用 make 命令进行编译。

cd /usr/local/TensorRT-10.x.x.x/samples/sampleOnnxMNISTsudo make

编译完成后，进入生成的可执行文件所在目录并运行它。如果程序能够成功执行，输出MNIST手写数字识别的结果，那么恭喜你，你的NVIDIA TensorRT配置已经大功告成！ -4

至此，我们已经详细地走完了Ubuntu22.04安装TensorRT的每一个环节。从环境准备到最后的验证，每一步都至关重要。TensorRT作为业界领先的推理优化器，将极大地助力你的AI应用实现更高吞吐量和更低延迟 -9。如果在安装过程中遇到任何问题，记得检查CUDA和cuDNN的版本兼容性，以及环境变量是否正确设置 -7。希望这篇详细的TensorRT安装教程能帮助你扫清障碍，顺利步入高性能推理的世界。