当前位置:首页 > 系统教程 > 正文

Ubuntu 22.04 安装 TensorRT 完全指南

Ubuntu 22.04 安装 TensorRT 完全指南

(从零开始轻松掌握深度学习推理加速)

欢迎来到本教程!本文将手把手教你如何在 Ubuntu 22.04 系统上安装 TensorRT,NVIDIA 的高性能深度学习推理优化器。通过 GPU加速,TensorRT 能显著提升模型的推理速度,是部署生产级应用的利器。无论你是初学者还是资深开发者,都能轻松跟上。

1. 环境准备:驱动与 CUDA

在安装 TensorRT 前,请确保系统已安装 NVIDIA 显卡驱动和 CUDA。TensorRT 8.x 通常需要 CUDA 11.x 支持。检查驱动:nvidia-smi,检查 CUDA:nvcc --version。若无,请先前往 NVIDIA 官网下载对应驱动和 CUDA 11.8 或更高版本。

Ubuntu 22.04 安装 TensorRT 完全指南 深度学习推理 GPU加速 第1张

2. 安装方法一:使用 deb 包(推荐)

此方法最简单,自动处理依赖。添加 NVIDIA 官方仓库:

    sudo apt-get updatesudo apt-get install -y wgetwget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.0-1_all.debsudo dpkg -i cuda-keyring_1.0-1_all.debsudo apt-get update  

然后安装 TensorRT:

    sudo apt-get install tensorrt  

安装完成后,可安装 Python 支持(可选):sudo apt-get install python3-libnvinfer-dev

3. 安装方法二:使用 tar 包(灵活)

若需定制路径,可从 NVIDIA 官网下载对应 Ubuntu 22.04 的 TensorRT tar 包。解压后设置环境变量:

    cd ~/Downloadstar -xzvf TensorRT-8.x.x.x.Ubuntu-22.04.x86_64-gnu.cuda-11.x.tar.gzexport LD_LIBRARY_PATH=$LD_LIBRARY_PATH:~/Downloads/TensorRT-8.x.x.x/libexport PATH=$PATH:~/Downloads/TensorRT-8.x.x.x/bin  

建议将上述 export 命令添加到 ~/.bashrc 中以便持久化。

4. 验证安装

使用 trtexec 工具测试:trtexec --version。若能显示版本信息,则安装成功。也可编写简单的 Python 程序导入 tensorrt 模块并打印版本:

    python3 -c "import tensorrt as trt; print(trt.version)"  

5. 常见问题

  • CUDA 版本不匹配: TensorRT 对 CUDA 版本有要求,务必使用兼容版本。
  • libnvinfer.so 找不到: 检查 LD_LIBRARY_PATH 是否包含 TensorRT 的 lib 目录,或执行 sudo ldconfig
  • Python 导入失败: 确保安装了 python3-libnvinfer-dev 或正确设置了 PYTHONPATH。

通过以上步骤,你已经成功在 Ubuntu 22.04 上安装了 TensorRT,现在可以尽情享受 深度学习推理 带来的极致 GPU加速 体验了!如果在安装过程中遇到任何问题,欢迎在评论区留言交流。