tensorrt安装windows

tensorrt安装windows

以下是在 Windows 上安装 TensorRT 的详细步骤:

  1. 前提条件检查
    • 拥有英伟达显卡,且显存 8GB 以上(30 系、40 系等新卡更好)。
    • 安装了英伟达显卡驱动,版本需大于等于 530。

  2. 安装 CUDA
    • 根据 TensorRT 的版本要求,下载兼容的 CUDA 版本。例如,可前往英伟达官方网站的 CUDA 下载页面,选择适合您系统的版本(如 CUDA 12.1 等)。下载完成后,双击安装程序,安装位置可选择默认。
    • 安装完成后,确认 CUDA 的库文件路径和二进制文件路径已添加到系统的环境变量中。您可以在命令提示符中输入 nvcc -V 来检查 CUDA 是否安装成功。

  3. 安装 cuDNN
    • 在英伟达官方网站上下载与您安装的 CUDA 版本相匹配的 cuDNN。比如,如果您安装的是 CUDA 12.1,就选择适合 CUDA 12.x 的 cuDNN 版本。
    • 将下载的 cuDNN 压缩包解压,找到 CUDA 的安装目录(例如 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1),然后将 cuDNN 解压后的对应文件夹中的文件复制到 CUDA 安装目录下的相应文件夹。具体来说,需要复制 3 次,分别将 cuDNN 的 bin 文件夹下的文件复制到 CUDA 的 bin 文件夹,include 文件夹下的文件复制到 CUDA 的 include 文件夹,lib 文件夹下的文件复制到 CUDA 的 lib 文件夹。

  4. 安装 TensorRT
    • 从英伟达官方网站下载 TensorRT 的压缩包。需注意选择与您的 CUDA 版本和系统相匹配的版本。
    • 解压下载的 TensorRT 压缩包。
    • 将 TensorRT 解压后的 bin 文件夹中的所有动态链接库(.dll 文件)复制到 CUDA 的 bin 文件夹。
    • 将 TensorRT 的 include 文件夹复制到 CUDA 的 include 文件夹。
    • 将 TensorRT 的 lib 文件夹中的静态库(.lib 文件)复制到 CUDA 的 lib 文件夹。

  5. 安装 TensorRT 的 Python 包(如果需要在 Python 中使用)
    • 进入解压后的 TensorRT 文件夹中的 python 子文件夹。
    • 使用 pip 命令安装该文件夹下对应的 .whl 文件。例如,如果您的 Python 版本是 3.8,就安装 tensorrt-xxx-cp38-none-win_amd64.whl(其中 xxx 为具体的版本号)。您可能还需要安装 graphsurgeonuffonnx_graphsurgeon 等相关的 Python 包。

  6. 验证安装
    • 打开命令提示符或 Python 解释器,输入 import tensorrt,如果没有报错并能正确打印出 TensorRT 的版本信息,则说明安装成功。


tensorrt安装windows

看过该文章的人还看了