【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2

文章指引:Win10 安装 Tensorrt和torch2trt教程

1 电脑环境

系统:Win10
显卡:NVIDIA GeForce RTX 3090
cuda版本:CUDA 11.6.2
python版本:3.9
TensorRT安装版本:8.5.1.7

2 问题描述

在使用TensorRT-8.5.1.7,发布模型和推理发布的trt模型时出现警告,TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2 (类似问题见文章 [1]

3 直接原因

TensorRT版本与CUDA、cudnn版本不对应。

4 解决办法

4.1 更新CUDA到对应的tensorRT版本

1)官方tensorrt下载链接:点这里
2)tensorrt 8.x.说明文档:点这里

官方tensorrt下载截图,本人选择windows TensorRT 8.5.1.7版本。

tensorRT下载截图
tensorRT下载截图
cuda选择11.6.2,如下所所示(截图地址)。
在这里插入图片描述

4.2 更新cudnn到对应的tensorRT版本

4.2.1 在cuda安装目录中更新

将cudnn-windows-x86_64-8.6.0.163_cuda11-archive解压后的三个文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6中。
参考教程:Cuda和cuDNN安装教程(超级详细)[3]
在这里插入图片描述

在这里插入图片描述

4.2.2 (如果继续提示标题所示警告)针对conda安装torch,在anaconda的torch目录中更新

将cudnn-windows-x86_64-8.6.0.163_cuda11-archive\bin目录下文件在这里插入图片描述
复制到目录下:D:\ProgramData\Anaconda3\envs\yolox_resrgan\Lib\site-packages\torch\lib。(说明:yolox_resrgan是本人创建的anaconda虚拟环境)
在这里插入图片描述

5 查看安装torch、cuda和cudnn版本号

import torch
print(torch.version)
print(torch.version.cuda)
print(torch.backends.cudnn.version())
在这里插入图片描述

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
心中带点小风骚的头像心中带点小风骚普通用户
上一篇 2023年3月4日 下午12:14
下一篇 2023年3月4日 下午12:15

相关推荐