请问需要安装哪个cuda和cudnn版本呢 about tensorrt-for-yolo-series

[JiaPai12138]

补充:
Tensorrt 8.2.5.1 不会出现任何警告
但实际上可以通过

logger = trt.Logger(trt.Logger.WARNING)
logger.min_severity = trt.Logger.Severity.ERROR
runtime = trt.Runtime(logger)

来取消警告显示

但是 Tensorrt 8.2 和 Tensorrt 8.4 量化的模型不能通用 (8.4下生成的模型无法用 8.2 的依赖推理)
测试下 8.4 生成的模型体积较小 (体积大约是8.2生成的86.8%), 并且最终推理速度快大约 7.5%
测试的模型为 yolov6n 416*416, fp32, 显卡为 GTX 1660 ti max q, 语言为py(完全是本仓库源码)

[JiaPai12138]

降到cudnn 8.2.4 就可以继续运行了

CUDA 11.4~11.6 都可行
Tensorrt 8.2 ~ 8.4 都测试可行, 建议 8.4

[Linaom1214]

重新开启了这个issue，希望有同样问题的同学可以看到。

[Linaom1214]

补充: Tensorrt 8.2.5.1 不会出现任何警告 但是 Tensorrt 8.2 和 Tensorrt 8.4 量化的模型不能通用 (8.4下生成的模型无法用 8.2 的依赖推理) 测试下 8.4 生成的模型体积较小 (体积大约是8.2生成的86.8%), 并且最终推理速度快大约 7.5% 测试的模型为 yolov6n 416*416, fp32, 显卡为 GTX 1660 ti max q

最后是使用Python还是c++做部署呢？

[JiaPai12138]

补充: Tensorrt 8.2.5.1 不会出现任何警告 但是 Tensorrt 8.2 和 Tensorrt 8.4 量化的模型不能通用 (8.4下生成的模型无法用 8.2 的依赖推理) 测试下 8.4 生成的模型体积较小 (体积大约是8.2生成的86.8%), 并且最终推理速度快大约 7.5% 测试的模型为 yolov6n 416*416, fp32, 显卡为 GTX 1660 ti max q

最后是使用Python还是c++做部署呢？

py部署 用您的源码
我的垃圾显卡达到400 fps

[1994sugar]

补充: Tensorrt 8.2.5.1 不会出现任何警告 但是 Tensorrt 8.2 和 Tensorrt 8.4 量化的模型不能通用 (8.4下生成的模型无法用 8.2 的依赖推理) 测试下 8.4 生成的模型体积较小 (体积大约是8.2生成的86.8%), 并且最终推理速度快大约 7.5% 测试的模型为 yolov6n 416*416, fp32, 显卡为 GTX 1660 ti max q

最后是使用Python还是c++做部署呢？

py部署 用您的源码 我的垃圾显卡达到400 fps
您好，您用py部署时是与flask一起使用的吗？

[JiaPai12138]

20221115更新(这问题可以置顶么23333):
CUDA11.4-11.7 Cudnn 8.4
下载这个官方文档里指示的文件并解压
将其中的zlibwapi.dll复制到CUDA安装目录下的bin文件夹内
见证奇迹的时刻~~