Picodet模型导出Onnx出错 about paddle2onnx

[Zheng-Bicheng]

RKNN不支持NMS，需要你把Picodet的输出裁剪到NMS之前

[ff-stone]

我是 paddle2onnx 时出错，不是onnx转rknn时出错

[ff-stone]

(my_paddlex210_onnx) C:\Users\lenovo>paddle2onnx --model_dir H:\paddlex_workspace\P0025-T0128_export_model\inference_model\inference_model --model_filename H:\paddlex_workspace\P0025-T0128_export_model\inference_model\inference_model\model.pdmodel --params_filename H:\paddlex_workspace\P0025-T0128_export_model\inference_model\inference_model\model.pdiparams --save_file H:\paddlex_workspace\P0025-T0128_export_model\inference_model\inference_model\picodet.onnx --enable_dev_version True
[Paddle2ONNX] Start to parse PaddlePaddle model...
[Paddle2ONNX] Model file path: H:\paddlex_workspace\P0025-T0128_export_model\inference_model\inference_model\model.pdmodel
[Paddle2ONNX] Paramters file path: H:\paddlex_workspace\P0025-T0128_export_model\inference_model\inference_model\model.pdiparams
[Paddle2ONNX] Start to parsing Paddle model...
[Paddle2ONNX] LodTensorArray is not supported.
[Paddle2ONNX] Oops, there are some operators not supported yet, including conditional_block,lod_array_length,select_input,tensor_array_to_tensor,while,write_to_array,
[ERROR] Due to the unsupported operators, the conversion is aborted.

[Zheng-Bicheng]

• 1 PaddleDetection导出模型时设置nms=true
• 2 固定Picodet模型的输入shape测试一下
• 3 详细查看FastDeploy PaddleDetection RKNPU2模型转换教程

[ff-stone]

您好！可是我是 paddle2onnx 时出错，不是onnx转rknn时出错 在 2024-02-29 11:58:34，"Zheng-Bicheng" ***@***.***> 写道： RKNN不支持NMS，需要你把Picodet的输出裁剪到NMS之前 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: ***@***.***>

[Zheng-Bicheng]

您好！可是我是 paddle2onnx 时出错，不是onnx转rknn时出错

这是很简单的道理：如果你的模型转换的终点是RKNN模型，那么在RKNN不支持NMS的情况下，你的ONNX模型即使带了NMS有什么意义呢？最简单的办法就是直接在Paddle模型层面裁剪掉NMS及其后面的算子，降低出错的概率。其次，我不明白你这边为什么有这么多不支持的算子，因为我之前测试过PaddleDetetcion2.5是可以直接导出的，即使带了NMS，是不是PaddleDetection版本太低了？

[ff-stone]

我不是用PaddleDetection中的Picodet，是PaddleX2.1.0 GUI 中用Picodet网络训练导出的模型，我想导出onnx后再裁剪 在 2024-03-05 14:04:04，"Zheng-Bicheng" ***@***.***> 写道： 您好！可是我是 paddle2onnx 时出错，不是onnx转rknn时出错 这是很简单的道理：如果你的模型转换的终点是RKNN模型，那么在RKNN不支持NMS的情况下，你的ONNX模型时即使带了NMS有什么意义呢？最简单的办法就是直接在Paddle模型层面裁剪掉NMS及其后面的算子，降低出错的概率。其次，我不明白你这边为什么有这么多不支持的算子，因为我之前测试过PaddleDetetcion2.5是可以直接导出的，即使带了NMS，是不是PaddleDetection版本太低了？ — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: ***@***.***>

[Zheng-Bicheng]

那这个需要你问一下PaddleX那边为啥用旧版本的PaddleDetection了，现在Paddle2ONNX应该没有人力来适配旧版本的算子了。

[ff-stone]

好的，谢谢！

…

---- 回复的原邮件 ---- | 发件人 | ***@***.***> | | 日期 | 2024年03月05日 14:11 | | 收件人 | ***@***.***> | | 抄送至 | ***@***.***>***@***.***> | | 主题 | Re: [PaddlePaddle/Paddle2ONNX] Picodet模型导出Onnx出错 (Issue #1163) | 那这个需要你问一下PaddleX那边为啥用旧版本的PaddleDetection了，现在Paddle2ONNX应该没有人力来适配旧版本的算子了。 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: ***@***.***>