使用PaddleInference推理,推理时内存暴涨

mm5n2pyu  于 2023-02-04  发布在  其他
关注(0)|答案(5)|浏览(211)

bug描述 Describe the Bug

使用这个模型训练自己的场景数据就会出现推理一瞬间内存暴涨情况,模型加载时内存是正常的。使用模型: https://paddledet.bj.bcebos.com/models/mask_rcnn_r50_vd_fpn_2x_coco.pdparams,

推理使用PaddleDetection中的deploy/python/infer.py进行推理,就会出现上图的这个推理瞬间内存出现暴涨的现象。但是同样的实例分割模型同一批训练数据在PaddlePaddle1.8.4框架上训练后,在PaddlePaddle1.8.4上推理显存占用情况是正常的,如下图所示,另外在PaddlePaddle1.8.4框架上训练的模型,也在PaddlePaddle2.3.2以及2.4.2上测试过推理,也是正常的

版本&环境信息 Version & Environment Information
Paddle version: 2.4.1
Paddle With CUDA: 11.2
PaddleDetection:2.5
CMake version: version 3.25.1
Python version: 3.8.15

其他补充信息 Additional Supplementary Information

No response

fhg3lkii

fhg3lkii1#

您好,我们已经收到了您的问题,会安排技术人员尽快解答您的问题,请耐心等待。请您再次检查是否提供了清晰的问题描述、复现代码、环境&版本、报错信息等。同时,您也可以通过查看 官网API文档常见问题历史IssueAI社区 来寻求解答。祝您生活愉快~

Hi! We've received your issue and please be patient to get responded. We will arrange technicians to answer your questions as soon as possible. Please make sure that you have posted enough message to demo your request. You may also check out the APIFAQGithub Issue and AI community to get the answer.Have a nice day!

iyr7buue

iyr7buue2#

查看一下是否存在大图输入的情况呢

nwwlzxa7

nwwlzxa73#

没有大图了,两种方式的 图片大小都是一样的,720*1280的图

nmpmafwu

nmpmafwu4#

请问显存异常情况是在Paddle 哪个版本推理时出现的,不同版本的 Paddle 都是使用 deploy/python/infer.py 脚本推理的吗,输入的batch大小是多少啊, "模型加载时内存是正常的" 是指什么?

vm0i2vca

vm0i2vca5#

显存异常在PaddlePaddle2.3.2和2.4.1均出现过,训练推理使用的都是一样版本的框架。推理均是使用PaddleDetection2.5分支下的deploy/python/infer.py进行的,batch_size为1。模型加载时内存正常是指只进行load操作,显存大约会占800M左右。

相关问题