环境信息:PaddlePaddle版本:1.5.0GPU信息:P4, CUDA 9.0 CUDNN 7.3系统环境:python版本 3.5.3
问题描述:paddle使用是fluid版,模型是在ernie基础上finetune的阅读理解模型,模型结构和ernie提供的demo一致。在预测时,以服务的形式提供外部访问,并且需要将两个模型同时加载到内存中。在两个模型并发调用时,会出现这个错误。详细信息如下:
xzlaal3s1#
看起来像是没有给py_reader设置data_reader:PyReader:https://www.paddlepaddle.org.cn/documentation/docs/zh/1.5/api_cn/io_cn.html#decorate_sample_list_generator
py_reader: https://www.paddlepaddle.org.cn/documentation/docs/zh/1.5/api_cn/layers_cn/io_cn.html#py-reader
edqdpe6u2#
已经通过decorate_tensor_provider设置了,而且这个单并发的跑infer可以正常,只有多并发跑才会有问题
2条答案
按热度按时间xzlaal3s1#
看起来像是没有给py_reader设置data_reader:
PyReader:
https://www.paddlepaddle.org.cn/documentation/docs/zh/1.5/api_cn/io_cn.html#decorate_sample_list_generator
py_reader: https://www.paddlepaddle.org.cn/documentation/docs/zh/1.5/api_cn/layers_cn/io_cn.html#py-reader
edqdpe6u2#
已经通过decorate_tensor_provider设置了,而且这个单并发的跑infer可以正常,只有多并发跑才会有问题