描述你的问题
感谢你的工作。我已经在自己的服务器上部署了ragflow系统。
然而,当我上传PDF文件(2页)时,解析它需要很长时间(超过300秒)。
文件1的日志
流程开始于:
Tue, 16 Apr 2024 13:52:45 GMT
过程持续时间:
385.359
进度消息:
Page(1~2): OCR is running...
Page(1~2): OCR finished
Page(1~2): Layout analysis finished.
Page(1~2): Table analysis finished.
Page(1~2): Text merging finished
Page(1~2): Finished slicing files(3). Start to embedding the content.
Page(1~2): Finished embedding! Start to build index!
Page(1~2): Done!
文件2的日志
流程开始于:
Tue, 16 Apr 2024 14:08:13 GMT
过程持续时间:
771.436
进度消息:
Page(1~2): OCR is running...
Page(1~2): OCR finished
Page(1~2): Layout analysis finished.
Page(1~2): Table analysis finished.
Page(1~2): Text merging finished
Page(1~2): Finished slicing files(3). Start to embedding the content.
Page(1~2): Finished embedding! Start to build index!
Page(1~2): Done!
6条答案
按热度按时间vfh0ocws1#
你可以尝试调用GPU资源进行解析。根据Docker部署的过程,GPU资源默认情况下不会被调用。在这里,通过检查"docker/docker-compose.yml"和"docker/docker-compose-cn.yml",可以看到在创建Docker容器时没有与GPU相关的配置。
你只需要停止并删除已经启动的相关容器,然后在这两个文件夹中添加以下配置,重新执行Docker Compose。再次进行解析时,你会发现调用GPU后速度会快很多。
例如,在docker-compose.yml文件中,可以按照以下方式完成:
s4chpxco2#
是的,这需要很长时间。
值得。
5cg8jx4n3#
你可以尝试调用GPU资源进行解析。根据Docker部署的过程,GPU资源默认情况下不会被调用。在这里,通过检查"docker/docker-compose.yml"和"docker/docker-compose-cn.yml",可以看到在创建Docker容器时没有与GPU相关的配置。
你只需要停止并删除已经启动的相关容器,然后在这两个文件夹中添加以下配置,重新执行Docker Compose。再次进行解析时,你会发现调用GPU后速度会快很多。
例如,在docker-compose.yml文件中,可以这样配置:
我尝试添加了gpu的配置,但是不起作用。是否需要特定的cuda或nvidia-driver版本?
我使用的cuda版本
mbzjlibv4#
你可以尝试调用GPU资源进行解析。根据Docker部署的过程,默认情况下不会调用GPU资源。在这里,通过检查"docker/docker-compose.yml"和"docker/docker-compose-cn.yml",可以看到在创建Docker容器时没有与GPU相关的配置。
你只需要停止并删除已经启动的相关容器,然后在这两个文件夹中添加以下配置,并重新执行Docker Compose。再次进行解析时,你会发现调用GPU后速度会快很多。
例如,在docker-compose.yml文件中,可以这样配置:
我尝试添加了gpu的配置,但是不起作用。是否需要特定的cuda或nvidia-driver版本?
我使用的cuda版本是
NVIDIA-SMI 495.29.05 Driver Version: 495.29.05 CUDA Version: 11.5
这是我正在使用的版本,验证GPU解析可以正常调用。
你可以查看Docker Compose的版本,因为不同版本的Docker Compose的GPU挂载配置可能会有所不同。
amrnrhlw5#
在驱动程序525.125.06上运行完美 - CUDA 12.0
ragflow v2.0 6.0 - 于2024-05-22 16:30 GMT -3 AMERICA_SAO_PAULO_BR进行构建测试
nom7f22z6#
你可以尝试调用GPU资源进行解析。根据Docker部署的过程,默认情况下不会调用GPU资源。在这里,通过检查"docker/docker-compose.yml"和"docker/docker-compose-cn.yml",可以看到在创建Docker容器时没有与GPU相关的配置。
你只需要停止并删除已经启动的相关容器,然后在这两个文件夹中添加以下配置,并重新执行Docker Compose。再次进行解析时,你会发现调用GPU后速度会快很多。
例如,在docker-compose.yml文件中,可以这样配置:
我已经尝试添加了gpu的配置,但是不起作用。是否需要特定的cuda或nvidia-driver版本?我使用的cuda版本是
NVIDIA-SMI 495.29.05 Driver Version: 495.29.05 CUDA Version: 11.5
。你需要CUDA 12,而且我认为对于CUDA 12的最低硬件要求是GTX 980的一代。