ragflow 解析时间太长了,

cbjzeqam  于 2个月前  发布在  其他
关注(0)|答案(6)|浏览(130)

描述你的问题

感谢你的工作。我已经在自己的服务器上部署了ragflow系统。
然而,当我上传PDF文件(2页)时,解析它需要很长时间(超过300秒)。

文件1的日志

流程开始于:
Tue, 16 Apr 2024 13:52:45 GMT
过程持续时间:
385.359
进度消息:
Page(1~2): OCR is running...
Page(1~2): OCR finished
Page(1~2): Layout analysis finished.
Page(1~2): Table analysis finished.
Page(1~2): Text merging finished
Page(1~2): Finished slicing files(3). Start to embedding the content.
Page(1~2): Finished embedding! Start to build index!
Page(1~2): Done!

文件2的日志

流程开始于:
Tue, 16 Apr 2024 14:08:13 GMT
过程持续时间:
771.436
进度消息:
Page(1~2): OCR is running...
Page(1~2): OCR finished
Page(1~2): Layout analysis finished.
Page(1~2): Table analysis finished.
Page(1~2): Text merging finished
Page(1~2): Finished slicing files(3). Start to embedding the content.
Page(1~2): Finished embedding! Start to build index!
Page(1~2): Done!
vfh0ocws

vfh0ocws1#

你可以尝试调用GPU资源进行解析。根据Docker部署的过程,GPU资源默认情况下不会被调用。在这里,通过检查"docker/docker-compose.yml"和"docker/docker-compose-cn.yml",可以看到在创建Docker容器时没有与GPU相关的配置。
你只需要停止并删除已经启动的相关容器,然后在这两个文件夹中添加以下配置,重新执行Docker Compose。再次进行解析时,你会发现调用GPU后速度会快很多。
例如,在docker-compose.yml文件中,可以按照以下方式完成:

s4chpxco

s4chpxco2#

是的,这需要很长时间。
值得。

5cg8jx4n

5cg8jx4n3#

你可以尝试调用GPU资源进行解析。根据Docker部署的过程,GPU资源默认情况下不会被调用。在这里,通过检查"docker/docker-compose.yml"和"docker/docker-compose-cn.yml",可以看到在创建Docker容器时没有与GPU相关的配置。

你只需要停止并删除已经启动的相关容器,然后在这两个文件夹中添加以下配置,重新执行Docker Compose。再次进行解析时,你会发现调用GPU后速度会快很多。

例如,在docker-compose.yml文件中,可以这样配置:

我尝试添加了gpu的配置,但是不起作用。是否需要特定的cuda或nvidia-driver版本?
我使用的cuda版本

mbzjlibv

mbzjlibv4#

你可以尝试调用GPU资源进行解析。根据Docker部署的过程,默认情况下不会调用GPU资源。在这里,通过检查"docker/docker-compose.yml"和"docker/docker-compose-cn.yml",可以看到在创建Docker容器时没有与GPU相关的配置。

你只需要停止并删除已经启动的相关容器,然后在这两个文件夹中添加以下配置,并重新执行Docker Compose。再次进行解析时,你会发现调用GPU后速度会快很多。

例如,在docker-compose.yml文件中,可以这样配置:

我尝试添加了gpu的配置,但是不起作用。是否需要特定的cuda或nvidia-driver版本?
我使用的cuda版本是NVIDIA-SMI 495.29.05 Driver Version: 495.29.05 CUDA Version: 11.5
这是我正在使用的版本,验证GPU解析可以正常调用。
你可以查看Docker Compose的版本,因为不同版本的Docker Compose的GPU挂载配置可能会有所不同。

amrnrhlw

amrnrhlw5#

在驱动程序525.125.06上运行完美 - CUDA 12.0
ragflow v2.0 6.0 - 于2024-05-22 16:30 GMT -3 AMERICA_SAO_PAULO_BR进行构建测试

nom7f22z

nom7f22z6#

你可以尝试调用GPU资源进行解析。根据Docker部署的过程,默认情况下不会调用GPU资源。在这里,通过检查"docker/docker-compose.yml"和"docker/docker-compose-cn.yml",可以看到在创建Docker容器时没有与GPU相关的配置。

你只需要停止并删除已经启动的相关容器,然后在这两个文件夹中添加以下配置,并重新执行Docker Compose。再次进行解析时,你会发现调用GPU后速度会快很多。

例如,在docker-compose.yml文件中,可以这样配置:

我已经尝试添加了gpu的配置,但是不起作用。是否需要特定的cuda或nvidia-driver版本?我使用的cuda版本是NVIDIA-SMI 495.29.05 Driver Version: 495.29.05 CUDA Version: 11.5。你需要CUDA 12,而且我认为对于CUDA 12的最低硬件要求是GTX 980的一代。

相关问题