DIFY API [关键] 工作超时

u0njafvf 于 2个月前发布在其他

关注(0)|答案(1)|浏览(37)

自检

仅用于报告错误，如果您想提问，请访问 Discussions 。
我已搜索现有问题 search for existing issues ,包括已关闭的问题。
我确认我使用英文提交此报告(我已阅读并同意 Language Policy )。
请务必使用英文提交问题，否则会被关闭。谢谢！:)
请不要修改此模板 :) 并填写所有必需的字段。

Dify版本

0.6.15

云或自托管

自托管(Docker)

重现步骤

在运行DIFY API后，通常会出现以下错误日志，并且无法打开网页。
[2024-07-24 06:33:40 +0000] [1] [CRITICAL] WORKER TIMEOUT (pid:35)
[2024-07-24 06:33:41 +0000] [1] [ERROR] Worker (pid:35) was sent SIGKILL! Perhaps out of memory?
[2024-07-24 06:33:41 +0000] [39] [INFO] Booting worker with pid: 39

cpu和内存请求和限制

limits:
  cpu: 2
  memory: 8Gi
requests:
  cpu: 2
  memory: 8Gi

api服务器环境变量

GUNICORN_TIMEOUT=600  # I have tried setting 360, 600, 1200, and 3600, but all have problems.
CELERY_WORKER_AMOUNT=1

api服务器cpu和内存监控器

api版本

我尝试从0.6.8到最新版本0.6.15,仍然存在相同的问题。

dify

来源：https://github.com/langgenius/dify/issues/6617

1条答案

按热度按时间

vc9ivgsu1#

你好！我是一个机器人，可以帮助你解决DIFY API中的任何错误、问题或贡献。让我们一起解决你正在经历的问题。
要解决Dify API中的worker超时问题，你可以尝试以下步骤：

增加Gunicorn Workers和线程:
调整 GUNICORN_WORKERS 和 GUNICORN_THREADS 环境变量以更好地利用你的CPU核心。对于 GUNICORN_WORKERS 的推荐公式是：

number of cpu cores x 2 + 1

对于 GUNICORN_THREADS ,你可以从值4开始，并根据你的具体需求进行调整。

示例配置：

GUNICORN_WORKERS=5  # Assuming 2 CPU cores
GUNICORN_THREADS=4

检查内存泄漏:
确保你的应用程序代码中没有可能导致worker进程随着时间的推移消耗过多内存的内存泄漏。
优化Celery Worker配置:
CELERY_WORKER_AMOUNT 的默认值为1,但你可以根据工作负载和可用资源进行调整。
启用详细日志记录:
使用Dify的可观察性功能来监控和分析应用程序日志和性能。这可以帮助你识别导致超时的特定问题。
审查资源分配:
确保资源请求和限制适合你的工作负载。如果你的应用程序需要更多内存，你可能需要增加内存限制。
更新到最新版本:
确保你正在使用Dify的最新版本，因为更新可能包括性能改进和错误修复。

遵循这些步骤，你应该能够缓解worker超时问题，并提高你的Dify API部署性能。

要继续与 Dosu 交谈，请提及 @dosu。

赞(0）回复(0）举报 2个月前

我来回答