您的功能请求是否与问题相关?请描述。
该功能请求与问题无关,而是优化Prompt Flow性能的一种可能性。
描述您希望的解决方案
pf flow build --format docker
命令基于 docker.io/continuumio/miniconda3:latest
添加了一个Dockerfile,具体位置如下:
promptflow/src/promptflow/tests/test_configs/flows/export/linux/Dockerfile
第2行在 8e55822
| | FROM docker.io/continuumio/miniconda3:latest |
这个方法可以工作,但会导致较长的Docker镜像构建时间和可能的不必要开销。
描述您考虑过的替代方案
我发现将此替换为以下Dockerfile可以显著提高构建速度,并使容器仓库的推送更快、更小:
# syntax=docker/dockerfile:1
FROM mcr.microsoft.com/azureml/promptflow/promptflow-runtime-stable:latest
WORKDIR /
COPY ./flow /flow
EXPOSE 8080
COPY ./connections/* /connections/
RUN pip install keyrings.alt -r /flow/requirements.txt
# reset runsvdir
RUN rm -rf /var/runit
COPY ./runit /var/runit
# grant permission
RUN chmod -R +x /var/runit
COPY ./start.sh /
CMD ["bash", "./start.sh"]
附加上下文
此文档页面还提到,为运行Prompt Flow创建的Dockerfiles应基于 promptflow-runtime-stable
。
2条答案
按热度按时间klr1opcd1#
感谢您的反馈!@TechPreacher
promptflow-runtime-stable 是一个针对 Azure 场景的镜像,它包含了额外的包和组件。
这是设计成使用一个更简单的基础镜像作为默认镜像。
目前用户可以更改它,如果他们希望使用其他镜像。
然而,我们计划推出一个新的 mcr 镜像,它只包含与 promptflow 执行器相关的包,作为 promptflow runtime 支持的 side-car 的一部分努力。
请期待长期的变化。
gopyfrb32#
感谢你的澄清,@wangchao1230