promptflow 优化的Dockerfile模板,用于构建自定义Prompt Flow容器,

67up9zun  于 3个月前  发布在  Docker
关注(0)|答案(2)|浏览(58)

您的功能请求是否与问题相关?请描述。

该功能请求与问题无关,而是优化Prompt Flow性能的一种可能性。

描述您希望的解决方案

pf flow build --format docker 命令基于 docker.io/continuumio/miniconda3:latest 添加了一个Dockerfile,具体位置如下:
promptflow/src/promptflow/tests/test_configs/flows/export/linux/Dockerfile
第2行在 8e55822
| | FROM docker.io/continuumio/miniconda3:latest |
这个方法可以工作,但会导致较长的Docker镜像构建时间和可能的不必要开销。

描述您考虑过的替代方案

我发现将此替换为以下Dockerfile可以显著提高构建速度,并使容器仓库的推送更快、更小:

# syntax=docker/dockerfile:1
FROM mcr.microsoft.com/azureml/promptflow/promptflow-runtime-stable:latest

WORKDIR /

COPY ./flow /flow

EXPOSE 8080

COPY ./connections/* /connections/

RUN pip install keyrings.alt -r /flow/requirements.txt

# reset runsvdir
RUN rm -rf /var/runit
COPY ./runit /var/runit
# grant permission
RUN chmod -R +x /var/runit

COPY ./start.sh /
CMD ["bash", "./start.sh"]

附加上下文

此文档页面还提到,为运行Prompt Flow创建的Dockerfiles应基于 promptflow-runtime-stable

klr1opcd

klr1opcd1#

感谢您的反馈!@TechPreacher
promptflow-runtime-stable 是一个针对 Azure 场景的镜像,它包含了额外的包和组件。
这是设计成使用一个更简单的基础镜像作为默认镜像。
目前用户可以更改它,如果他们希望使用其他镜像。
然而,我们计划推出一个新的 mcr 镜像,它只包含与 promptflow 执行器相关的包,作为 promptflow runtime 支持的 side-car 的一部分努力。
请期待长期的变化。

gopyfrb3

gopyfrb32#

感谢你的澄清,@wangchao1230

相关问题