在仅具有CPU的机器上从源代码构建vllm是否可能?

f8rj6qna  于 2个月前  发布在  其他
关注(0)|答案(2)|浏览(74)

我的Dockerfile如下:

FROM nvcr.io/nvidia/pytorch:23.07-py3

RUN git clone https://github.com/vllm-project/vllm
RUN cd vllm && git checkout v0.2.7

RUN cd vllm && pip install -e .

当我在没有GPU的机器上运行Docker时,出现了以下错误。是否有可能从没有GPU的机器上构建vllm,然后在有GPU的机器上运行Docker镜像?

相关问题