我正在基于官方的 ollama/ollama 镜像构建一个容器镜像，并希望在这个镜像中存储我打算提供的模型，这样在启动后就不需要拉取它。使用场景是在自动扩展的容器环境中运行 Ollama。
问题是，今天，在使用 ollama pull 命令之前，Ollama 需要 ollama serve。

预期

我希望能使用一个非常简单的 Dockerfile,如下所示：

FROM ollama/ollama
RUN ollama pull gemma:2b
CMD ["serve"]

观察到

我不能使用一个简单的 Dockerfile,我需要使用一个 bash 脚本来启动服务器，等待其启动，然后在启动后拉取模型：

wait_for_ollama() {
  while ! nc -z localhost 8080; do 
    sleep 1  # Wait 1 second before checking again
  done
}

# Start ollama serve in the background
ollama serve & 

# Wait for ollama serve to start listening
wait_for_ollama
echo "ollama serve is now listening on port 8080"

# Run ollama pull
ollama pull gemma:2b

# Indicate successful completion
echo "ollama pull gemma:2b completed"

然后我在 Dockerfile 中引用它：

FROM ollama/ollama
ADD pull.sh /
RUN ./pull.sh
CMD ["serve"]