我希望在网页上部署类似效果。

CUDA_VISIBLE_DEVICES=0 python -m vllm.entrypoints.openai.api_server 
  --trust-remote-code 
  --max-model-len 4096 
  --model /qwen/Qwen1.5-14B-Chat 
  --enable-lora 
  --lora-modules lora1=/lora/xxx lora2=~/lora/xxx
curl --request POST 
  --url [http://localhost:8000/v1/chat/completions](http://localhost:8000/v1/chat/completions) 
  --header 'content-type: application/json' 
  --data '{
  "model": "lora2",
  "messages": [
    {
      "role": "system",
      "content": "You are a helpful assistant."
    },
    {
      "role": "user",
      "content": "China is a"
    }
  ],
  "stop_token_ids": [151645, 151644, 151643],
  "max_tokens": 5,
  "temperature": 0.7
}'

@xs818818 和 @v0.9.2 支持了 LoRa 的集成，参考文档为：https://inference.readthedocs.io/zh-cn/latest/models/lora.html。然而，目前不对 LoRa 模型进行管理，用户需要自行下载并与 LLM image 模型一起启动。

现在UI里如果填了lora config,应该如何请求呢？OpenAI的接口。