嘿，@gsrinivaskishan!我在这里协助你解决任何错误、问题或贡献。让我们一起解决这个问题。
要解决在AWS示例上托管Quivr时聊天和大脑创建/更新API的CORS问题，你需要在FastAPI应用程序中配置CORS设置。你可以使用CORSMiddleware从fastapi.middleware.cors允许必要的源。
以下是如何配置CORS设置的示例：

from fastapi.middleware.cors import CORSMiddleware

origins = [
    "http://localhost",
    "http://localhost:3000",
    "http://localhost:3001",
    "https://quivr.app",
    "https://www.quivr.app",
    "http://quivr.app",
    "http://www.quivr.app",
    "https://chat.quivr.app",
    "*",
]

def add_cors_middleware(app):
    app.add_middleware(
        CORSMiddleware,
        allow_origins=origins,
        allow_credentials=True,
        allow_methods=["*"],
        allow_headers=["*"],
    )

用实际应该被允许访问你的API的域名替换origins列表。这个配置将启用CORS并指定哪些源、方法和头是允许的1(https://github.com/QuivrHQ/quivr/blob/main/cms/quivr/config/middlewares.js)2(https://github.com/QuivrHQ/quivr/blob/main/backend/middlewares/cors.py)。

• 要继续与Dosu交谈，请提及@dosu。*

@dosu
Still get the error after changing cors.py file for fast API.
Eg:
from fastapi.middleware.cors import CORSMiddleware
origins = [
"http://localhost",
"http://localhost:3000",
"http://localhost:3001",
"https://quivr.app",
"https://www.quivr.app",
"http://quivr.app",
"http://www.quivr.app",
"https://chat.quivr.app",
"http://localhost:5050",
"http://3.7.0.:3000",
"http://3.7.0.:5050",
"*",
]
def add_cors_middleware(app):
app.add_middleware(
CORSMiddleware,
allow_origins=origins,
allow_credentials=True,
...
How to skip this error?
Also getting this issue when using chat along with CORS error in browser:
File "/usr/local/lib/python3.11/site-packages/litellm/llms/openai.py", line 879, in async_streaming
backend-core | response = await openai_aclient.chat.completions.create(
How to enable only Local LLM like ollama for Quivr in AWS instance?

要解决CORS问题并在AWS示例中仅启用本地LLM(如Ollama)以供Quivr使用，请按照以下步骤操作：

解决CORS问题

1. 更新cors.py配置:
   确保backend/middlewares/cors.py中的origins列表只包含您需要的特定来源。删除通配符"*"以避免允许所有来源。

from fastapi.middleware.cors import CORSMiddleware

origins = [
    "http://localhost",
    "http://localhost:3000",
    "http://localhost:3001",
    "http://your-aws-instance-domain",  # Add your AWS instance domain
]

def add_cors_middleware(app):
    app.add_middleware(
        CORSMiddleware,
        allow_origins=origins,
        allow_credentials=True,
        allow_methods=["*"],
        allow_headers=["*"],
    )

1. 确保正确的域名配置:
   确保您用于访问Quivr示例的域名包含在origins列表中。

仅启用本地LLM(如Ollama)

1. 安装Ollama:
   从他们的website安装Ollama。然后运行以下命令以在后台运行Ollama:

ollama run llama2

2. 运行迁移:
   移动迁移文件并重置数据库：

mv supabase/migrations/local_20240107152745_ollama.sql supabase/migrations/20240107152745_ollama.sql
supabase db reset

3. 将Ollama模型添加到Quivr:
   转到supabase,并在user_settings表中，将以下值添加到models列中：

[
  "ollama/llama2",
  "ollama/mistral"
]

如果您想将其设置为默认值，则可以使用以下命令删除整个表：

DELETE TABLE user_settings;

4. 更新.env文件:
   确保.env文件正确配置以激活Ollama。取消注解并将OLLAMA_API_BASE_URL设置为Ollama API的本地URL:

# LOCAL
OLLAMA_API_BASE_URL=http://host.docker.internal:11434

通过遵循这些步骤，您应该能够解决CORS问题并在您的AWS示例1(https://github.com/QuivrHQ/quivr/blob/main/backend/middlewares/cors.py)2(https://github.com/QuivrHQ/quivr/blob/main/docs/developers/contribution/llm/ollama.mdx)3(https://github.com/QuivrHQ/quivr/blob/main/.env.example)中启用Ollama LLM。

• 要继续与Dosu交谈，请提及@dosu。*