Files
ai_site/ai-service/etc/README.md
2026-07-31 10:31:17 +08:00

1.2 KiB
Raw Permalink Blame History

AI / LLM 配置说明

供应商、模型列表、默认通道写在 ai-service/etc/llm.yaml不要写在 Python 代码里

密钥仍放项目根 .envDEEPSEEK_API_KEY 等),配置文件只引用环境变量名(api_key_env)。

文件

路径 作用
ai-service/etc/llm.yaml 供应商、模型、视觉默认、别名
项目根 .env API Key、可选 LLM_PROVIDER / VISION_* 覆盖
AI_CONFIG_PATH / LLM_CONFIG_PATH 自定义配置文件绝对路径

Dockerdocker-compose.ymlllm.yaml 挂载到 /app/etc/llm.yaml

改配置后

./reload-config.sh ai
# 或
docker compose up -d --force-recreate ai

进程内配置有缓存;重启 ai 容器后生效。

增删供应商

providers: 下增加一段即可,例如:

providers:
  openai:
    label: OpenAI
    base_url: https://api.openai.com/v1
    api_key_env: OPENAI_API_KEY
    default_model: gpt-4o-mini
    models:
      - id: gpt-4o-mini
        label: gpt-4o-mini
    supports_vision: true
    json_mode: true

并在 .env 增加 OPENAI_API_KEY=...,控制台「模型」列表会从 /ai/api/v1/llm/providers 自动带出。