多模型支持

主模型 + Failover、OpenAI 兼容协议、模型切换

多模型支持

OpenVort 支持灵活的 LLM 配置,确保服务持续可用。

主模型

推荐使用 Anthropic Claude(Claude Sonnet 4 或更高版本),这是 OpenVort 的默认和最佳适配模型。Claude 的 tool use 能力是 OpenVort Agent 循环的核心。

Failover 机制

当主模型 API 不可用时(超时、限流、服务故障),自动切换到备用模型继续服务。

配置方式:

OPENVORT_LLM_PROVIDER=anthropic
OPENVORT_LLM_API_KEY=sk-ant-...
OPENVORT_LLM_MODEL=claude-sonnet-4-20250514

# Fallback
OPENVORT_LLM_FALLBACK_PROVIDER=openai_compatible
OPENVORT_LLM_FALLBACK_BASE_URL=https://api.deepseek.com
OPENVORT_LLM_FALLBACK_API_KEY=sk-...
OPENVORT_LLM_FALLBACK_MODEL=deepseek-chat

OpenAI 兼容协议

任何支持 OpenAI Chat Completions API 格式的模型都可以作为 Failover 目标,包括:

  • DeepSeek
  • 通义千问
  • Moonshot
  • 本地模型(如 Ollama)