多模型支持
主模型 + Failover、OpenAI 兼容协议、模型切换
多模型支持
OpenVort 支持灵活的 LLM 配置,确保服务持续可用。
主模型
推荐使用 Anthropic Claude(Claude Sonnet 4 或更高版本),这是 OpenVort 的默认和最佳适配模型。Claude 的 tool use 能力是 OpenVort Agent 循环的核心。
Failover 机制
当主模型 API 不可用时(超时、限流、服务故障),自动切换到备用模型继续服务。
配置方式:
OPENVORT_LLM_PROVIDER=anthropic
OPENVORT_LLM_API_KEY=sk-ant-...
OPENVORT_LLM_MODEL=claude-sonnet-4-20250514
# Fallback
OPENVORT_LLM_FALLBACK_PROVIDER=openai_compatible
OPENVORT_LLM_FALLBACK_BASE_URL=https://api.deepseek.com
OPENVORT_LLM_FALLBACK_API_KEY=sk-...
OPENVORT_LLM_FALLBACK_MODEL=deepseek-chat
OpenAI 兼容协议
任何支持 OpenAI Chat Completions API 格式的模型都可以作为 Failover 目标,包括:
- DeepSeek
- 通义千问
- Moonshot
- 本地模型(如 Ollama)