OmniRoute

#开源AI网关 #AI模型聚合 #OpenAI兼容接口 #本地部署 #自托管 #智能路由 OmniRoute 是一款主打 本地自托管的开源 AI 网关，它把大量 AI 模型提供商统一封装成一个 OpenAI 兼容接口，让 Claude Code、Cursor、Codex、Cline、Copilot、Antigravity 等工具可以直接接入使用。简单来说，你只需要配置一个本地端点，就能统一调用不同模型，并通过自动 fallback、智能路由和 token 压缩等能力，获得更稳定、更省钱、更灵活的 AI 调用体验。

软件功能

- 统一 AI 网关：将多个 AI 提供商聚合为一个 OpenAI 兼容接口，降低接入和切换成本。
- 本地自托管：支持在本地部署运行，数据和调用链路更可控，适合开发者和团队自建 AI 基础设施。
- 自动 fallback：当 quota 用尽、接口限速或服务异常时，可自动切换到下一个可用提供商，减少中断。
- Token 压缩优化：通过 RTK 与 Caveman 等压缩方案，在工具调用场景中降低 token 消耗。
- 智能路由策略：支持 auto、cheapest、fast 等多种路由策略，可按免费额度、成本、速度或订阅优先级进行调度。
- 主流工具兼容：可对接 Claude Code、Cursor、Codex、Cline、Copilot、Antigravity 等 AI 编程工具。
- 内置 MCP 能力：集成 MCP 工具体系，方便扩展更多自动化和 Agent 工作流。
- 高可用容错：提供多层容错机制，提升 AI 请求的稳定性和连续性。
- 高级能力支持：包含 A2A 协议、TLS 隐身、混合记忆、可视化仪表盘等硬核功能。