OpenRelay

OpenRelay是什么？

OpenRelay是一款开源AI代理工具，帮助用户将分布在各平台工具中不同AI模型配额集中到本地并进行统一调度，只使用一个本地端点就可以利用 AI模型进行多工具的远程调用。适合开发者、AI Agent 和用户团队集中管理多模型的配额，防止配额用尽中断。

OpenRelay主要功能

• 自动发现与聚合配额：启动后自动侦测到本地已安装或登录的AI工具（比如：Claude Desktop、Claude Code、Kiro、Windsurf、Antigravity、VS Code Copilot 等 8 家 IDE 提供商），并且有添加 34 个直接对接API提供商（比如：Groq、Gemini API、DeepSeek、OpenRouter 等），将各自封闭的订阅和免费额度集中到一个面板进行管理。
• 统一API端点接入：将不同提供者的原生协议（例如：Claude Message API、Gemini REST API）统一适配为 OpenAI / Anthropic 兼容 API 格式，对外暴露一个本地端点（http://localhost:18765），所有支持 OpenAI 或 Anthropic API 的工具只需设置环境变量指向这个端点，即可用到所有被聚合的模型配额。
• IDE 深度集成代理：提供针对 Cursor、Windsurf、VS Code Copilot、Antigravity 等IDE的专用代理模式（RPC 代理、BYOK 桥接等），当IDE自身配额耗尽时，可以无缝接入外部的聚合配额，无需调整 IDE环境设置即可使用。
• 模型组与故障转移：可以将不同的后端 Provider 组成一个自定义模型组，如果某个 Provider 上的配额用完或者有请求失败，系统就会切换到该组中的下一个 Provider，确保AI不断线。
• Web 控制面板：直观可视的本地管理页面，可以查看所有 Provider 配额状况，一键设置 CLI 入口的环境变量，不用编辑配置文件、记忆复杂命令。

适用场景

• AI开发配额管理：开发者日常自己开发中使用到的多个 AI 辅助工具，比如 Claude Code、Aider、Cursor 等，彼此间配额不发生冲突。通过 OpenRelay 可将 Claude Pro 配额、Kiro 免费配额、Groq 高速推理等多种来源配额进行拼接调度，避免某单一工具的额度用完即中断工作。
• AI Agent 长时间运行：AI Agent 实在执行一个较长且无法中途回收的任务时，会出现单个配额用尽或者出现请求超时的问题。Agent 可以配置模型组故障转移，当一个 Provider 配额用尽后自动迁移到备份 Provider，保证长耗时任务的连续性。
• 免费模型资源整合：开发者有多个免费 AI 模型的账号（例如 Groq、Cerebras、SambaNova、Gemini API 等），手动使用费时费力。OpenRelay将免费配额汇聚于一处暴露成一个入口点，一个工具有机调用免费配额资源。
• 跨团队协作：多人协作的团队中，不同成员可能各自持有不同的 AI 服务账号或订阅。通过将各成员配额在本地代理中统一管理和调度，可以更高效地分配和利用团队中的 AI 资源。 

OpenRelay怎么使用？

1. 访问OpenRelay的GitHub Releases页面，下载适用于你操作系统的二进制文件（Windows、macOS 或 Linux），把文件保存到本地的一个文件夹下。
2. 如果是 Windows 上安装，直接双击 .exe 文件运行即可；如果是 macOS 或者 Linux，打开终端，进入文件所在文件夹，用 cd 命令运行 chmod +x 赋予 .exe 文件执行权限，macOS 还要运行 xattr -d com.apple.quarantine 解除文件沙盒操作，最后用 ./ 开头的二进制文件打开服务。
3. 运行后在终端会有类似 http://localhost:18765 的信息，浏览器会自动打开该 URL 打开 OpenRelay 的 Web 管理界面。
4. 第1次打开管理面板，OpenRelay会自动扫描本地安装的AI工具（Claude Desktop、Cursor、VS Code Copilot等），将工具的剩余额度聚合在一起，不用手动填入API Key。
5. 然后在面板的“Keys”中生成一个主 API Key，这个 Key 用来供第三方工具连接到 OpenRelay 的统一代理端点上。
6. 在“模型组”页面中可以自定义故障转移序列：将不同 Provider（如 Kiro、Groq、Gemini 等）都添加，从上到下按顺序设置 Provider，当第 1 个 Provider 配额空掉时 OpenRelay 自动迁移到下一个 Provider，让 AI 的调用不间断。
7. 设置好了，就可以用你自己最常用的 AI 工具接入到 OpenRelay 里：对支持OpenAI协议的工具（例如 Aider）设置环境变量 OPENAI_BASE_URL=http://localhost:18765/v1 和 OPENAI_API_KEY=你的 API Key；对支持 Anthropic 的工具（例如 Claude Code）设置 ANTHROPIC_BASE_URL=http://localhost:18765 和 ANTHROPIC_API_KEY=你的 API Key；
8. 如果你想更深入地集成到 Cursor、Windsurf 等 IDE 里，把 Web 界面里对应工具的“RPC 代理”开关打开就可以，IDE 就用 OpenRelay 的模型限额了，不用设置环境变量。