【GitHub项目推荐--OpenRelay:打破AI配额壁垒的智能代理网关】⭐⭐⭐
自动发现的 Provider 和配额状态一键配置 Claude Code、OpenClaw、Aider...IDE 代理——Cursor、Windsurf、VS Code Copilot自定义模型组自动故障转移简介OpenRelay 是由开发者 romgX 构建的一款开源 AI 代理工具旨在解决当前 AI 生态中“订阅孤岛”的痛点。在当前的 AI 使用环境中用户往往拥有多个来源的 AI 配额Claude Pro 订阅绑定在 Claude Desktop、Kiro 提供免费额度、Groq 提供高速推理以及各类 IDE 内置的 Copilot 额度。这些配额通常无法互通导致资源浪费或工具中断。OpenRelay 扮演了一个本地智能路由器的角色。它通过自动发现机制扫描本地环境中的各类 AI 订阅包括 IDE 内置配额、浏览器 Cookie、API Key并将它们统一聚合为一个标准的 OpenAI/Anthropic 兼容 API 端点http://localhost:18765。用户只需将任意支持 OpenAI API 的工具指向该端点即可自由调度所有被发现的配额实现“一个工具用尽所有模型”的目标。主要功能自动发现与聚合自动提取 Claude Desktop、Claude Code、Kiro、Windsurf、Antigravity、OpenCode、VS Code Copilot 等 32 个提供商8 个 IDE 提供商 24 个直连 API 提供商的配额无需手动配置 API Key。协议转换与代理将不同提供商的原生协议如 Claude 的 Message API、Gemini 的 REST API统一转换为标准的 OpenAI Chat Completions API 格式兼容绝大多数 AI 工具。IDE 无缝接入提供针对特定 IDE 的深度代理模式包括 Cursor RPC 代理、Windsurf RPC 代理、VS Code Copilot BYOK 桥接允许用户使用外部模型替换 IDE 内置的耗尽模型。模型组与故障转移支持创建虚拟模型组如fast-group将 Groq、Cerebras、SambaNova 等多个后端组合当一个后端配额耗尽或超时自动切换到下一个确保 AI 永不停机。零数据泄露安全所有凭据Cookie、Token、Key仅在本地内存处理请求直连 AI 后端不经过任何中转服务器且不记录请求内容。安装与配置OpenRelay 提供预编译的单一二进制文件支持 macOS (Intel/Apple Silicon)、Linux 和 Windows。下载二进制从 GitHub Releases 页面下载对应平台的openrelay-{platform}文件。赋予执行权限Unix 系统chmod x openrelay-macos-arm64解除隔离macOS 必需由于二进制未签名需移除隔离属性xattr -d com.apple.quarantine openrelay-macos-arm64运行执行./openrelay-macos-arm64服务将启动在http://localhost:18765。访问面板浏览器打开http://localhost:18765界面支持中英双语。首次启动后工具会自动扫描并列出所有可用的提供商及其配额状态。如何使用1. 配置 CLI 工具如 Aider, Claude Code对于命令行工具只需修改环境变量将请求指向 OpenRelay 的本地端点Anthropic 系工具Claude Code, Aiderexport ANTHROPIC_BASE_URLhttp://localhost:18765 export ANTHROPIC_API_KEYunused # 此处填任意值即可OpenAI 系工具export OPENAI_BASE_URLhttp://localhost:18765 export OPENAI_API_KEYunused2. 使用 Web 面板一键配置在 Web 面板的“工具配置”页面选择对应的工具如 Claude Code点击“启用”开关面板会直接显示需要复制的环境变量命令执行后即可生效。3. 路径路由OpenRelay 支持通过 URL 路径指定提供商。例如想让 Aider 专门使用 Kiro 的免费配额只需设置export ANTHROPIC_BASE_URLhttp://localhost:18765/kiro4. 使用模型组在面板中创建模型组添加多个后端如 Groq DeepSeek。在工具配置中将模型名称设置为自定义的组名如my-groupOpenRelay 会自动进行负载均衡和故障转移。应用场景实例实例 1续命耗尽 IDE 配额场景开发者使用的 Cursor IDE 每月 500 次免费请求已用完但手头有 Groq 的免费额度或 Claude Pro 订阅。应用启动 OpenRelay在面板中开启 Cursor RPC 代理。OpenRelay 会劫持 Cursor 的 RPC 通信将请求路由至 Groq 或 Claude。开发者无需修改 Cursor 配置即可继续享受无限制的 AI 编程辅助且响应速度可能更快。实例 2统一管理散落配额场景用户同时是 Kiro 用户50 免费 credits、Groq 用户免费高速、Gemini 用户免费 100 万上下文。平时需要在不同终端窗口切换不同的环境变量来使用不同工具。应用OpenRelay 启动后自动发现这三者。用户只需统一设置OPENAI_BASE_URLlocalhost:18765然后在不同场景下通过面板切换默认提供商或使用路径路由如/groq用于需要速度的代码生成/gemini用于需要长上下文的分析。实例 3构建高可用 AI 工作流场景自动化脚本依赖 LLM 进行决策不能因为单一 API 的速率限制或故障而中断。应用在 OpenRelay 中创建名为backup的模型组优先级设置为Groq (最快) - DeepSeek (便宜) - 本地 Ollama (兜底)。脚本始终请求modelbackup。当 Groq 免费额度超限返回 429 错误时OpenRelay 会在 1 秒内自动重试 DeepSeek保证脚本连续运行。GitHub 地址项目仓库https://github.com/romgX/openrelay许可证框架部分代理、格式转换采用 MIT 许可证高级功能模型组、无限请求需商业授权Open Core 模式。
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2428385.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!