llm-gateway
管理多模型路由与虚拟密钥的 LLM 网关
- Stars
- 49
- Forks
- 7
- 入选分
- 60
DoDoT 编辑摘要已校验 · 2026年8月18日
LLM Gateway 是一个生产级 LLM 网关管理系统,提供直观的 Web UI 来管理多个 LLM 提供商、虚拟密钥、路由配置和模型。支持负载均衡、故障转移、健康监控、意图路由分类和 PII 保护,兼容 OpenAI 和 Anthropic 等 API 端点。适合需要统一管理多模型接入的团队或开发者。
亮点
- 20+ 提供商支持
- 虚拟密钥与限流
- 健康监控页面
- 意图路由分类
适合
- 需要统一管理多 LLM 提供商的团队
- 构建 AI 应用并希望简化 API 接入的开发者
- 需要监控模型健康与性能的运维人员
需要留意
- 需要自行部署并配置 MySQL 数据库
- 生产环境需修改 JWT_SECRET 为强随机字符串
- PII 保护等计算密集功能需要更高配置
更新记录来源于 GitHub 增量同步
还没有可公开更新
后续 release、重要提交区间或仓库状态变化会按增量同步记录在这里。
讨论等待第一条公开评论
还没有公开讨论
新评论必须真实写入并通过相应审核规则后才会出现在这里。