用 Rust 写的开源 AI 网关：一个二进制里带管理控制台，放在应用和各家模型服务之间，统一 API、路由、限额、缓存和安全护栏。
星数 376（+41 / 24h）
理由
- 后端可接 OpenAI、Azure、Anthropic、Bedrock、Vertex、Gemini、Mistral、DeepSeek、xAI 及任何 OpenAI / Anthropic 兼容服务（如 vLLM），客户端协议之间自动转换
- 按请求决定的回退链、加权分流、最低成本 / 最低延迟路由、重试、对冲和熔断，结果记进请求日志
- 组织、团队、项目、Key 四级的美元或 token 预算与限流；护栏覆盖 PII、密钥、JSON schema、工具权限和提示注入检测
- 作者称在同一台 4 vCPU 机器上，每秒 5000 请求时中位开销 0.53 ms，而 Bifrost 为 19.7 ms、LiteLLM 全部报错
用法
- docker run -p 8080:8080 -p 8081:8081 -v antirion-data:/var/lib/antirion eliasbiondo/antirion，首次启动会打印控制台地址和一次性管理员 token
- 在 http://localhost:8081/ui/ 里添加模型服务和模型、创建 API Key，然后把任何 OpenAI SDK 的 base URL 指向 http://localhost:8080/v1
风险
- 性能数字是作者自己的基准测试，最小配置下关闭了请求日志和缓存，生产配置下表现未知
- 仓库 10 月中旬才建，生产可用性有待观察；许可证 Apache-2.0