sileya-ai
/
litellm-gateway
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity
LiteLLM API Gateway — MiniMax 智能路由 + 额度管控 + 安全代理
1 Commit
1 Branch
0 Tags
30 KiB
Shell 100%
 
Go to file
bigemon a35ce7cc93 Initial: LiteLLM Gateway 项目骨架 
- config.yaml: MiniMax M2.7/M2.5/Lightning 三层路由 + fallback
- run.sh: 启动脚本
- .env.example: 环境变量模板
- TODO.md: 完整项目规划与待办
- docs/: 部署指南、配置说明、Skill 接入文档
 		2026-04-10 09:43:33 +08:00
docs Initial: LiteLLM Gateway 项目骨架 2026-04-10 09:43:33 +08:00
.env.example Initial: LiteLLM Gateway 项目骨架 2026-04-10 09:43:33 +08:00
README.md Initial: LiteLLM Gateway 项目骨架 2026-04-10 09:43:33 +08:00
TODO.md Initial: LiteLLM Gateway 项目骨架 2026-04-10 09:43:33 +08:00
config.yaml Initial: LiteLLM Gateway 项目骨架 2026-04-10 09:43:33 +08:00
run.sh Initial: LiteLLM Gateway 项目骨架 2026-04-10 09:43:33 +08:00

README.md

LiteLLM Gateway

定位

MiniMax 模型 API 网关，为整个 agent 集群提供：

  • 🔐 安全代理 — 真实 API Key 不暴露给 agent
  • 🛡️ 额度管控 — per-key RPM/TPM 限制，防止滥用
  • 🔄 智能回落 — M2.7 → M2.5 → M2.5-Lightning 自动切换
  • 📊 用量追踪 — 实时 API 调用日志与消费统计
  • 🔥 热更新 — key 管理/模型添加完全热生效，Sileya 的 key 配置不受影响

架构

OpenClaw Agent (Sileya / 李狗蛋 / 妮可 ...)
  → sk-agent-key (LiteLLM Virtual Key)
  → LiteLLM Proxy (:4000)
      ├── 额度检查 / 用量记录
      ├── 智能路由 + fallback
      └── MINIMAX_API_KEY (仅此处持有)
          → api.minimax.io

部署

环境要求

  • Python 3.9+
  • 独立服务器或轻量容器（不强制 Docker）
  • 推荐：OMV (Nas) / Proxmox 容器 / 任意 VPS

快速启动

pip install litellm

# 配置环境变量
export MINIMAX_API_KEY="sk-xxx"
export LITELLM_MASTER_KEY="sk-litellm-admin-key"

# 启动
uvicorn litellm_proxy:app --host 0.0.0.0 --port 4000

文档