48 lines
1.3 KiB
Markdown
48 lines
1.3 KiB
Markdown
|
# LiteLLM Gateway
|
|||
|
|
|
|||
|
|
## 定位
|
|||
|
|
|
|||
|
|
MiniMax 模型 API 网关，为整个 agent 集群提供：
|
|||
|
|
- 🔐 **安全代理** — 真实 API Key 不暴露给 agent
|
|||
|
|
- 🛡️ **额度管控** — per-key RPM/TPM 限制，防止滥用
|
|||
|
|
- 🔄 **智能回落** — M2.7 → M2.5 → M2.5-Lightning 自动切换
|
|||
|
|
- 📊 **用量追踪** — 实时 API 调用日志与消费统计
|
|||
|
|
- 🔥 **热更新** — key 管理/模型添加完全热生效，Sileya 的 key 配置不受影响
|
|||
|
|
|
|||
|
|
## 架构
|
|||
|
|
|
|||
|
|
```
|
|||
|
|
OpenClaw Agent (Sileya / 李狗蛋 / 妮可 ...)
|
|||
|
|
→ sk-agent-key (LiteLLM Virtual Key)
|
|||
|
|
→ LiteLLM Proxy (:4000)
|
|||
|
|
├── 额度检查 / 用量记录
|
|||
|
|
├── 智能路由 + fallback
|
|||
|
|
└── MINIMAX_API_KEY (仅此处持有)
|
|||
|
|
→ api.minimax.io
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 部署
|
|||
|
|
|
|||
|
|
### 环境要求
|
|||
|
|
- Python 3.9+
|
|||
|
|
- 独立服务器或轻量容器（不强制 Docker）
|
|||
|
|
- 推荐：OMV (Nas) / Proxmox 容器 / 任意 VPS
|
|||
|
|
|
|||
|
|
### 快速启动
|
|||
|
|
```bash
|
|||
|
|
pip install litellm
|
|||
|
|
|
|||
|
|
# 配置环境变量
|
|||
|
|
export MINIMAX_API_KEY="sk-xxx"
|
|||
|
|
export LITELLM_MASTER_KEY="sk-litellm-admin-key"
|
|||
|
|
|
|||
|
|
# 启动
|
|||
|
|
uvicorn litellm_proxy:app --host 0.0.0.0 --port 4000
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 文档
|
|||
|
|
- [TODO](./TODO.md) — 项目规划与待办
|
|||
|
|
- [CONFIG_GUIDE](./docs/CONFIG_GUIDE.md) — 配置说明
|
|||
|
|
- [DEPLOYMENT](./docs/DEPLOYMENT.md) — 部署指南
|
|||
|
|
- [SKILL_INTEGRATION](./docs/SKILL_INTEGRATION.md) — Sileya Skill 接入
|