模型配置
Myrm 通过 LiteLLM 统一访问任意提供商的 100+ 模型。添加 API Key
进入 设置 > 模型 或设置环境变量:智能路由
复杂度路由器按任务需求自动选择最优模型:- 简单查询用轻量模型
- 复杂推理升级到前沿模型
- 按请求优化成本与延迟
Key 轮换
4 策略 Key 轮换,在单提供商多 Key 下最大化吞吐与可用性。隐私路由
隐私路由按数据敏感度自动选择云端或本地模型,无需手动切换:| 敏感度 | 路由 | 数据处理 |
|---|---|---|
| S1 — 公开 | 云端模型 | 直连云端 |
| S2 — 内部 | 云端(PII 脱敏后)或本地 | 自动脱敏或本地路由 |
| S3 — 机密 | 仅本地模型 | 数据不离开本机 |
容错
14 层错误恢复系统自动处理故障:- 限流(4 策略 Key 轮换 + 凭证池)
- 提供商宕机(熔断器 3 级冷却 + 回退预设)
- 流中断(Token 级精确续传)
- 响应截断(渐进输出预算提升 2x → 3x → 4x)
- 超大图片(自动重编码压缩)
- 模型思考模式错误(自动调整模式并重试)
- 空响应(调参重试)
- 迭代上限(grace-call 摘要 — 用户不见空白回复)

