LiteLLM
通过 LiteLLM Proxy 运行 OpenClaw,以实现统一的模型访问和成本跟踪
LiteLLM 是一个开源 LLM Gateway 网关,通过统一 API 接入 100 多个模型 提供商。通过 LiteLLM 路由 OpenClaw,可集中跟踪成本和记录日志,使用带有 支出限额的虚拟密钥,并实现后端故障转移,而无需更改 OpenClaw 配置。
快速开始
新手引导(推荐)
openclaw onboard --auth-choice litellm-api-key如需针对远程代理进行非交互式设置,请显式传入代理 URL:
openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \
--litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"手动设置
启动 LiteLLM 代理
pip install 'litellm[proxy]'
litellm --model claude-opus-4-6将 OpenClaw 指向 LiteLLM
export LITELLM_API_KEY="your-litellm-key"
openclaw配置
{
models: {
providers: {
litellm: {
baseUrl: "http://localhost:4000",
apiKey: "${LITELLM_API_KEY}",
api: "openai-completions",
models: [
{
id: "claude-opus-4-6",
name: "Claude Opus 4.6",
reasoning: true,
input: ["text", "image"],
contextWindow: 200000,
maxTokens: 64000,
},
{
id: "gpt-4o",
name: "GPT-4o",
reasoning: false,
input: ["text", "image"],
contextWindow: 128000,
maxTokens: 8192,
},
],
},
},
},
agents: {
defaults: {
model: { primary: "litellm/claude-opus-4-6" },
},
},
}新手引导写入的默认模型是 litellm/claude-opus-4-6。
图像生成
LiteLLM 可以通过 OpenAI 兼容的 /images/generations 和
/images/edits 路由为 image_generate 工具提供后端支持。默认图像模型是 gpt-image-2;可在
agents.defaults.mediaModels.image 下配置其他模型:
{
models: {
providers: {
litellm: {
baseUrl: "http://localhost:4000",
apiKey: "${LITELLM_API_KEY}",
},
},
},
agents: {
defaults: {
imageGenerationModel: {
primary: "litellm/gpt-image-2",
timeoutMs: 180_000,
},
},
},
}local loopback LiteLLM URL(http://localhost:4000、127.0.0.1、::1、host.docker.internal)无需全局专用网络覆盖即可
使用。对于托管在 LAN 上的代理,请设置
models.providers.litellm.request.allowPrivateNetwork: true,因为 API 密钥会发送到该主机。
高级
虚拟密钥
为 OpenClaw 创建一个带有支出限额的专用密钥:
curl -X POST "http://localhost:4000/key/generate" \
-H "Authorization: Bearer $LITELLM_MASTER_KEY" \
-H "Content-Type: application/json" \
-d '{
"key_alias": "openclaw",
"max_budget": 50.00,
"budget_duration": "monthly"
}'将生成的密钥用作 LITELLM_API_KEY。
模型路由
LiteLLM 可以将模型请求路由到不同后端。在 LiteLLM 的 config.yaml 中进行配置:
model_list:
- model_name: claude-opus-4-6
litellm_params:
model: claude-opus-4-6
api_key: os.environ/ANTHROPIC_API_KEY
- model_name: gpt-4o
litellm_params:
model: gpt-4o
api_key: os.environ/OPENAI_API_KEYOpenClaw 会继续请求 claude-opus-4-6;LiteLLM 负责处理路由。
查看用量
# 密钥信息
curl "http://localhost:4000/key/info" \
-H "Authorization: Bearer sk-litellm-key"
# 支出日志
curl "http://localhost:4000/spend/logs" \
-H "Authorization: Bearer $LITELLM_MASTER_KEY"代理行为说明
- LiteLLM 默认运行在
http://localhost:4000上。 - OpenClaw 通过 LiteLLM 代理式的 OpenAI 兼容
/v1端点进行连接。 - 配置 LiteLLM 基础 URL 后,不会应用仅限原生 OpenAI 的请求调整:
不使用
service_tier,不使用 Responsesstore,不使用提示缓存提示,也不进行 OpenAI 推理强度 载荷调整。 - 隐藏的 OpenClaw 归因标头(
originator、version、User-Agent)仅会发送到 已验证的原生 OpenAI 端点,因此不会注入自定义 LiteLLM 基础 URL。
有关常规提供商配置和故障转移行为,请参阅模型提供商。
相关内容
- LiteLLM 文档:LiteLLM 官方文档和 API 参考。
- 模型选择:所有提供商、模型引用和故障转移行为的概览。
- 配置:完整配置参考。
- Models:如何选择和配置模型。