跳到正文
FunCoding

搜索

搜索文档、智能体、博客、Skill 和 MCP

服务商与模型

在 Crush 里用 Hyper 或各家 API Key 接入模型,自定义 OpenAI / Anthropic 兼容服务商,Bedrock、Vertex AI,本地模型自动发现,以及服务商目录自动更新。

可用的服务商与模型清单由 Catwalk 社区仓库维护,随时变化,以官方为准。接入自定义模型就在本页「自定义服务商」一节。

开始与 API Key

最快的办法是在模型选择器里选 Hyper(Charm 官方的 Crush 服务商,订阅制,有免费档,宣称零数据保留)并按步骤认证。也可以按 ctrl+l 打开模型选择器,选服务商并粘贴 API Key;或设置环境变量:ANTHROPIC_API_KEY、OPENAI_API_KEY、GEMINI_API_KEY、OPENROUTER_API_KEY、GROQ_API_KEY、HYPER_API_KEY、ZAI_API_KEY、MOONSHOT_API_KEY 等(完整列表见官方 README);Vertex AI 用 VERTEXAI_PROJECT 与 VERTEXAI_LOCATION,Bedrock 用 AWS_* 变量或 AWS_BEARER_TOKEN_BEDROCK,Azure OpenAI 用 AZURE_OPENAI_* 变量。

自定义服务商

支持 OpenAI 兼容和 Anthropic 兼容的 API。注意 OpenAI 有两种类型:openai 用于通过 OpenAI 代理或路由请求,openai-compat 用于有 OpenAI 兼容 API 的非 OpenAI 服务商。

provider add deepseek --type openai-compat --base-url "https://api.deepseek.com/v1" --api-key "$DEEPSEEK_API_KEY"
model add deepseek/deepseek-chat --name "Deepseek V3" --context-window 64000 --default-max-tokens 5000 --price-input 0.27 --price-output 1.1

provider add custom-anthropic --type anthropic --base-url "https://api.anthropic.com/v1" --api-key "$ANTHROPIC_API_KEY" --extra-header anthropic-version 2023-06-01
model add custom-anthropic/<模型ID> --name "显示名" --context-window 200000 --default-max-tokens 50000 --can-reason true --supports-images true

model add 还支持 --price-cache-create、--price-cache-hit 等价格字段(价格以服务商为准)。

Bedrock 与 Vertex AI

Bedrock 目前支持通过它运行 Anthropic 模型(缓存关闭),找到 AWS 凭证后出现。认证:设置 AWS_BEARER_TOKEN_BEDROCK(最简单、会话中不会过期),或使用 AWS 凭证链(aws configure、aws configure sso、AWS_PROFILE);用 SSO 时会话会过期,可在服务商配置里设 aws_auth_refresh 为刷新命令(如 aws sso login),遇到凭证错误时 Crush 会运行它并就地重试请求。Vertex AI 在设置了 VERTEXAI_PROJECT 和 VERTEXAI_LOCATION 且已 gcloud auth application-default login 后出现,用 provider add vertexai --type google-vertex 加模型。

本地模型

给自定义服务商设 type 为 llamacpp、omlx、lmstudio、litellm 或 ollama 并省略模型列表,Crush 会自动发现模型:

provider add ollama --name Ollama --type ollama --base-url "http://localhost:11434/v1/"

手动列出的模型始终优先于自动发现的,你设置的字段不会被覆盖;任何 openai-compat 服务商模型列表为空时会自动发现,传 --discover-models true 则把发现的与手配的合并。

服务商目录自动更新

Crush 的默认模型列表由 Catwalk 管理,会自动更新;可以指定自定义目录、关闭自动更新,或手动更新(从远程 Catwalk、自定义 Catwalk 基址或本地文件更新,或重置为构建时内嵌的版本)。具体命令见官方 README 的 Provider Auto-Updates 一节。