模型服务商
Hermes 的推理服务商、自定义与自托管 LLM 服务商、OpenRouter 路由、备用服务商与凭证池。
服务商与模型清单、价格随时变化,以官方为准。接入自定义或自托管模型就在本页。
快速开始:hermes setup --portal 一条命令配置 Nous Portal 作为模型服务商,并包含 Tool Gateway 的四个工具(网页搜索、图像生成、TTS、浏览器)。也可以用 --provider nous、--provider openrouter 等选定服务商,hermes chat --model 选模型;服务商的 API Key 放在 ~/.hermes/.env,OAuth 凭证在 auth.json。官方 AI Providers 页分为:推理服务商、自定义与自托管 LLM 服务商(接入 OpenAI 兼容的端点或本地模型)、可选的 API Key、OpenRouter 服务商路由(按成本、速度或质量排序,白名单、黑名单、优先级)、OpenRouter Pareto Code Router、备用服务商。另有指南:AWS Bedrock、免费运行 Nemotron 3 Ultra。
可靠性与成本相关能力:备用服务商(主模型出错时自动故障转移到备用服务商,包括视觉、压缩等辅助任务的独立回退);凭证池(同一服务商的多个 Key 之间分摊调用,限流或失败时自动轮换,策略可配);提示缓存(内置的跨会话 1 小时前缀缓存,对 Claude 在原生 Anthropic、OpenRouter、Nous Portal 上始终启用,无需配置);服务商路由(精细控制哪些服务商处理请求)。此外,有出站代理(egress)相关文档(如 iron-proxy)用于受限网络环境。