Polyer

LiteLLM

在 Polyer 上部署 LiteLLM，运行兼容 OpenAI 的代理，统一接入多家 LLM 服务商，并提供虚拟密钥和费用跟踪。此模板运行一个公开的 LiteLLM 服务，搭配私有 PostgreSQL 16 数据库和私有 Redis 缓存，二者均使用持久化存储卷。部署前请检查服务商 API 密钥和预置的模型列表。

AI 应用Coolify 开放目录

适用场景

  • 为应用提供统一的 OpenAI 格式接口，调用 OpenAI、Anthropic 及其他服务商的模型。
  • 为每个团队或应用分配独立密钥，并集中跟踪各自的费用。

此模板会创建什么

litellmghcr.io/berriai/litellm-database:main-stable
公开入口
postgrespostgres:16-alpine
私有服务 持久化存储卷
redisredis:7-alpine
私有服务 持久化存储卷

需要检查的配置

以下是模板暴露的配置项。部署表单会标明必填参数，并在创建服务前进行验证。

参数环境变量名
Anthropic api baseANTHROPIC_API_BASE
Anthropic api keyANTHROPIC_API_KEY
Openai api baseOPENAI_API_BASE
Openai api keyOPENAI_API_KEY
Voyage api baseVOYAGE_API_BASE
Voyage api keyVOYAGE_API_KEY

部署步骤

  1. 点击配置部署，登录或创建账户。
  2. 选择新项目或已有项目，以及可用区域。
  3. 检查服务、必填参数、存储和兼容性警告。配置确认后再提交部署。
  4. 查看部署日志，完成应用初始化，并在生产使用前测试连接地址。

运行与维护

  • 使用生成的 UI 用户名和密码登录管理界面，生成的主密钥仅用于管理，并为每个应用单独创建虚拟密钥。
  • 只填写实际使用的服务商密钥，并检查预置的模型列表，其中可能包含服务商已停用的模型。如果启用 STORE_MODEL_IN_DB，请在通过界面添加模型前设置 LITELLM_SALT_KEY，之后不要更改。
  • 备份保存虚拟密钥、设置和费用数据的 PostgreSQL 数据库；main-stable 标签会随版本变化，重新部署前请查看发布说明或固定版本。服务商的推理费用与托管费用分开计费。

托管费用

CPU、内存、存储与网络使用量共同计费，所选区域会影响资源价格。多服务模板中的每个服务都产生资源用量；外部 API 与软件许可证费用单独计算。

查看价格与资源费用估算

来源与验证

此部署配置来自 Coolify 的 Apache-2.0 开放模板集合，通过 Polyer compose 导入器进行适配。

静态兼容性分析不等于实际应用验证。生产使用前，请测试所选配置和恢复流程。

内容审阅日期: 2026-10-10

上游文档 模板来源与许可证

选择下一步

相关模板