LiteLLM
Despliega LiteLLM en Polyer para ejecutar un proxy compatible con OpenAI delante de muchos proveedores de LLM, con claves virtuales y seguimiento del gasto. La plantilla ejecuta un servicio público de LiteLLM con una base de datos PostgreSQL 16 privada y una caché Redis privada, ambas con volumen. Revisa las claves de API de los proveedores y la lista de modelos preconfigurada antes de desplegar.
Para qué puedes utilizarla
- Ofrece a tus aplicaciones un único endpoint con formato OpenAI para modelos de OpenAI, Anthropic y otros proveedores.
- Emite una clave distinta para cada equipo o aplicación y controla su gasto en un solo lugar.
Qué crea esta plantilla
litellm
ghcr.io/berriai/litellm-database:main-stableEndpoint público
postgres
postgres:16-alpineServicio privado Volumen persistente
redis
redis:7-alpineServicio privado Volumen persistente
Configuración que revisar
La plantilla expone estos campos. El formulario indica los valores obligatorios y los valida antes de crear servicios.
| Campo | Clave de entorno |
|---|---|
| Anthropic api base | ANTHROPIC_API_BASE |
| Anthropic api key | ANTHROPIC_API_KEY |
| Openai api base | OPENAI_API_BASE |
| Openai api key | OPENAI_API_KEY |
| Voyage api base | VOYAGE_API_BASE |
| Voyage api key | VOYAGE_API_KEY |
Cómo desplegar
- Selecciona Configurar despliegue e inicia sesión o crea una cuenta.
- Elige un proyecto nuevo o existente y una región disponible.
- Revisa servicios, campos obligatorios, almacenamiento y advertencias. Envía el despliegue cuando la configuración esté lista.
- Consulta los registros, completa la configuración de la aplicación y prueba sus endpoints antes de utilizarla en producción.
Operación de esta aplicación
- Inicia sesión en la interfaz de administración con el usuario y la contraseña de UI generados, reserva la clave maestra generada para la administración y da a cada aplicación su propia clave virtual.
- Introduce solo las claves de los proveedores que uses y revisa la lista de modelos preconfigurada, que puede incluir modelos ya retirados por el proveedor. Si activas STORE_MODEL_IN_DB, define LITELLM_SALT_KEY antes de añadir modelos desde la interfaz y no lo cambies después.
- Haz copias de seguridad de la base de datos PostgreSQL, que guarda claves virtuales, ajustes y datos de gasto, y revisa las notas de la versión o fija una versión antes de volver a desplegar, porque la etiqueta main-stable cambia. Los cargos de inferencia de los proveedores se facturan aparte del alojamiento.
Costes de alojamiento
CPU, memoria, almacenamiento y red contribuyen a la factura. La región afecta a los precios. Una plantilla con varios servicios genera consumo en cada uno; las API externas y licencias se cobran aparte.
Ver precios y estimar costes de recursosOrigen y validación
Esta configuración procede de la colección abierta de Coolify con licencia Apache-2.0 y se adapta mediante el importador Compose de Polyer.
El análisis estático no es una verificación de la aplicación en ejecución. Prueba la configuración y la recuperación antes de utilizarlas en producción.
Contenido editorial revisado: 2026-10-10
