Polyer

LiteLLM

Déployez LiteLLM sur Polyer pour exécuter un proxy compatible OpenAI devant de nombreux fournisseurs de LLM, avec clés virtuelles et suivi des dépenses. Ce modèle de déploiement exécute un service LiteLLM public avec une base PostgreSQL 16 privée et un cache Redis privé, chacun sur un volume. Vérifiez les clés d’API des fournisseurs et la liste de modèles préconfigurée avant de déployer.

Applications d’IACatalogue ouvert Coolify

Utilisations possibles

  • Offrez à vos applications un point d’accès unique au format OpenAI pour les modèles d’OpenAI, d’Anthropic et d’autres fournisseurs.
  • Attribuez une clé distincte à chaque équipe ou application et suivez leurs dépenses au même endroit.

Ce que crée ce modèle

litellmghcr.io/berriai/litellm-database:main-stable
Point d’accès public
postgrespostgres:16-alpine
Service privé Volume persistant
redisredis:7-alpine
Service privé Volume persistant

Configuration à vérifier

Ces champs sont exposés par le modèle. Le formulaire indique les valeurs requises et les valide avant de créer les services.

ChampClé d’environnement
Anthropic api baseANTHROPIC_API_BASE
Anthropic api keyANTHROPIC_API_KEY
Openai api baseOPENAI_API_BASE
Openai api keyOPENAI_API_KEY
Voyage api baseVOYAGE_API_BASE
Voyage api keyVOYAGE_API_KEY

Comment déployer

  1. Sélectionnez Configurer le déploiement et connectez-vous ou créez un compte.
  2. Choisissez un projet nouveau ou existant et une région disponible.
  3. Vérifiez les services, champs obligatoires, stockage et avertissements. Lancez le déploiement lorsque la configuration est prête.
  4. Consultez les journaux, terminez la configuration de l’application et testez ses points d’accès avant la production.

Exploitation de cette application

  • Connectez-vous à l’interface d’administration avec le nom d’utilisateur et le mot de passe générés, réservez la clé maîtresse générée à l’administration et attribuez une clé virtuelle à chaque application.
  • Ne renseignez que les clés des fournisseurs que vous utilisez et vérifiez la liste de modèles préconfigurée, qui peut citer des modèles retirés depuis par leur fournisseur. Si vous activez STORE_MODEL_IN_DB, définissez LITELLM_SALT_KEY avant d’ajouter des modèles dans l’interface et ne le modifiez plus ensuite.
  • Sauvegardez la base PostgreSQL, qui stocke clés virtuelles, paramètres et données de dépenses, et consultez les notes de version ou figez une version avant un redéploiement, car le tag main-stable évolue. Les frais d’inférence des fournisseurs sont facturés séparément de l’hébergement.

Coûts d’hébergement

CPU, mémoire, stockage et réseau contribuent à la facture. La région influe sur les tarifs. Chaque service d’un modèle génère sa propre consommation ; les API externes et licences sont facturées séparément.

Voir les tarifs et estimer les ressources

Source et validation

Cette configuration provient des modèles ouverts Coolify sous licence Apache-2.0 et est adaptée par l’importateur Compose de Polyer.

L’analyse statique ne vérifie pas l’application en fonctionnement. Testez la configuration et la reprise avant de les utiliser en production.

Contenu éditorial vérifié: 2026-10-10

Choisissez la prochaine étape