LiteLLM
Déployez LiteLLM sur Polyer pour exécuter un proxy compatible OpenAI devant de nombreux fournisseurs de LLM, avec clés virtuelles et suivi des dépenses. Ce modèle de déploiement exécute un service LiteLLM public avec une base PostgreSQL 16 privée et un cache Redis privé, chacun sur un volume. Vérifiez les clés d’API des fournisseurs et la liste de modèles préconfigurée avant de déployer.
Utilisations possibles
- Offrez à vos applications un point d’accès unique au format OpenAI pour les modèles d’OpenAI, d’Anthropic et d’autres fournisseurs.
- Attribuez une clé distincte à chaque équipe ou application et suivez leurs dépenses au même endroit.
Ce que crée ce modèle
ghcr.io/berriai/litellm-database:main-stablepostgres:16-alpineredis:7-alpineConfiguration à vérifier
Ces champs sont exposés par le modèle. Le formulaire indique les valeurs requises et les valide avant de créer les services.
| Champ | Clé d’environnement |
|---|---|
| Anthropic api base | ANTHROPIC_API_BASE |
| Anthropic api key | ANTHROPIC_API_KEY |
| Openai api base | OPENAI_API_BASE |
| Openai api key | OPENAI_API_KEY |
| Voyage api base | VOYAGE_API_BASE |
| Voyage api key | VOYAGE_API_KEY |
Comment déployer
- Sélectionnez Configurer le déploiement et connectez-vous ou créez un compte.
- Choisissez un projet nouveau ou existant et une région disponible.
- Vérifiez les services, champs obligatoires, stockage et avertissements. Lancez le déploiement lorsque la configuration est prête.
- Consultez les journaux, terminez la configuration de l’application et testez ses points d’accès avant la production.
Exploitation de cette application
- Connectez-vous à l’interface d’administration avec le nom d’utilisateur et le mot de passe générés, réservez la clé maîtresse générée à l’administration et attribuez une clé virtuelle à chaque application.
- Ne renseignez que les clés des fournisseurs que vous utilisez et vérifiez la liste de modèles préconfigurée, qui peut citer des modèles retirés depuis par leur fournisseur. Si vous activez STORE_MODEL_IN_DB, définissez LITELLM_SALT_KEY avant d’ajouter des modèles dans l’interface et ne le modifiez plus ensuite.
- Sauvegardez la base PostgreSQL, qui stocke clés virtuelles, paramètres et données de dépenses, et consultez les notes de version ou figez une version avant un redéploiement, car le tag main-stable évolue. Les frais d’inférence des fournisseurs sont facturés séparément de l’hébergement.
Coûts d’hébergement
CPU, mémoire, stockage et réseau contribuent à la facture. La région influe sur les tarifs. Chaque service d’un modèle génère sa propre consommation ; les API externes et licences sont facturées séparément.
Voir les tarifs et estimer les ressourcesSource et validation
Cette configuration provient des modèles ouverts Coolify sous licence Apache-2.0 et est adaptée par l’importateur Compose de Polyer.
L’analyse statique ne vérifie pas l’application en fonctionnement. Testez la configuration et la reprise avant de les utiliser en production.
Contenu éditorial vérifié: 2026-10-10