LiteLLM
PolyerにLiteLLMをデプロイし、多数のLLMプロバイダーをまとめるOpenAI互換プロキシを、仮想キーと利用額の追跡とともに運用。このテンプレートは公開LiteLLMサービスに、プライベートなPostgreSQL 16データベースとRedisキャッシュを組み合わせ、どちらも永続化ボリュームを使います。デプロイ前にプロバイダーのAPIキーと事前設定されたモデル一覧を確認してください。
利用できる場面
- OpenAI、Anthropicなど複数のプロバイダーのモデルを、アプリから1つのOpenAI形式のエンドポイントで呼び出せます。
- チームやアプリごとに個別のキーを発行し、利用額を一か所で把握できます。
このテンプレートが作成するもの
litellm
ghcr.io/berriai/litellm-database:main-stable公開接続先
postgres
postgres:16-alpineプライベートサービス 永続ボリューム
redis
redis:7-alpineプライベートサービス 永続ボリューム
確認する設定
テンプレートが公開する入力項目です。デプロイフォームで必須値を示し、サービス作成前に検証します。
| 入力項目 | 環境変数キー |
|---|---|
| Anthropic api base | ANTHROPIC_API_BASE |
| Anthropic api key | ANTHROPIC_API_KEY |
| Openai api base | OPENAI_API_BASE |
| Openai api key | OPENAI_API_KEY |
| Voyage api base | VOYAGE_API_BASE |
| Voyage api key | VOYAGE_API_KEY |
デプロイ手順
- 「デプロイを設定」を選び、ログインするかアカウントを作成します。
- 新規または既存プロジェクトと、利用できるリージョンを選びます。
- サービス、必須項目、ストレージ、互換性警告を確認。設定が準備できてからデプロイを送信してください。
- デプロイログを確認し、アプリの初期設定を完了。本番で使う前に接続先をテストしてください。
このアプリの運用
- 生成されたUIのユーザー名とパスワードで管理画面にログインし、生成されたマスターキーは管理用途に限定して、アプリごとに仮想キーを発行してください。
- 使用するプロバイダーのキーだけを入力し、提供終了したモデルが含まれている可能性があるため、事前設定のモデル一覧を確認してください。STORE_MODEL_IN_DBを有効にする場合は、管理画面でモデルを追加する前にLITELLM_SALT_KEYを設定し、その後は変更しないでください。
- 仮想キー、設定、利用額データを保存するPostgreSQLデータベースをバックアップしてください。main-stableタグは更新されていくため、再デプロイ前にリリースノートを確認するかバージョンを固定します。プロバイダーの推論料金はホスティング費用とは別に請求されます。
ホスティング費用
CPU、メモリ、ストレージ、ネットワークの使用量で料金が決まります。リージョンによってリソース価格が異なり、複数サービスのテンプレートでは各サービスに使用量が発生します。外部APIとソフトウェアライセンスは別料金です。
料金とリソース費用を確認出典と検証
このデプロイ構成はCoolifyのApache-2.0公開テンプレート集合に由来し、PolyerのComposeインポーターで適応されています。
静的な互換性分析は実際のアプリ検証ではありません。本番で使う前に、選択した構成と復旧手順をテストしてください。
編集内容の確認日: 2026-10-10