Plantilla · IA y LLM

LiteLLM Proxy

OpenAI-compatible gateway to 100+ LLM providers with keys, spend tracking and a UI.

Abre el panel con esta plantilla preseleccionada. Inicia sesión con GitHub si eres nuevo; el plan gratuito no pide tarjeta.

Qué se despliega

2 servicios en el entorno que elijas, en la red privada del proyecto.

ghcr.io/berriai/litellm:main-latest + PostgreSQL 17 (models are stored in the DB and managed from the UI at /ui).

Imagen: postgres:17

Imagen: ghcr.io/berriai/litellm:main-latest

Los secretos generados nunca salen de la plataforma; las referencias se resuelven en la red privada. Lo marcado como requerido se pide al desplegar.

Nombre	Valor
POSTGRES_USER	postgresSuperuser name
POSTGRES_PASSWORD	generado (password)Generated at deploy
POSTGRES_DB	litellmDatabase created on first start
PGDATA	/var/lib/postgresql/data/pgdata
DATABASE_URL	postgresql://${{self.POSTGRES_USER}}:${{self.POSTGRES_PASSWORD}}@${{self.SKIFFLY_PRIVATE_DOMAIN}}:5432/${{self.POSTGRES_DB}}Connection string on the private network

Nombre	Valor
DATABASE_URL	${{Postgres.DATABASE_URL}}
LITELLM_MASTER_KEY	generado (secret)Prefix it with sk- when using it as an API key
LITELLM_SALT_KEY	generado (secret)
STORE_MODEL_IN_DB	True
UI_USERNAME	admin
UI_PASSWORD	generado (password)
PORT	4000

Agrega un enlace de despliegue en un clic a tu repositorio o documentación. Dos variantes: para fondos claros y oscuros.

Markdown · Fondo claro

[![Desplegar en Skiffly](https://skiffly.dev/button.svg)](https://skiffly.dev/templates/litellm)

Markdown · Fondo oscuro

[![Desplegar en Skiffly](https://skiffly.dev/button-dark.svg)](https://skiffly.dev/templates/litellm)

HTML

<a href="https://skiffly.dev/templates/litellm"><img src="https://skiffly.dev/button.svg" alt="Desplegar en Skiffly" height="32"></a>

Volúmenes, secretos y dominio preconfigurados. Corre en nodos en la UE, se paga por minuto desde un saldo prepago.