Pular para o conteúdo

Template · IA e LLM

LiteLLM Proxy

OpenAI-compatible gateway to 100+ LLM providers with keys, spend tracking and a UI.

Implantar na Skiffly

Abre o painel com este template pré-selecionado. Entre com o GitHub se você for novo por aqui; o plano Free não exige cartão.

  • Postgrespostgres:17
  • LiteLLMghcr.io/berriai/litellm:main-latest
Documentação oficial do projeto

O que é implantado

2 serviços no ambiente que você escolher, na rede privada do projeto.

Sobre este template

ghcr.io/berriai/litellm:main-latest + PostgreSQL 17 (models are stored in the DB and managed from the UI at /ui).

Postgres

Imagem: postgres:17

  • Porta 5432/tcp
  • volume de 10 GB em /var/lib/postgresql/data
  • 1 vCPU · 1 GB

LiteLLM

Imagem: ghcr.io/berriai/litellm:main-latest

  • Porta 4000/http
  • Domínio público com TLS
  • 1 vCPU · 1 GB
  • /health/liveliness

Variáveis

Segredos gerados nunca saem da plataforma; as referências são resolvidas na rede privada. Tudo o que estiver marcado como obrigatório é solicitado no momento do deploy.

Postgres

NomeValor
POSTGRES_USERpostgresSuperuser name
POSTGRES_PASSWORDgerado (password)Generated at deploy
POSTGRES_DBlitellmDatabase created on first start
PGDATA/var/lib/postgresql/data/pgdata
DATABASE_URLpostgresql://${{self.POSTGRES_USER}}:${{self.POSTGRES_PASSWORD}}@${{self.SKIFFLY_PRIVATE_DOMAIN}}:5432/${{self.POSTGRES_DB}}Connection string on the private network

LiteLLM

NomeValor
DATABASE_URL${{Postgres.DATABASE_URL}}
LITELLM_MASTER_KEYgerado (secret)Prefix it with sk- when using it as an API key
LITELLM_SALT_KEYgerado (secret)
STORE_MODEL_IN_DBTrue
UI_USERNAMEadmin
UI_PASSWORDgerado (password)
PORT4000

Botão de deploy para o seu README

Adicione um link de deploy em um clique ao seu repositório ou à sua documentação. Duas variantes: para fundos claros e escuros.

Implantar na SkifflyImplantar na Skiffly
Markdown · Fundo claro
[![Implantar na Skiffly](https://skiffly.dev/button.svg)](https://skiffly.dev/templates/litellm)
Markdown · Fundo escuro
[![Implantar na Skiffly](https://skiffly.dev/button-dark.svg)](https://skiffly.dev/templates/litellm)
HTML
<a href="https://skiffly.dev/templates/litellm"><img src="https://skiffly.dev/button.svg" alt="Implantar na Skiffly" height="32"></a>

Templates relacionados

Todos os templates

Implante LiteLLM Proxy em um clique

Volumes, segredos e domínio pré-configurados. Roda em nós na UE, pago por minuto a partir de um saldo pré-pago.

Implantar na Skiffly Todos os templates