AI Gateway online — modelos distribuídos entre provedores

AI Gateway com governança para os seus modelos Mangaba

Um único ponto de entrada para todos os modelos: controle de acesso, limites, auditoria de cada chamada e reserva automática entre provedores. Seus apps falam OpenAI ou Anthropic sem mudar uma linha — trocando só a URL base.

client = OpenAI(
    base_url="https://mangabarouter.store/v1",
    api_key="SUA_CHAVE",
)
client.chat.completions.create(
    model="mangaba-titan",
    messages=[{"role": "user", "content": "Olá!"}],
)

Governança de IA, de ponta a ponta

Toda chamada passa pelo gateway. Por isso você sabe quem usou, qual modelo, quanto consumiu e o que aconteceu — e decide o que cada time ou aplicação pode fazer.

Controle de acesso

Contas com papéis de dono e membro. Uma chave de API por aplicação, revogada na hora se vazar, sem afetar as outras.

Limites por chave

Requisições por minuto e tokens por hora em cada chave. Um app com defeito não consome a cota de todos.

Auditoria de cada chamada

Registro de conta, chave, modelo, provedor que atendeu, tokens, latência, custo e erro. Consulte em Logs no console.

Catálogo controlado

Só os modelos aprovados nesta instalação passam. Nome errado é recusado, nunca atendido por outro modelo sem aviso.

Provedores aprovados

O gateway só fala com provedores autorizados. Endereço desconhecido, IP direto ou redirecionamento são bloqueados.

Continuidade

Se um provedor cai ou fica lento, a chamada vai para a reserva automaticamente. Teste diário dos modelos e alerta quando algo falha.

26 modelos em 8 provedores

Lista consultada agora em Roteador, GPU L40S, Nordeste, Golden, Mangaba AI, ZeroGPU 14B, ZeroGPU 32B, TypeSafe. Hardware e disponibilidade variam por provedor, incluindo CPU e GPU remota. As velocidades são a mediana das chamadas reais que passaram pelo roteador nos últimos 30 dias — não número de folheto.

mangaba-auto

ocupação não disponívelRoteador

Deixe o roteador escolher: o Jev lê cada pedido e manda para o modelo certo. Código vai para o mangaba-coder, perguntas simples para o mangaba-mini, imagens e tarefas difíceis para o mangaba-titan. Quando não tem certeza, usa o mais capaz. A resposta informa o modelo escolhido no campo model.

Geração
sem amostras
1º token
sem amostras
Amostras
0

ainda sem chamadas suficientes para medir

mangaba-titan

tranquilo agoraGPU L40S

O modelo mais capaz da Mangaba. Conduz agentes longos com várias ferramentas, raciocina sobre problemas complexos e lê imagens (prints, fotos, documentos). Também é a melhor escolha para código pesado ou com prazo: é o mais rápido da plataforma (~85 tok/s) e não tem fila. Contexto de 192 mil tokens. Roda em GPU dedicada.

contexto 196.608 tokens

Geração
91.3 tok/s
1º token
0.6s
Amostras
381

medido no tráfego real

mangaba-coder

tranquilo agoraNordeste

Especialista em programação: escreve, revisa e corrige código, e opera como agente que chama ferramentas. Indicado para assistentes de código e automações. Muito procurado: em horário de pico pode haver fila de dezenas de segundos — para código pesado ou com prazo, prefira o mangaba-titan. Contexto de 65 mil tokens. Não lê imagens.

contexto 65.536 tokens

Geração
1.4 tok/s
1º token
10.4s
Amostras
57

medido no tráfego real

mangaba-agente

tranquilo agoraGolden

Agente de uso geral: conversa, segue instruções e chama ferramentas com rapidez. Bom padrão para atendimento e fluxos de trabalho em texto. Contexto de 65 mil tokens. Não lê imagens.

contexto 65.536 tokens

Geração
24.8 tok/s
1º token
1.8s
Amostras
10

medido no tráfego real

mangaba-multimodal

tranquilo agoraGolden

Agente que combina texto e imagem: interpreta fotos, telas e documentos e, na mesma conversa, chama ferramentas. Contexto de 65 mil tokens.

contexto 65.536 tokens

Geração
8.5 tok/s
1º token
15.3s
Amostras
34

medido no tráfego real

mangaba-raciocinio

tranquilo agoraNordeste

Raciocínio passo a passo para análises, cálculos e decisões que pedem cuidado. Carregado sob demanda: a primeira chamada após um período parado demora mais. Contexto de 65 mil tokens.

contexto 65.536 tokens

Geração
22.2 tok/s
1º token
10.9s
Amostras
5

medido no tráfego real

mangaba-mini

tranquilo agoraNordeste

Modelo compacto para atendimento geral, perguntas e respostas e textos curtos, com baixo custo. Contexto de 65 mil tokens. Não lê imagens.

contexto 65.536 tokens

Geração
16.6 tok/s
1º token
2.7s
Amostras
28

medido no tráfego real

mangaba-flash

tranquilo agoraNordeste

O mais leve e rápido: classifica, roteia pedidos, extrai campos e dá respostas curtíssimas. Para código ou agentes longos, use o mangaba-titan.

contexto 32.768 tokens

Geração
28.4 tok/s
1º token
1.4s
Amostras
7

medido no tráfego real

mangaba-visao

tranquilo agoraNordeste

Leitura de imagens: OCR, documentos digitalizados, notas e telas. Envie a imagem como image_url no chat. Contexto de 8 mil tokens.

contexto 8.192 tokens

Geração
sem amostras
1º token
sem amostras
Amostras
0

ainda sem chamadas suficientes para medir

mangaba-fast

tranquilo agoraMangaba AI

Respostas rápidas em texto, com uma imagem por chamada quando precisar. Aceita ferramentas homologadas pelo router. Contexto de 8 mil tokens e até 4 mil de saída. Roda em CPU.

contexto 8.192 tokens

Geração
48.1 tok/s
1º token
0.5s
Amostras
151

medido no tráfego real

mangaba-ocr

tranquilo agoraMangaba AI

Extrai o texto de documentos, formulários e tabelas em imagem, preservando a estrutura. Envie só a imagem e o pedido, sem instrução de sistema. Roda em CPU.

Geração
sem amostras
1º token
sem amostras
Amostras
0

ainda sem chamadas suficientes para medir

mangaba-embed

tranquilo agoraGolden

Transforma textos em vetores de 1024 dimensões para busca semântica e RAG. Use em /v1/embeddings. Não gera texto.

contexto 8.192 tokens

Geração
sem amostras
1º token
sem amostras
Amostras
0

utilitário — não gera texto, usa rota própria

mangaba-embed-pro

tranquilo agoraGolden

Vetores de alta precisão (4096 dimensões) para busca semântica exigente e grandes bases de documentos. Use em /v1/embeddings. Não gera texto.

contexto 8.192 tokens

Geração
sem amostras
1º token
sem amostras
Amostras
0

utilitário — não gera texto, usa rota própria

mangaba-embed-1536

tranquilo agoraMangaba AI

Vetores de 1536 dimensões, o tamanho que a maioria dos bancos vetoriais espera por padrão. Use em /v1/embeddings. Não gera texto.

Geração
sem amostras
1º token
sem amostras
Amostras
0

utilitário — não gera texto, usa rota própria

mangaba-rerank

tranquilo agoraGolden

Reordena documentos pela relevância em relação a uma pergunta. Use depois da busca vetorial para entregar ao agente só o que importa.

contexto 8.192 tokens

Geração
sem amostras
1º token
sem amostras
Amostras
0

utilitário — não gera texto, usa rota própria

mangaba-audio

tranquilo agoraGolden

Transcreve áudio em texto cerca de 10 vezes mais rápido que o tempo real, em 99 idiomas. Use em /v1/audio/transcriptions.

Geração
sem amostras
1º token
sem amostras
Amostras
0

utilitário — não gera texto, usa rota própria

mangaba-audio-hq

tranquilo agoraGolden

Transcrição de áudio com máxima precisão, para gravações difíceis ou com termos técnicos. Cerca de 3 vezes mais rápido que o tempo real, em 99 idiomas.

Geração
sem amostras
1º token
sem amostras
Amostras
0

utilitário — não gera texto, usa rota própria

mangaba-voz

tranquilo agoraGolden

Converte texto em fala em português do Brasil, com as vozes faber, cadu e jeff. Cerca de 13 vezes mais rápido que o tempo real. Use em /v1/audio/speech.

Geração
sem amostras
1º token
sem amostras
Amostras
0

utilitário — não gera texto, usa rota própria

mangaba-leve

tranquilo agoraGolden

Agente leve e econômico para tarefas simples com ferramentas. Em avaliação. Carregado sob demanda: a primeira chamada demora mais.

contexto 16.384 tokens · carrega sob demanda · em avaliação

Geração
59.3 tok/s
1º token
2.8s
Amostras
3

medido no tráfego real

mangaba-operador

tranquilo agoraGolden

Subagente que executa passos delegados por um agente principal. Em avaliação. Carregado sob demanda: a primeira chamada demora mais.

contexto 8.192 tokens · carrega sob demanda · em avaliação

Geração
sem amostras
1º token
sem amostras
Amostras
0

ainda sem chamadas suficientes para medir

mangaba-zero-14b

tranquilo agoraZeroGPU 14B

Agente leve em GPU compartilhada do Hugging Face: chama ferramentas, inclusive em paralelo, e responde em JSON. Sujeito à cota diária de GPU — indicado para testes e volume baixo; para uso contínuo, prefira o mangaba-titan. Não lê imagens.

contexto 32.768 tokens

Geração
sem amostras
1º token
sem amostras
Amostras
0

ainda sem chamadas suficientes para medir

mangaba-zero-32b

tranquilo agoraZeroGPU 32B

Agente de capacidade média em GPU compartilhada do Hugging Face: ferramentas, chamadas paralelas e JSON. A primeira chamada após ociosidade leva cerca de 1 minuto. Sujeito à cota diária de GPU — para uso contínuo, prefira o mangaba-titan. Não lê imagens.

contexto 32.768 tokens

Geração
sem amostras
1º token
sem amostras
Amostras
0

ainda sem chamadas suficientes para medir

jev-latest

tranquilo agoraTypeSafe

Modelo de decisão da TypeSafe: recebe um estado (texto ou JSON) e perguntas fechadas (escolha, nota) e devolve respostas tipadas com probabilidade e confiança. Só em POST /v1/systemone; não conversa.

contexto 65.536 tokens

Geração
107.7 tok/s
1º token
0.2s
Amostras
6

medido no tráfego real

jev-preview

tranquilo agoraTypeSafe

Versão de prévia do Jev, da TypeSafe. Mesmo uso do jev-latest: decisões tipadas em POST /v1/systemone.

contexto 65.536 tokens

Geração
sem amostras
1º token
sem amostras
Amostras
0

ainda sem chamadas suficientes para medir

kev-4b

tranquilo agoraGolden

O melhor dos modelos de decisão abertos: acertou de 62% a 80% no teste de 04/10, e em sentimento (TweetSentBR) superou o Jev, 66% contra 60%. Ainda fica abaixo do Jev nas tarefas de raciocínio. Mais lento: ~2 a 7 s por resposta.

Geração
sem amostras
1º token
sem amostras
Amostras
0

ainda sem chamadas suficientes para medir

kev-0.8b

tranquilo agoraGolden

Decisão tipada leve e multilíngue, em ~1 s. Em sentimento e avaliações de produtos acerta no nível do Jev (65% a 69%); em raciocínio fica bem atrás. Boa opção para alto volume.

Geração
sem amostras
1º token
sem amostras
Amostras
0

ainda sem chamadas suficientes para medir

O que o console faz

Uma chave por app

Gere, nomeie e revogue chaves-cliente sem tocar no servidor. A master key nunca sai do backend do console.

Consumo em tempo real

Requisições por minuto, tokens por hora e acumulado — por chave, atualizando sozinho.

Quatro protocolos

OpenAI Chat Completions, Anthropic Messages, OpenAI Responses e MCP no mesmo endpoint.

Cache, limites e fallback

Chamada determinística repetida volta em milissegundos; cada chave tem limite próprio; e o roteador cai para o próximo gateway quando um falha.

Playground embutido

Testa modelo, system prompt e temperatura com streaming antes de escrever a primeira linha de código.

Pronto para plugar

Entre no console, gere uma chave e aponte seu app. Limite padrão de 30 req/min e 60.000 tokens/hora por chave.

Entrar no console