Modelos
Velocidades observadas no tráfego dos últimos 30 dias, por modelo e provedor, com pelo menos três amostras elegíveis. O custo é o equivalente — quanto a mesma chamada custaria num provedor comercial de porte parecido.
Provedores e infraestrutura
Mangaba Router é a plataforma de acesso hospedada na Vercel; a inferência ocorre nos provedores abaixo. Hardware é informação documental revisada em 01/10/2026, não inspeção ao vivo das máquinas.
GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S
Identificador da API: gpu-l40s
2× NVIDIA L40S · Tensor Parallel 2 · vLLM
Fonte: Inventário do responsável e medição real em 01/10/2026.
Modelos: mangaba-titan.
Serve o mangaba-titan, o modelo mais capaz da plataforma: 1º lugar na bateria agêntica (7/7), visão nativa e 192 mil tokens de contexto. Medido pela internet em 01/10/2026: ~80-93 tok/s com 1 usuário e 1º token em ~0,3 s. Capacidade do servidor com pedidos simultâneos: ~159 tok/s somados com 4 usuários, ~205 com 8 e ~328 com 16 (~21 tok/s por usuário). Pelo roteador, até 32 chamadas simultâneas somando todas as contas; medido em 01/10/2026 com 16 usuários: todos atendidos em até ~14 s, só ~1 s acima da chamada direta à GPU. Raciocínio desligado por padrão (liga por requisição). Reinício automático após reboot.
Nordeste · projeto-ia · Xeon Gold 5218R
Identificador da API: mangaba-nordeste
Intel Xeon Gold 5218R · 48vCPU · ambiente projeto-ia · CPU-only, medido em 14/09/2026
Fonte: Documentação de infraestrutura e inventário do responsável.
Modelos: mangaba-coder, mangaba-raciocinio, mangaba-mini, mangaba-flash, mangaba-visao.
Servidor em CPU da rede projeto-ia. Atende mangaba-coder (programação e agentes), mangaba-mini (atendimento geral), mangaba-raciocinio (sob demanda), mangaba-visao (leitura de imagens) e mangaba-flash (classificação rápida). O endereço llm.mangaba.ia.br é um serviço separado e não substitui automaticamente o gateway usado pela plataforma.
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
Identificador da API: poc
Intel Xeon Gold 6258R · 64vCPU · ambiente UBUNTU24-TESTE · confirmado via /proc/cpuinfo em 14/09/2026
Fonte: Documentação do projeto PoC Golden e inventário do responsável.
Modelos: mangaba-agente, mangaba-multimodal, mangaba-embed, mangaba-embed-pro, mangaba-rerank, mangaba-audio, mangaba-audio-hq, mangaba-voz, mangaba-leve, mangaba-operador, kev-4b, kev-0.8b.
Ambiente separado do Nordeste, com serviços de texto, vetores, reordenação e voz; o identificador da API continua poc. Em 01/10/2026: mangaba-agente ~38 tok/s e mangaba-multimodal ~16 tok/s. Ferramentas em todas as rotas de conversa (/v1/chat/completions e /v1/messages); áudio em /v1/audio/transcriptions e /v1/audio/speech.
Mangaba AI · api.mangaba.ia.br · CPU na Golden
Identificador da API: mangaba-ai
Intel Xeon Gold 6258R · CPU · mesmo servidor da PoC Golden
Fonte: Configuração dos serviços e do túnel api.mangaba.ia.br, conferida em 04/10/2026.
Modelos: mangaba-fast, mangaba-ocr, mangaba-embed-1536.
O endereço api.mangaba.ia.br é servido pelo mesmo servidor da PoC Golden (mesmo ambiente); até setembro de 2026 apontava para o gb10. Atende mangaba-fast (texto e uma imagem por chamada), mangaba-ocr (texto de documentos) e mangaba-embed-1536 (vetores), todos em CPU. Ferramentas homologadas pelo router.
ZeroGPU 14B · Hugging Face · H200 compartilhada
Identificador da API: hf-zero-14b
Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers
Fonte: Space DHEIVER/mangaba-zero-14b, criado e medido em 03/10/2026.
Modelos: mangaba-zero-14b.
Serve o mangaba-zero-14b: agente leve, 6/6 na bateria agêntica (ferramentas, chamadas paralelas, JSON), 1–6 s por chamada. Sem visão. A GPU vem da cota diária do ZeroGPU da conta (~25 min/dia, dividida com os outros Spaces): bom para demonstração e volume baixo; quando a cota acaba, as chamadas falham até o dia seguinte.
ZeroGPU 32B · Hugging Face · H200 compartilhada
Identificador da API: hf-zero-32b
Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers · pesos FP8
Fonte: Space DHEIVER/mangaba-zero-32b, criado e medido em 03/10/2026.
Modelos: mangaba-zero-32b.
Serve o mangaba-zero-32b: agente de capacidade média, 6/6 na bateria agêntica, 4–12 s por chamada (a primeira após ociosidade leva ~60 s para carregar). Sem visão. Gasta mais cota do ZeroGPU por chamada que o 14B; mesma cota diária compartilhada.
TypeSafe · Jev · API hospedada (decisão tipada)
Identificador da API: typesafe
Serviço remoto da TypeSafe AI; sem pesos abertos, sem VM própria
Fonte: docs.typesafe.ai e teste real da API em 20/09/2026.
Modelos: jev-latest, jev-preview.
Modelo de decisão, não de conversa: só atende POST /v1/systemone com state + questions (choice, score, noul) e devolve respostas tipadas com probabilidade e confiança. Cobra só a entrada (US$ 0,042 por milhão de tokens). Limites do provedor: 1.200 requisições por minuto, 64k de contexto. Sem streaming, ferramentas, imagem ou áudio.
Endereços de administração, portas internas e credenciais não fazem parte deste inventário público. Se o catálogo falhar, a última lista pode permanecer visível.
| Modelo | Provedor | Uso | Contexto | 1º token | Resposta | Geração | Tool call | Equivalente (US$/1M) |
|---|---|---|---|---|---|---|---|---|
mangaba-auto Deixe o roteador escolher: o Jev lê cada pedido e manda para o modelo certo. Código vai para o mangaba-coder, perguntas simples para o mangaba-mini, imagens e tarefas difíceis para o mangaba-titan. Quando não tem certeza, usa o mais capaz. A resposta informa o modelo escolhido no campo model. conversaferramentasvisãostreaming | Roteador · escolhe entre os provedores ocupação não disponível | escolha automática | não informado | sem amostras | sem amostras ainda | sem amostras ainda | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-titan O modelo mais capaz da Mangaba. Conduz agentes longos com várias ferramentas, raciocina sobre problemas complexos e lê imagens (prints, fotos, documentos). Também é a melhor escolha para código pesado ou com prazo: é o mais rápido da plataforma (~85 tok/s) e não tem fila. Contexto de 192 mil tokens. Roda em GPU dedicada. ferramentasvisão | GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S tranquilo agora | agentes · código · visão | 196.608 | 0.6s | 1.3s mediana em 381 chamadas | 91.3 tok/s medido em 381 chamadas | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-coder Especialista em programação: escreve, revisa e corrige código, e opera como agente que chama ferramentas. Indicado para assistentes de código e automações. Muito procurado: em horário de pico pode haver fila de dezenas de segundos — para código pesado ou com prazo, prefira o mangaba-titan. Contexto de 65 mil tokens. Não lê imagens. Atendido pelo mangaba-titan (GPU)conversaferramentasferramentas em streamingagente multi-turnostreaming | Nordeste · projeto-ia · Xeon Gold 5218R tranquilo agora | código · agentes | 65.536 | 0.6s | 1.3s mediana em 381 chamadas | 91.3 tok/s medido em 381 chamadas | sim | 0.90 entrada · 3.60 saída vs. comercial de porte médio |
mangaba-agente Agente de uso geral: conversa, segue instruções e chama ferramentas com rapidez. Bom padrão para atendimento e fluxos de trabalho em texto. Contexto de 65 mil tokens. Não lê imagens. ferramentas | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | agentes · atendimento | 65.536 | 1.8s | 3.1s mediana em 10 chamadas | 24.8 tok/s medido em 10 chamadas | sim | 0.90 entrada · 3.60 saída vs. comercial de porte médio |
mangaba-multimodal Agente que combina texto e imagem: interpreta fotos, telas e documentos e, na mesma conversa, chama ferramentas. Contexto de 65 mil tokens. Atendido pelo mangaba-titan (GPU)ferramentasvisão | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | agentes · visão | 65.536 | 0.6s | 1.3s mediana em 381 chamadas | 91.3 tok/s medido em 381 chamadas | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-raciocinio Raciocínio passo a passo para análises, cálculos e decisões que pedem cuidado. Carregado sob demanda: a primeira chamada após um período parado demora mais. Contexto de 65 mil tokens. Atendido pelo mangaba-titan (GPU)conversaferramentasferramentas em streamingagente multi-turnostreamingraciocínio | Nordeste · projeto-ia · Xeon Gold 5218R tranquilo agora | raciocínio | 65.536 | 0.6s | 1.3s mediana em 381 chamadas | 91.3 tok/s medido em 381 chamadas | sim | 0.90 entrada · 3.60 saída vs. comercial de porte médio |
mangaba-mini Modelo compacto para atendimento geral, perguntas e respostas e textos curtos, com baixo custo. Contexto de 65 mil tokens. Não lê imagens. conversaferramentasstreamingraciocínio | Nordeste · projeto-ia · Xeon Gold 5218R tranquilo agora | atendimento | 65.536 | 2.7s | 5.4s mediana em 28 chamadas | 16.6 tok/s medido em 28 chamadas | sim | 0.15 entrada · 0.60 saída vs. comercial compacto |
mangaba-flash O mais leve e rápido: classifica, roteia pedidos, extrai campos e dá respostas curtíssimas. Para código ou agentes longos, use o mangaba-titan. conversaferramentasstreaming | Nordeste · projeto-ia · Xeon Gold 5218R tranquilo agora | classificação | 32.768 | 1.4s | 1.9s mediana em 7 chamadas | 28.4 tok/s medido em 7 chamadas | sim | 0.15 entrada · 0.60 saída vs. comercial compacto |
mangaba-visao Leitura de imagens: OCR, documentos digitalizados, notas e telas. Envie a imagem como image_url no chat. Contexto de 8 mil tokens. conversastreamingvisão | Nordeste · projeto-ia · Xeon Gold 5218R tranquilo agora | visão · OCR | 8.192 | sem amostras | sem amostras ainda | sem amostras ainda | não | 0.15 entrada · 0.60 saída vs. comercial compacto |
mangaba-fast Respostas rápidas em texto, com uma imagem por chamada quando precisar. Aceita ferramentas homologadas pelo router. Contexto de 8 mil tokens e até 4 mil de saída. Roda em CPU. conversavisãostreamingferramentas | Mangaba AI · api.mangaba.ia.br · CPU na Golden tranquilo agora | texto · visão | 8.192 | 0.5s | 1.6s mediana em 151 chamadas | 48.1 tok/s medido em 151 chamadas | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-ocr Extrai o texto de documentos, formulários e tabelas em imagem, preservando a estrutura. Envie só a imagem e o pedido, sem instrução de sistema. Roda em CPU. visão | Mangaba AI · api.mangaba.ia.br · CPU na Golden tranquilo agora | OCR | não informado | sem amostras | sem amostras ainda | sem amostras ainda | não | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-embed Transforma textos em vetores de 1024 dimensões para busca semântica e RAG. Use em /v1/embeddings. Não gera texto. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | vetores | 8.192 | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-embed-pro Vetores de alta precisão (4096 dimensões) para busca semântica exigente e grandes bases de documentos. Use em /v1/embeddings. Não gera texto. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | vetores | 8.192 | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-embed-1536 Vetores de 1536 dimensões, o tamanho que a maioria dos bancos vetoriais espera por padrão. Use em /v1/embeddings. Não gera texto. | Mangaba AI · api.mangaba.ia.br · CPU na Golden tranquilo agora | vetores | não informado | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-rerank Reordena documentos pela relevância em relação a uma pergunta. Use depois da busca vetorial para entregar ao agente só o que importa. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | reordenação | 8.192 | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-audio Transcreve áudio em texto cerca de 10 vezes mais rápido que o tempo real, em 99 idiomas. Use em /v1/audio/transcriptions. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | transcrição | não se aplica | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-audio-hq Transcrição de áudio com máxima precisão, para gravações difíceis ou com termos técnicos. Cerca de 3 vezes mais rápido que o tempo real, em 99 idiomas. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | transcrição | não se aplica | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-voz Converte texto em fala em português do Brasil, com as vozes faber, cadu e jeff. Cerca de 13 vezes mais rápido que o tempo real. Use em /v1/audio/speech. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | fala | não se aplica | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-leve Agente leve e econômico para tarefas simples com ferramentas. Em avaliação. Carregado sob demanda: a primeira chamada demora mais. ferramentas | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | agentes carrega sob demanda em avaliação | 16.384 | 2.8s | 3.4s mediana em 3 chamadas | 59.3 tok/s medido em 3 chamadas | sim | 0.15 entrada · 0.60 saída vs. comercial compacto |
mangaba-operador Subagente que executa passos delegados por um agente principal. Em avaliação. Carregado sob demanda: a primeira chamada demora mais. Atendido pelo mangaba-titan (GPU)ferramentas | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | subagente carrega sob demanda em avaliação | 8.192 | 0.6s | 1.3s mediana em 381 chamadas | 91.3 tok/s medido em 381 chamadas | sim | 0.15 entrada · 0.60 saída vs. comercial compacto |
mangaba-zero-14b Agente leve em GPU compartilhada do Hugging Face: chama ferramentas, inclusive em paralelo, e responde em JSON. Sujeito à cota diária de GPU — indicado para testes e volume baixo; para uso contínuo, prefira o mangaba-titan. Não lê imagens. ferramentas | ZeroGPU 14B · Hugging Face · H200 compartilhada tranquilo agora | agentes · volume baixo | 32.768 | sem amostras | sem amostras ainda | sem amostras ainda | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-zero-32b Agente de capacidade média em GPU compartilhada do Hugging Face: ferramentas, chamadas paralelas e JSON. A primeira chamada após ociosidade leva cerca de 1 minuto. Sujeito à cota diária de GPU — para uso contínuo, prefira o mangaba-titan. Não lê imagens. ferramentas | ZeroGPU 32B · Hugging Face · H200 compartilhada tranquilo agora | agentes · volume baixo | 32.768 | sem amostras | sem amostras ainda | sem amostras ainda | sim | 0.60 entrada · 2.40 saída vs. porte médio |
Decisão tipada
Modelos que não conversam: recebem um estado e perguntas fechadas (escolha, nota ou verdadeiro/falso) e devolvem a resposta com probabilidade e confiança. Todos usam o mesmo formato em POST /v1/systemone; troque só o campo model.
| Modelo | Tipo | Provedor | Equivalente (US$/1M) |
|---|---|---|---|
jev-latest Modelo de decisão da TypeSafe: recebe um estado (texto ou JSON) e perguntas fechadas (escolha, nota) e devolve respostas tipadas com probabilidade e confiança. Só em POST /v1/systemone; não conversa. | Pago / externo · maior qualidade | TypeSafe · Jev · API hospedada (decisão tipada) | 0.042 entrada · saída grátis |
jev-preview Versão de prévia do Jev, da TypeSafe. Mesmo uso do jev-latest: decisões tipadas em POST /v1/systemone. | Pago / externo · maior qualidade | TypeSafe · Jev · API hospedada (decisão tipada) | 0.042 entrada · saída grátis |
kev-4b O melhor dos modelos de decisão abertos: acertou de 62% a 80% no teste de 04/10, e em sentimento (TweetSentBR) superou o Jev, 66% contra 60%. Ainda fica abaixo do Jev nas tarefas de raciocínio. Mais lento: ~2 a 7 s por resposta. | Aberto · recomendado entre os abertos | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU | 0.042 entrada · saída grátis |
kev-0.8b Decisão tipada leve e multilíngue, em ~1 s. Em sentimento e avaliações de produtos acerta no nível do Jev (65% a 69%); em raciocínio fica bem atrás. Boa opção para alto volume. | Aberto · alto volume | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU | 0.042 entrada · saída grátis |
Uma URL, quatro protocolos
OpenAI Chat Completions, Anthropic Messages, OpenAI Responses e MCP no mesmo endereço — troque a base URL e pronto.
Cache e fallback
Chamadas determinísticas repetidas voltam em milissegundos, e o roteador cai para o próximo gateway quando um falha.
Consumo medido
Cada chamada vira uma linha com latência, tokens e custo equivalente — p95 e tok/s da sua carga, não do folheto.