Modelos
Velocidades observadas no tráfego dos últimos 30 dias, por modelo e provedor, com pelo menos três amostras elegíveis. O custo é o equivalente — quanto a mesma chamada custaria num provedor comercial de porte parecido.
Provedores e infraestrutura
Mangaba Router é a plataforma de acesso hospedada na Vercel; a inferência ocorre nos provedores abaixo. Hardware é informação documental revisada em 01/10/2026, não inspeção ao vivo das máquinas.
GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S
Identificador da API: gpu-l40s
2× NVIDIA L40S · Tensor Parallel 2 · vLLM
Fonte: Inventário do responsável e medição real em 01/10/2026.
Modelos: mangaba-titan, mangaba-multimodal, mangaba-operador.
Serve o mangaba-titan, o modelo mais capaz da plataforma: 1º lugar na bateria agêntica (7/7), visão nativa e 192 mil tokens de contexto. Medido em 10/10/2026, após desligar a decodificação especulativa (MTP): ~76 tok/s com 1 usuário; ~430 tok/s somados com 16 usuários, ~550 com 32 e ~640 com 48, com 1º token em até ~4 s (95% dos pedidos) mesmo com 32 simultâneos. Se a GPU cair, a PoC (mangaba-agente, CPU) assume automaticamente. Pelo roteador, até 32 chamadas simultâneas somando todas as contas; medido em 01/10/2026 com 16 usuários: todos atendidos em até ~14 s, só ~1 s acima da chamada direta à GPU. Raciocínio desligado por padrão (liga por requisição). Reinício automático após reboot.
Nordeste · projeto-ia · Xeon Gold 5218R
Identificador da API: mangaba-nordeste
Intel Xeon Gold 5218R · 48vCPU · ambiente projeto-ia · CPU-only, medido em 14/09/2026
Fonte: Documentação de infraestrutura e inventário do responsável.
Modelos: mangaba-coder, mangaba-raciocinio, mangaba-mini, mangaba-flash, mangaba-visao.
Servidor em CPU da rede projeto-ia. Atende mangaba-mini (atendimento geral, ~17 tok/s) e mangaba-flash (classificação rápida, ~28 tok/s). Desde 08/10, mangaba-coder e mangaba-raciocinio, e desde 11/10 mangaba-visao, são atendidos pelo mangaba-titan (GPU). O endereço llm.mangaba.ia.br é um serviço separado e não substitui automaticamente o gateway usado pela plataforma.
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
Identificador da API: poc
Intel Xeon Gold 6258R · 64vCPU · ambiente UBUNTU24-TESTE · confirmado via /proc/cpuinfo em 14/09/2026
Fonte: Documentação do projeto PoC Golden e inventário do responsável.
Modelos: mangaba-agente, mangaba-agente-hibrido, mangaba-embed, mangaba-embed-pro, mangaba-rerank, mangaba-audio, mangaba-audio-hq, mangaba-voz, mangaba-leve, kev-4b, kev-0.8b, brier-v5.
Ambiente separado do Nordeste, com serviços de texto, vetores, reordenação e voz; o identificador da API continua poc. Serve o mangaba-agente (~38 tok/s em 01/10/2026), que também é a reserva automática do mangaba-titan, e o mangaba-leve. Desde 08/10, mangaba-multimodal e mangaba-operador são atendidos pelo mangaba-titan (GPU). Ferramentas em todas as rotas de conversa (/v1/chat/completions e /v1/messages); áudio em /v1/audio/transcriptions e /v1/audio/speech.
Mangaba AI · api.mangaba.ia.br · CPU na Golden
Identificador da API: mangaba-ai
Intel Xeon Gold 6258R · CPU · mesmo servidor da PoC Golden
Fonte: Configuração dos serviços e do túnel api.mangaba.ia.br, conferida em 04/10/2026.
Modelos: mangaba-fast, mangaba-ocr, mangaba-embed-1536.
O endereço api.mangaba.ia.br é servido pelo mesmo servidor da PoC Golden (mesmo ambiente); até setembro de 2026 apontava para o gb10. Atende mangaba-fast (texto e uma imagem por chamada), mangaba-ocr (texto de documentos) e mangaba-embed-1536 (vetores), todos em CPU. Ferramentas homologadas pelo router.
ZeroGPU 14B · Hugging Face · H200 compartilhada
Identificador da API: hf-zero-14b
Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers
Fonte: Space DHEIVER/mangaba-zero-14b, criado e medido em 03/10/2026.
Modelos: mangaba-zero-14b.
Serve o mangaba-zero-14b: agente leve, 6/6 na bateria agêntica (ferramentas, chamadas paralelas, JSON), 1–6 s por chamada. Sem visão. A GPU vem da cota diária do ZeroGPU da conta (~25 min/dia, dividida com os outros Spaces): bom para demonstração e volume baixo; quando a cota acaba, as chamadas falham até o dia seguinte.
ZeroGPU 32B · Hugging Face · H200 compartilhada
Identificador da API: hf-zero-32b
Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers · pesos FP8
Fonte: Space DHEIVER/mangaba-zero-32b, criado e medido em 03/10/2026.
Modelos: mangaba-zero-32b.
Serve o mangaba-zero-32b: agente de capacidade média, 6/6 na bateria agêntica, 4–12 s por chamada (a primeira após ociosidade leva ~60 s para carregar). Sem visão. Gasta mais cota do ZeroGPU por chamada que o 14B; mesma cota diária compartilhada.
TypeSafe · Jev · API hospedada (decisão tipada)
Identificador da API: typesafe
Serviço remoto da TypeSafe AI; sem pesos abertos, sem VM própria
Fonte: docs.typesafe.ai e teste real da API em 20/09/2026.
Modelos: jev-latest, jev-preview.
Modelo de decisão, não de conversa: só atende POST /v1/systemone com state + questions (choice, score, noul) e devolve respostas tipadas com probabilidade e confiança. Cobra só a entrada (US$ 0,042 por milhão de tokens). Limites do provedor: 1.200 requisições por minuto, 64k de contexto. Sem streaming, ferramentas, imagem ou áudio.
Endereços de administração, portas internas e credenciais não fazem parte deste inventário público. Se o catálogo falhar, a última lista pode permanecer visível.
| Modelo | Provedor | Uso | Contexto | 1º token | Resposta | Geração | Tool call | Equivalente (US$/1M) |
|---|---|---|---|---|---|---|---|---|
mangaba-auto Deixe o roteador escolher: o Jev lê cada pedido e manda para o modelo certo. Código vai para o mangaba-coder, perguntas simples para o mangaba-mini, imagens e tarefas difíceis para o mangaba-titan. Quando não tem certeza, usa o mais capaz. A resposta informa o modelo escolhido no campo model. conversaferramentasvisãostreaming | Roteador · escolhe entre os provedores ocupação não disponível | escolha automática | não informado | sem amostras | sem amostras ainda | sem amostras ainda | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-titan O modelo mais capaz da Mangaba. Conduz agentes longos com várias ferramentas, raciocina sobre problemas complexos e lê imagens (prints, fotos, documentos). Também é a melhor escolha para código pesado ou com prazo: é o mais rápido da plataforma: ~76 tok/s por usuário e ~600 tok/s no total, começando a responder em até 4 s mesmo com 32 pedidos simultâneos. Contexto de 192 mil tokens. Roda em GPU dedicada; se ela cair, o mangaba-agente (CPU) assume automaticamente. ferramentasvisão | GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S tranquilo agora | agentescódigovisão | 196.608 | 0.7s | 1.6s mediana em 936 chamadas | 73 tok/s velocidade alta medido em 936 chamadas | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-coder Especialista em programação: escreve, revisa e corrige código, e opera como agente que chama ferramentas. Indicado para assistentes de código e automações. Desde 08/10 é atendido pelo mangaba-titan (GPU), bem mais rápido que o modelo original em CPU; o nome continua valendo. Atendido pelo mangaba-titan (GPU)conversaferramentasferramentas em streamingagente multi-turnostreaming | Nordeste · projeto-ia · Xeon Gold 5218R tranquilo agora | códigoagentes | 65.536 | 0.7s | 1.6s mediana em 936 chamadas | 73 tok/s velocidade alta medido em 936 chamadas | sim | 0.90 entrada · 3.60 saída vs. comercial de porte médio |
mangaba-agente Agente de uso geral: conversa, segue instruções e chama ferramentas com rapidez. Bom padrão para atendimento e fluxos de trabalho em texto. Contexto de 65 mil tokens. Não lê imagens. ferramentas | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | agentesatendimento | 65.536 | 3.6s | 7.5s mediana em 12 chamadas | 22.5 tok/s velocidade média medido em 12 chamadas | sim | 0.90 entrada · 3.60 saída vs. comercial de porte médio |
mangaba-agente-hibrido Agente de arquitetura híbrida, em avaliação desde 11/10: 6/6 na bateria agêntica (ferramentas, parâmetros, chamadas paralelas, uso do resultado e JSON), ~12 tok/s em CPU. Mais lento que o mangaba-agente; alternativa quando ele estiver ocupado. Carregado sob demanda: a primeira chamada leva ~30 s. Contexto de 65 mil tokens. Não lê imagens. ferramentas | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | agentescontexto longo | não informado | sem amostras | sem amostras ainda | sem amostras ainda | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-multimodal Agente que combina texto e imagem: interpreta fotos, telas e documentos e, na mesma conversa, chama ferramentas. Atendido pelo mangaba-titan (GPU): contexto de 192 mil tokens. ferramentasvisão | GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S tranquilo agora | agentesvisão | não informado | 0.7s | 1.6s mediana em 936 chamadas | 73 tok/s velocidade alta medido em 936 chamadas | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-raciocinio Raciocínio passo a passo para análises, cálculos e decisões que pedem cuidado. Atendido pelo mangaba-titan (GPU) com o raciocínio ligado: pensa antes de responder, por isso demora mais (dezenas de segundos em problemas difíceis) e acerta mais. Contexto de 192 mil tokens. Atendido pelo mangaba-titan (GPU)conversaferramentasferramentas em streamingagente multi-turnostreamingraciocínio | Nordeste · projeto-ia · Xeon Gold 5218R tranquilo agora | raciocínio | 65.536 | 0.7s | 1.6s mediana em 936 chamadas | 73 tok/s velocidade alta medido em 936 chamadas | sim | 0.90 entrada · 3.60 saída vs. comercial de porte médio |
mangaba-mini Modelo compacto para atendimento geral, perguntas e respostas e textos curtos, com baixo custo. Contexto de 65 mil tokens. Não lê imagens. conversaferramentasstreamingraciocínio | Nordeste · projeto-ia · Xeon Gold 5218R tranquilo agora | atendimento | 65.536 | 4.7s | 11.2s mediana em 54 chamadas | 16.4 tok/s velocidade média medido em 54 chamadas | sim | 0.15 entrada · 0.60 saída vs. comercial compacto |
mangaba-flash O mais leve e rápido: classifica, roteia pedidos, extrai campos e dá respostas curtíssimas. Não indicado para agentes: na bateria de 11/10 chamou ferramenta sem necessidade e errou JSON (3/6). Para código ou agentes, use o mangaba-titan. conversaferramentasstreaming | Nordeste · projeto-ia · Xeon Gold 5218R tranquilo agora | classificação | 32.768 | 2.9s | 4.1s mediana em 13 chamadas | 27.9 tok/s velocidade média medido em 13 chamadas | sim | 0.15 entrada · 0.60 saída vs. comercial compacto |
mangaba-visao Leitura de imagens: OCR, documentos digitalizados, notas e telas. Envie a imagem como image_url no chat. Desde 11/10 é atendido pelo mangaba-titan (GPU), sete vezes mais rápido que o modelo original em CPU; contexto de 192 mil tokens. Atendido pelo mangaba-titan (GPU)conversaferramentasstreamingvisão | Nordeste · projeto-ia · Xeon Gold 5218R tranquilo agora | visãoOCR | 8.192 | 0.7s | 1.6s mediana em 936 chamadas | 73 tok/s velocidade alta medido em 936 chamadas | sim | 0.15 entrada · 0.60 saída vs. comercial compacto |
mangaba-fast Respostas rápidas em texto, com uma imagem por chamada quando precisar. Aceita ferramentas homologadas pelo router. Contexto de 8 mil tokens e até 4 mil de saída. Roda em CPU. conversavisãostreamingferramentas | Mangaba AI · api.mangaba.ia.br · CPU na Golden fila cheia — respostas mais lentas | textovisão | 8.192 | 6s | 1min18s mediana em 963 chamadas | 14.8 tok/s velocidade baixa medido em 963 chamadas | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-ocr Extrai o texto de documentos, formulários e tabelas em imagem, preservando a estrutura e a acentuação. Envie só a imagem e o pedido (OCR:, Table Recognition:, Formula Recognition: ou Chart Recognition:), sem instrução de sistema. ~3 s por página, em CPU. visão | Mangaba AI · api.mangaba.ia.br · CPU na Golden fila cheia — respostas mais lentas | OCR | não informado | 5s | 13.1s mediana em 9 chamadas | 2.1 tok/s velocidade baixa medido em 9 chamadas | não | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-embed Transforma textos em vetores de 1024 dimensões para busca semântica e RAG. Use em /v1/embeddings. Não gera texto. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | vetores | 8.192 | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-embed-pro Vetores de alta precisão (4096 dimensões) para busca semântica exigente e grandes bases de documentos. Use em /v1/embeddings. Não gera texto. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | vetores | 8.192 | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-embed-1536 Vetores de 1536 dimensões, o tamanho que a maioria dos bancos vetoriais espera por padrão. Use em /v1/embeddings. Não gera texto. | Mangaba AI · api.mangaba.ia.br · CPU na Golden fila cheia — respostas mais lentas | vetores | não informado | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-rerank Reordena documentos pela relevância em relação a uma pergunta. Use depois da busca vetorial para entregar ao agente só o que importa. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | reordenação | 8.192 | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-audio Transcreve áudio em texto cerca de 10 vezes mais rápido que o tempo real, em 99 idiomas. Use em /v1/audio/transcriptions. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | transcrição | não se aplica | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-audio-hq Transcrição de áudio com máxima precisão, para gravações difíceis ou com termos técnicos. Cerca de 3 vezes mais rápido que o tempo real, em 99 idiomas. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | transcrição | não se aplica | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-voz Converte texto em fala em português do Brasil, com as vozes faber, cadu e jeff. Cerca de 13 vezes mais rápido que o tempo real. Use em /v1/audio/speech. | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | fala | não se aplica | sem amostras | não se aplica | não se aplica | não se aplica | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-leve Agente leve e econômico para tarefas simples, com uma ferramenta por vez (na bateria de 11/10 errou chamadas paralelas e JSON: 4/6). Em avaliação. Carregado sob demanda: a primeira chamada demora mais. ferramentas | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU tranquilo agora | agentes carrega sob demanda em avaliação | 16.384 | 2.8s | 2min26s mediana em 4 chamadas | 20.6 tok/s velocidade média medido em 4 chamadas | sim | 0.15 entrada · 0.60 saída vs. comercial compacto |
mangaba-operador Subagente que executa passos delegados por um agente principal. Desde 08/10 é atendido pelo mangaba-titan (GPU), mais rápido que o modelo original; o nome continua valendo. ferramentas | GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S tranquilo agora | subagente em avaliação | não informado | 0.7s | 1.6s mediana em 936 chamadas | 73 tok/s velocidade alta medido em 936 chamadas | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-zero-14b Agente leve em GPU compartilhada do Hugging Face: chama ferramentas, inclusive em paralelo, e responde em JSON. Sujeito à cota diária de GPU — indicado para testes e volume baixo; para uso contínuo, prefira o mangaba-titan. Não lê imagens. ferramentas | ZeroGPU 14B · Hugging Face · H200 compartilhada tranquilo agora | agentesvolume baixo | 32.768 | sem amostras | sem amostras ainda | sem amostras ainda | sim | 0.60 entrada · 2.40 saída vs. porte médio |
mangaba-zero-32b Agente de capacidade média em GPU compartilhada do Hugging Face: ferramentas, chamadas paralelas e JSON. A primeira chamada após ociosidade leva cerca de 1 minuto. Sujeito à cota diária de GPU — para uso contínuo, prefira o mangaba-titan. Não lê imagens. ferramentas | ZeroGPU 32B · Hugging Face · H200 compartilhada tranquilo agora | agentesvolume baixo | 32.768 | sem amostras | sem amostras ainda | sem amostras ainda | sim | 0.60 entrada · 2.40 saída vs. porte médio |
Decisão tipada
Modelos que não conversam: recebem um estado e perguntas fechadas (escolha, nota ou verdadeiro/falso) e devolvem a resposta com probabilidade e confiança. Todos usam o mesmo formato em POST /v1/systemone; troque só o campo model.
| Modelo | Tipo | Provedor | Equivalente (US$/1M) |
|---|---|---|---|
jev-latest Modelo de decisão da TypeSafe: recebe um estado (texto ou JSON) e perguntas fechadas (escolha, nota) e devolve respostas tipadas com probabilidade e confiança. Só em POST /v1/systemone; não conversa. | decisão tipada Pago / externo · maior qualidade | TypeSafe · Jev · API hospedada (decisão tipada) | 0.042 entrada · saída grátis |
jev-preview Versão de prévia do Jev, da TypeSafe. Mesmo uso do jev-latest: decisões tipadas em POST /v1/systemone. | decisão tipada Pago / externo · maior qualidade | TypeSafe · Jev · API hospedada (decisão tipada) | 0.042 entrada · saída grátis |
kev-4b Modelo de decisão aberto: acertou de 62% a 80% no teste de 04/10 e em sentimento (TweetSentBR) superou o Jev, 66% contra 60%. Abaixo do brier-v5 em inferência e um pouco mais rápido: ~1,2 s por pergunta (~1,5 s com três). | decisão tipada Aberto · mais rápido que o Brier | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU | 0.042 entrada · saída grátis |
kev-0.8b Decisão tipada leve e multilíngue, em ~1 s. Em sentimento e avaliações de produtos acerta no nível do Jev (65% a 69%); em raciocínio fica bem atrás. Boa opção para alto volume. | decisão tipada Aberto · alto volume | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU | 0.042 entrada · saída grátis |
brier-v5 Brier v5, o modelo de decisão da Mangaba AI, treinado em português e contra instruções injetadas no estado. No teste de 18/10 venceu o Jev em avaliações de produtos (B2W: 76% contra 67%, com probabilidades bem mais calibradas) e empatou em inferência (ASSIN2: 79% contra 78%); em sentimento ficou à frente (71% contra 68%). Substitui o brier-v2 e o brier-v3, cujos nomes seguem aceitos. | decisão tipada Mangaba AI · recomendado entre os abertos | Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU | 0.042 entrada · saída grátis |
Uma URL, quatro protocolos
OpenAI Chat Completions, Anthropic Messages, OpenAI Responses e MCP no mesmo endereço — troque a base URL e pronto.
Cache e fallback
Chamadas determinísticas repetidas voltam em milissegundos, e o roteador cai para o próximo gateway quando um falha.
Consumo medido
Cada chamada vira uma linha com latência, tokens e custo equivalente — p95 e tok/s da sua carga, não do folheto.