Modelos

Velocidades observadas no tráfego dos últimos 30 dias, por modelo e provedor, com pelo menos três amostras elegíveis. O custo é o equivalente — quanto a mesma chamada custaria num provedor comercial de porte parecido.

Aplicações:agentes e ferramentascódigoimagem e OCRatendimento e textoraciocínio e decisãobusca (vetores)áudio e voz

Provedores e infraestrutura

Mangaba Router é a plataforma de acesso hospedada na Vercel; a inferência ocorre nos provedores abaixo. Hardware é informação documental revisada em 01/10/2026, não inspeção ao vivo das máquinas.

GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S

Identificador da API: gpu-l40s

2× NVIDIA L40S · Tensor Parallel 2 · vLLM

Fonte: Inventário do responsável e medição real em 01/10/2026.

Modelos: mangaba-titan, mangaba-multimodal, mangaba-operador.

Serve o mangaba-titan, o modelo mais capaz da plataforma: 1º lugar na bateria agêntica (7/7), visão nativa e 192 mil tokens de contexto. Medido em 10/10/2026, após desligar a decodificação especulativa (MTP): ~76 tok/s com 1 usuário; ~430 tok/s somados com 16 usuários, ~550 com 32 e ~640 com 48, com 1º token em até ~4 s (95% dos pedidos) mesmo com 32 simultâneos. Se a GPU cair, a PoC (mangaba-agente, CPU) assume automaticamente. Pelo roteador, até 32 chamadas simultâneas somando todas as contas; medido em 01/10/2026 com 16 usuários: todos atendidos em até ~14 s, só ~1 s acima da chamada direta à GPU. Raciocínio desligado por padrão (liga por requisição). Reinício automático após reboot.

Nordeste · projeto-ia · Xeon Gold 5218R

Identificador da API: mangaba-nordeste

Intel Xeon Gold 5218R · 48vCPU · ambiente projeto-ia · CPU-only, medido em 14/09/2026

Fonte: Documentação de infraestrutura e inventário do responsável.

Modelos: mangaba-coder, mangaba-raciocinio, mangaba-mini, mangaba-flash, mangaba-visao.

Servidor em CPU da rede projeto-ia. Atende mangaba-mini (atendimento geral, ~17 tok/s) e mangaba-flash (classificação rápida, ~28 tok/s). Desde 08/10, mangaba-coder e mangaba-raciocinio, e desde 11/10 mangaba-visao, são atendidos pelo mangaba-titan (GPU). O endereço llm.mangaba.ia.br é um serviço separado e não substitui automaticamente o gateway usado pela plataforma.

Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU

Identificador da API: poc

Intel Xeon Gold 6258R · 64vCPU · ambiente UBUNTU24-TESTE · confirmado via /proc/cpuinfo em 14/09/2026

Fonte: Documentação do projeto PoC Golden e inventário do responsável.

Modelos: mangaba-agente, mangaba-agente-hibrido, mangaba-embed, mangaba-embed-pro, mangaba-rerank, mangaba-audio, mangaba-audio-hq, mangaba-voz, mangaba-leve, kev-4b, kev-0.8b, brier-v5.

Ambiente separado do Nordeste, com serviços de texto, vetores, reordenação e voz; o identificador da API continua poc. Serve o mangaba-agente (~38 tok/s em 01/10/2026), que também é a reserva automática do mangaba-titan, e o mangaba-leve. Desde 08/10, mangaba-multimodal e mangaba-operador são atendidos pelo mangaba-titan (GPU). Ferramentas em todas as rotas de conversa (/v1/chat/completions e /v1/messages); áudio em /v1/audio/transcriptions e /v1/audio/speech.

Mangaba AI · api.mangaba.ia.br · CPU na Golden

Identificador da API: mangaba-ai

Intel Xeon Gold 6258R · CPU · mesmo servidor da PoC Golden

Fonte: Configuração dos serviços e do túnel api.mangaba.ia.br, conferida em 04/10/2026.

Modelos: mangaba-fast, mangaba-ocr, mangaba-embed-1536.

O endereço api.mangaba.ia.br é servido pelo mesmo servidor da PoC Golden (mesmo ambiente); até setembro de 2026 apontava para o gb10. Atende mangaba-fast (texto e uma imagem por chamada), mangaba-ocr (texto de documentos) e mangaba-embed-1536 (vetores), todos em CPU. Ferramentas homologadas pelo router.

ZeroGPU 14B · Hugging Face · H200 compartilhada

Identificador da API: hf-zero-14b

Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers

Fonte: Space DHEIVER/mangaba-zero-14b, criado e medido em 03/10/2026.

Modelos: mangaba-zero-14b.

Serve o mangaba-zero-14b: agente leve, 6/6 na bateria agêntica (ferramentas, chamadas paralelas, JSON), 1–6 s por chamada. Sem visão. A GPU vem da cota diária do ZeroGPU da conta (~25 min/dia, dividida com os outros Spaces): bom para demonstração e volume baixo; quando a cota acaba, as chamadas falham até o dia seguinte.

ZeroGPU 32B · Hugging Face · H200 compartilhada

Identificador da API: hf-zero-32b

Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers · pesos FP8

Fonte: Space DHEIVER/mangaba-zero-32b, criado e medido em 03/10/2026.

Modelos: mangaba-zero-32b.

Serve o mangaba-zero-32b: agente de capacidade média, 6/6 na bateria agêntica, 4–12 s por chamada (a primeira após ociosidade leva ~60 s para carregar). Sem visão. Gasta mais cota do ZeroGPU por chamada que o 14B; mesma cota diária compartilhada.

TypeSafe · Jev · API hospedada (decisão tipada)

Identificador da API: typesafe

Serviço remoto da TypeSafe AI; sem pesos abertos, sem VM própria

Fonte: docs.typesafe.ai e teste real da API em 20/09/2026.

Modelos: jev-latest, jev-preview.

Modelo de decisão, não de conversa: só atende POST /v1/systemone com state + questions (choice, score, noul) e devolve respostas tipadas com probabilidade e confiança. Cobra só a entrada (US$ 0,042 por milhão de tokens). Limites do provedor: 1.200 requisições por minuto, 64k de contexto. Sem streaming, ferramentas, imagem ou áudio.

Endereços de administração, portas internas e credenciais não fazem parte deste inventário público. Se o catálogo falhar, a última lista pode permanecer visível.

ModeloProvedorUsoContexto1º tokenRespostaGeraçãoTool callEquivalente (US$/1M)
mangaba-auto
Deixe o roteador escolher: o Jev lê cada pedido e manda para o modelo certo. Código vai para o mangaba-coder, perguntas simples para o mangaba-mini, imagens e tarefas difíceis para o mangaba-titan. Quando não tem certeza, usa o mais capaz. A resposta informa o modelo escolhido no campo model.
conversaferramentasvisãostreaming
Roteador · escolhe entre os provedores
ocupação não disponível
escolha automática
não informadosem amostrassem amostras aindasem amostras aindasim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-titan
O modelo mais capaz da Mangaba. Conduz agentes longos com várias ferramentas, raciocina sobre problemas complexos e lê imagens (prints, fotos, documentos). Também é a melhor escolha para código pesado ou com prazo: é o mais rápido da plataforma: ~76 tok/s por usuário e ~600 tok/s no total, começando a responder em até 4 s mesmo com 32 pedidos simultâneos. Contexto de 192 mil tokens. Roda em GPU dedicada; se ela cair, o mangaba-agente (CPU) assume automaticamente.
ferramentasvisão
GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S
tranquilo agora
agentescódigovisão
196.6080.7s1.6s
mediana em 936 chamadas
73 tok/s
velocidade alta
medido em 936 chamadas
sim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-coder
Especialista em programação: escreve, revisa e corrige código, e opera como agente que chama ferramentas. Indicado para assistentes de código e automações. Desde 08/10 é atendido pelo mangaba-titan (GPU), bem mais rápido que o modelo original em CPU; o nome continua valendo.
Atendido pelo mangaba-titan (GPU)
conversaferramentasferramentas em streamingagente multi-turnostreaming
Nordeste · projeto-ia · Xeon Gold 5218R
tranquilo agora
códigoagentes
65.5360.7s1.6s
mediana em 936 chamadas
73 tok/s
velocidade alta
medido em 936 chamadas
sim0.90 entrada · 3.60 saída
vs. comercial de porte médio
mangaba-agente
Agente de uso geral: conversa, segue instruções e chama ferramentas com rapidez. Bom padrão para atendimento e fluxos de trabalho em texto. Contexto de 65 mil tokens. Não lê imagens.
ferramentas
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
tranquilo agora
agentesatendimento
65.5363.6s7.5s
mediana em 12 chamadas
22.5 tok/s
velocidade média
medido em 12 chamadas
sim0.90 entrada · 3.60 saída
vs. comercial de porte médio
mangaba-agente-hibrido
Agente de arquitetura híbrida, em avaliação desde 11/10: 6/6 na bateria agêntica (ferramentas, parâmetros, chamadas paralelas, uso do resultado e JSON), ~12 tok/s em CPU. Mais lento que o mangaba-agente; alternativa quando ele estiver ocupado. Carregado sob demanda: a primeira chamada leva ~30 s. Contexto de 65 mil tokens. Não lê imagens.
ferramentas
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
tranquilo agora
agentescontexto longo
não informadosem amostrassem amostras aindasem amostras aindasim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-multimodal
Agente que combina texto e imagem: interpreta fotos, telas e documentos e, na mesma conversa, chama ferramentas. Atendido pelo mangaba-titan (GPU): contexto de 192 mil tokens.
ferramentasvisão
GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S
tranquilo agora
agentesvisão
não informado0.7s1.6s
mediana em 936 chamadas
73 tok/s
velocidade alta
medido em 936 chamadas
sim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-raciocinio
Raciocínio passo a passo para análises, cálculos e decisões que pedem cuidado. Atendido pelo mangaba-titan (GPU) com o raciocínio ligado: pensa antes de responder, por isso demora mais (dezenas de segundos em problemas difíceis) e acerta mais. Contexto de 192 mil tokens.
Atendido pelo mangaba-titan (GPU)
conversaferramentasferramentas em streamingagente multi-turnostreamingraciocínio
Nordeste · projeto-ia · Xeon Gold 5218R
tranquilo agora
raciocínio
65.5360.7s1.6s
mediana em 936 chamadas
73 tok/s
velocidade alta
medido em 936 chamadas
sim0.90 entrada · 3.60 saída
vs. comercial de porte médio
mangaba-mini
Modelo compacto para atendimento geral, perguntas e respostas e textos curtos, com baixo custo. Contexto de 65 mil tokens. Não lê imagens.
conversaferramentasstreamingraciocínio
Nordeste · projeto-ia · Xeon Gold 5218R
tranquilo agora
atendimento
65.5364.7s11.2s
mediana em 54 chamadas
16.4 tok/s
velocidade média
medido em 54 chamadas
sim0.15 entrada · 0.60 saída
vs. comercial compacto
mangaba-flash
O mais leve e rápido: classifica, roteia pedidos, extrai campos e dá respostas curtíssimas. Não indicado para agentes: na bateria de 11/10 chamou ferramenta sem necessidade e errou JSON (3/6). Para código ou agentes, use o mangaba-titan.
conversaferramentasstreaming
Nordeste · projeto-ia · Xeon Gold 5218R
tranquilo agora
classificação
32.7682.9s4.1s
mediana em 13 chamadas
27.9 tok/s
velocidade média
medido em 13 chamadas
sim0.15 entrada · 0.60 saída
vs. comercial compacto
mangaba-visao
Leitura de imagens: OCR, documentos digitalizados, notas e telas. Envie a imagem como image_url no chat. Desde 11/10 é atendido pelo mangaba-titan (GPU), sete vezes mais rápido que o modelo original em CPU; contexto de 192 mil tokens.
Atendido pelo mangaba-titan (GPU)
conversaferramentasstreamingvisão
Nordeste · projeto-ia · Xeon Gold 5218R
tranquilo agora
visãoOCR
8.1920.7s1.6s
mediana em 936 chamadas
73 tok/s
velocidade alta
medido em 936 chamadas
sim0.15 entrada · 0.60 saída
vs. comercial compacto
mangaba-fast
Respostas rápidas em texto, com uma imagem por chamada quando precisar. Aceita ferramentas homologadas pelo router. Contexto de 8 mil tokens e até 4 mil de saída. Roda em CPU.
conversavisãostreamingferramentas
Mangaba AI · api.mangaba.ia.br · CPU na Golden
fila cheia — respostas mais lentas
textovisão
8.1926s1min18s
mediana em 963 chamadas
14.8 tok/s
velocidade baixa
medido em 963 chamadas
sim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-ocr
Extrai o texto de documentos, formulários e tabelas em imagem, preservando a estrutura e a acentuação. Envie só a imagem e o pedido (OCR:, Table Recognition:, Formula Recognition: ou Chart Recognition:), sem instrução de sistema. ~3 s por página, em CPU.
visão
Mangaba AI · api.mangaba.ia.br · CPU na Golden
fila cheia — respostas mais lentas
OCR
não informado5s13.1s
mediana em 9 chamadas
2.1 tok/s
velocidade baixa
medido em 9 chamadas
não0.60 entrada · 2.40 saída
vs. porte médio
mangaba-embed
Transforma textos em vetores de 1024 dimensões para busca semântica e RAG. Use em /v1/embeddings. Não gera texto.
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
tranquilo agora
vetores
8.192sem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-embed-pro
Vetores de alta precisão (4096 dimensões) para busca semântica exigente e grandes bases de documentos. Use em /v1/embeddings. Não gera texto.
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
tranquilo agora
vetores
8.192sem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-embed-1536
Vetores de 1536 dimensões, o tamanho que a maioria dos bancos vetoriais espera por padrão. Use em /v1/embeddings. Não gera texto.
Mangaba AI · api.mangaba.ia.br · CPU na Golden
fila cheia — respostas mais lentas
vetores
não informadosem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-rerank
Reordena documentos pela relevância em relação a uma pergunta. Use depois da busca vetorial para entregar ao agente só o que importa.
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
tranquilo agora
reordenação
8.192sem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-audio
Transcreve áudio em texto cerca de 10 vezes mais rápido que o tempo real, em 99 idiomas. Use em /v1/audio/transcriptions.
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
tranquilo agora
transcrição
não se aplicasem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-audio-hq
Transcrição de áudio com máxima precisão, para gravações difíceis ou com termos técnicos. Cerca de 3 vezes mais rápido que o tempo real, em 99 idiomas.
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
tranquilo agora
transcrição
não se aplicasem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-voz
Converte texto em fala em português do Brasil, com as vozes faber, cadu e jeff. Cerca de 13 vezes mais rápido que o tempo real. Use em /v1/audio/speech.
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
tranquilo agora
fala
não se aplicasem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-leve
Agente leve e econômico para tarefas simples, com uma ferramenta por vez (na bateria de 11/10 errou chamadas paralelas e JSON: 4/6). Em avaliação. Carregado sob demanda: a primeira chamada demora mais.
ferramentas
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
tranquilo agora
agentes
carrega sob demanda
em avaliação
16.3842.8s2min26s
mediana em 4 chamadas
20.6 tok/s
velocidade média
medido em 4 chamadas
sim0.15 entrada · 0.60 saída
vs. comercial compacto
mangaba-operador
Subagente que executa passos delegados por um agente principal. Desde 08/10 é atendido pelo mangaba-titan (GPU), mais rápido que o modelo original; o nome continua valendo.
ferramentas
GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S
tranquilo agora
subagente
em avaliação
não informado0.7s1.6s
mediana em 936 chamadas
73 tok/s
velocidade alta
medido em 936 chamadas
sim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-zero-14b
Agente leve em GPU compartilhada do Hugging Face: chama ferramentas, inclusive em paralelo, e responde em JSON. Sujeito à cota diária de GPU — indicado para testes e volume baixo; para uso contínuo, prefira o mangaba-titan. Não lê imagens.
ferramentas
ZeroGPU 14B · Hugging Face · H200 compartilhada
tranquilo agora
agentesvolume baixo
32.768sem amostrassem amostras aindasem amostras aindasim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-zero-32b
Agente de capacidade média em GPU compartilhada do Hugging Face: ferramentas, chamadas paralelas e JSON. A primeira chamada após ociosidade leva cerca de 1 minuto. Sujeito à cota diária de GPU — para uso contínuo, prefira o mangaba-titan. Não lê imagens.
ferramentas
ZeroGPU 32B · Hugging Face · H200 compartilhada
tranquilo agora
agentesvolume baixo
32.768sem amostrassem amostras aindasem amostras aindasim0.60 entrada · 2.40 saída
vs. porte médio

Decisão tipada

Modelos que não conversam: recebem um estado e perguntas fechadas (escolha, nota ou verdadeiro/falso) e devolvem a resposta com probabilidade e confiança. Todos usam o mesmo formato em POST /v1/systemone; troque só o campo model.

ModeloTipoProvedorEquivalente (US$/1M)
jev-latest
Modelo de decisão da TypeSafe: recebe um estado (texto ou JSON) e perguntas fechadas (escolha, nota) e devolve respostas tipadas com probabilidade e confiança. Só em POST /v1/systemone; não conversa.
decisão tipada
Pago / externo · maior qualidade
TypeSafe · Jev · API hospedada (decisão tipada)0.042 entrada · saída grátis
jev-preview
Versão de prévia do Jev, da TypeSafe. Mesmo uso do jev-latest: decisões tipadas em POST /v1/systemone.
decisão tipada
Pago / externo · maior qualidade
TypeSafe · Jev · API hospedada (decisão tipada)0.042 entrada · saída grátis
kev-4b
Modelo de decisão aberto: acertou de 62% a 80% no teste de 04/10 e em sentimento (TweetSentBR) superou o Jev, 66% contra 60%. Abaixo do brier-v5 em inferência e um pouco mais rápido: ~1,2 s por pergunta (~1,5 s com três).
decisão tipada
Aberto · mais rápido que o Brier
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU0.042 entrada · saída grátis
kev-0.8b
Decisão tipada leve e multilíngue, em ~1 s. Em sentimento e avaliações de produtos acerta no nível do Jev (65% a 69%); em raciocínio fica bem atrás. Boa opção para alto volume.
decisão tipada
Aberto · alto volume
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU0.042 entrada · saída grátis
brier-v5
Brier v5, o modelo de decisão da Mangaba AI, treinado em português e contra instruções injetadas no estado. No teste de 18/10 venceu o Jev em avaliações de produtos (B2W: 76% contra 67%, com probabilidades bem mais calibradas) e empatou em inferência (ASSIN2: 79% contra 78%); em sentimento ficou à frente (71% contra 68%). Substitui o brier-v2 e o brier-v3, cujos nomes seguem aceitos.
decisão tipada
Mangaba AI · recomendado entre os abertos
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU0.042 entrada · saída grátis

Uma URL, quatro protocolos

OpenAI Chat Completions, Anthropic Messages, OpenAI Responses e MCP no mesmo endereço — troque a base URL e pronto.

Cache e fallback

Chamadas determinísticas repetidas voltam em milissegundos, e o roteador cai para o próximo gateway quando um falha.

Consumo medido

Cada chamada vira uma linha com latência, tokens e custo equivalente — p95 e tok/s da sua carga, não do folheto.