Documentação

Do zero à primeira resposta, e depois as regras que não dá para adivinhar: quando o cache pega, qual limite estourou e como montar a cadeia de fallback.

Provedores e infraestrutura

Mangaba Router é a plataforma de acesso hospedada na Vercel; a inferência ocorre nos provedores abaixo. Hardware é informação documental revisada em 01/10/2026, não inspeção ao vivo das máquinas.

GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S

Identificador da API: gpu-l40s

2× NVIDIA L40S · Tensor Parallel 2 · vLLM

Fonte: Inventário do responsável e medição real em 01/10/2026.

Modelos: mangaba-titan, mangaba-multimodal, mangaba-operador.

Serve o mangaba-titan, o modelo mais capaz da plataforma: 1º lugar na bateria agêntica (7/7), visão nativa e 192 mil tokens de contexto. Medido em 10/10/2026, após desligar a decodificação especulativa (MTP): ~76 tok/s com 1 usuário; ~430 tok/s somados com 16 usuários, ~550 com 32 e ~640 com 48, com 1º token em até ~4 s (95% dos pedidos) mesmo com 32 simultâneos. Se a GPU cair, a PoC (mangaba-agente, CPU) assume automaticamente. Pelo roteador, até 32 chamadas simultâneas somando todas as contas; medido em 01/10/2026 com 16 usuários: todos atendidos em até ~14 s, só ~1 s acima da chamada direta à GPU. Raciocínio desligado por padrão (liga por requisição). Reinício automático após reboot.

Nordeste · projeto-ia · Xeon Gold 5218R

Identificador da API: mangaba-nordeste

Intel Xeon Gold 5218R · 48vCPU · ambiente projeto-ia · CPU-only, medido em 14/09/2026

Fonte: Documentação de infraestrutura e inventário do responsável.

Modelos: mangaba-coder, mangaba-raciocinio, mangaba-mini, mangaba-flash, mangaba-visao.

Servidor em CPU da rede projeto-ia. Atende mangaba-mini (atendimento geral, ~17 tok/s) e mangaba-flash (classificação rápida, ~28 tok/s). Desde 08/10, mangaba-coder e mangaba-raciocinio, e desde 11/10 mangaba-visao, são atendidos pelo mangaba-titan (GPU). O endereço llm.mangaba.ia.br é um serviço separado e não substitui automaticamente o gateway usado pela plataforma.

Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU

Identificador da API: poc

Intel Xeon Gold 6258R · 64vCPU · ambiente UBUNTU24-TESTE · confirmado via /proc/cpuinfo em 14/09/2026

Fonte: Documentação do projeto PoC Golden e inventário do responsável.

Modelos: mangaba-agente, mangaba-agente-hibrido, mangaba-embed, mangaba-embed-pro, mangaba-rerank, mangaba-audio, mangaba-audio-hq, mangaba-voz, mangaba-leve, kev-4b, kev-0.8b, brier-v5.

Ambiente separado do Nordeste, com serviços de texto, vetores, reordenação e voz; o identificador da API continua poc. Serve o mangaba-agente (~38 tok/s em 01/10/2026), que também é a reserva automática do mangaba-titan, e o mangaba-leve. Desde 08/10, mangaba-multimodal e mangaba-operador são atendidos pelo mangaba-titan (GPU). Ferramentas em todas as rotas de conversa (/v1/chat/completions e /v1/messages); áudio em /v1/audio/transcriptions e /v1/audio/speech.

Mangaba AI · api.mangaba.ia.br · CPU na Golden

Identificador da API: mangaba-ai

Intel Xeon Gold 6258R · CPU · mesmo servidor da PoC Golden

Fonte: Configuração dos serviços e do túnel api.mangaba.ia.br, conferida em 04/10/2026.

Modelos: mangaba-fast, mangaba-ocr, mangaba-embed-1536.

O endereço api.mangaba.ia.br é servido pelo mesmo servidor da PoC Golden (mesmo ambiente); até setembro de 2026 apontava para o gb10. Atende mangaba-fast (texto e uma imagem por chamada), mangaba-ocr (texto de documentos) e mangaba-embed-1536 (vetores), todos em CPU. Ferramentas homologadas pelo router.

ZeroGPU 14B · Hugging Face · H200 compartilhada

Identificador da API: hf-zero-14b

Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers

Fonte: Space DHEIVER/mangaba-zero-14b, criado e medido em 03/10/2026.

Modelos: mangaba-zero-14b.

Serve o mangaba-zero-14b: agente leve, 6/6 na bateria agêntica (ferramentas, chamadas paralelas, JSON), 1–6 s por chamada. Sem visão. A GPU vem da cota diária do ZeroGPU da conta (~25 min/dia, dividida com os outros Spaces): bom para demonstração e volume baixo; quando a cota acaba, as chamadas falham até o dia seguinte.

ZeroGPU 32B · Hugging Face · H200 compartilhada

Identificador da API: hf-zero-32b

Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers · pesos FP8

Fonte: Space DHEIVER/mangaba-zero-32b, criado e medido em 03/10/2026.

Modelos: mangaba-zero-32b.

Serve o mangaba-zero-32b: agente de capacidade média, 6/6 na bateria agêntica, 4–12 s por chamada (a primeira após ociosidade leva ~60 s para carregar). Sem visão. Gasta mais cota do ZeroGPU por chamada que o 14B; mesma cota diária compartilhada.

TypeSafe · Jev · API hospedada (decisão tipada)

Identificador da API: typesafe

Serviço remoto da TypeSafe AI; sem pesos abertos, sem VM própria

Fonte: docs.typesafe.ai e teste real da API em 20/09/2026.

Modelos: jev-latest, jev-preview.

Modelo de decisão, não de conversa: só atende POST /v1/systemone com state + questions (choice, score, noul) e devolve respostas tipadas com probabilidade e confiança. Cobra só a entrada (US$ 0,042 por milhão de tokens). Limites do provedor: 1.200 requisições por minuto, 64k de contexto. Sem streaming, ferramentas, imagem ou áudio.

Endereços de administração, portas internas e credenciais não fazem parte deste inventário público. Se o catálogo falhar, a última lista pode permanecer visível.

Configuração guiada e diagnóstico

Escolha seu objetivo e provedor, gere o exemplo correto e confira acesso antes de consumir inferência.

Abrir assistente de integração →

Comece sem consumir tokens de inferência

Consulte GET https://mangabarouter.store/v1/models com sua chave para listar os nomes disponíveis. Essa consulta verifica acesso ao catálogo; uma resposta 200 não comprova que a inferência funciona. Copie o nome exato do catálogo e consulte o provedor e a data da verificação.

OpenAI, Hermes e OpenClaw: use a base https://mangabarouter.store/v1 com o adaptador Chat Completions. Anthropic e Claude Code: use a base https://mangabarouter.store com Messages. Para Codex, veja a seção de Responses abaixo. A compatibilidade depende também das ferramentas e do formato de mensagens usados pelo cliente.

401: confira a chave do roteador, sua revogação e o endereço configurado; listar modelos não exclui um erro de autenticação no provedor. 429: respeite Retry-After e reduza chamadas simultâneas. Timeout: reduza o histórico e evite repetições paralelas. Consulte seus limites na aba Chaves e a ocupação antes de começar.

Velocidades são medianas do tráfego observado nos últimos 30 dias, por modelo e provedor, com pelo menos três amostras elegíveis. Não são promessa de tempo de resposta. Um nome ausente do anúncio atual pode permanecer disponível para compatibilidade; sua retirada exige revisão.

Roteador ou gateway direto?

Apontar para o roteador (https://mangabarouter.store/v1) com uma chave mr-… liga limite por chave, cache, fallback entre gateways e o log de tráfego. Apontar direto para o gateway (https://app.mangaba.ia.br/v1) com uma chave sk-… é mais curto, mas nada disso acontece.

Qual é o seu caso?

Use o assistente para gerar a configuração com o modelo e o provedor atuais. Os exemplos abaixo precisam ser verificados com a versão do seu cliente:

  • Minha aplicação usa o SDK da OpenAI — seção 2: mudam duas linhas.
  • Uso o SDK da Anthropic — seção 3: mesma ideia, base sem /v1.
  • Claude Code no terminal — seção 4: script pronto.
  • Codex (CLI da OpenAI) — seção 5: config.toml pronto.
  • OpenClaw — seção 6: openclaw.json pronto.
  • Hermes (Nous Research) — seção 7: config.yaml pronto.
  • Cursor / Claude Desktop (MCP) — seção 11: JSON-RPC pronto.
  • Busca semântica (RAG) — seção 12: embeddings e rerank.
  • Voz e health check — seção 13: TTS, transcrição e monitoramento.
  • Classificar, pontuar, decidir (sem gerar texto) — seção 14: decisão tipada com o Jev.

Os provedores usam infraestruturas diferentes, incluindo CPU e GPU remota. Conversas e agentes têm tempos diferentes de processamento e fila. Configure um timeout compatível com seu caso; os exemplos usam até 10 minutos.

1. Primeira chamada

curl https://mangabarouter.store/v1/chat/completions \
  -H "Authorization: Bearer mr-SUA_CHAVE" \
  -H "Content-Type: application/json" \
  -d '{"model":"mangaba-mini",
       "messages":[{"role":"user","content":"oi"}]}'

A chave sai de Chaves de API, dentro do console. Ela aparece uma única vez — o banco guarda só o hash.

2. Migrar um app que já usa OpenAI

from openai import OpenAI

client = OpenAI(
    base_url="https://mangabarouter.store/v1",   # <- só isto muda
    api_key="mr-SUA_CHAVE",
)

r = client.chat.completions.create(
    model="mangaba-coder",
    messages=[{"role": "user", "content": "Olá!"}],
    stream=True,
)

Nenhuma outra linha do seu código muda: o roteador fala o mesmo protocolo, com streaming e tool calling.

3. SDK da Anthropic (Messages API)

# a base NÃO leva /v1: o SDK Anthropic acrescenta /v1/messages sozinho
export ANTHROPIC_BASE_URL=https://mangabarouter.store
export ANTHROPIC_API_KEY=mr-SUA_CHAVE
export ANTHROPIC_MODEL=mangaba-coder

# em curl, o caminho completo:
curl https://mangabarouter.store/v1/messages \
  -H "x-api-key: mr-SUA_CHAVE" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{"model":"mangaba-coder","max_tokens":60,
       "messages":[{"role":"user","content":"Olá!"}]}'

Aceita x-api-key ou Authorization: Bearer, com system no topo, tool use e streaming — os eventos SSE saem no formato Anthropic.

4. Claude Code no terminal

O Claude Code fala Messages API, então funciona aqui — mas exige três ajustes que ninguém adivinha na primeira tentativa. Salve como ~/.local/bin/claude-mangaba e dê chmod +x:

#!/bin/zsh
export ANTHROPIC_BASE_URL="https://mangabarouter.store"
export ANTHROPIC_AUTH_TOKEN="mr-SUA_CHAVE"

# sem os cinco nomes abaixo o cliente manda claude-* e leva 400
export ANTHROPIC_MODEL="mangaba-coder"
export ANTHROPIC_DEFAULT_SONNET_MODEL="mangaba-coder"
export ANTHROPIC_DEFAULT_OPUS_MODEL="mangaba-coder"
export ANTHROPIC_SMALL_FAST_MODEL="mangaba-mini"
export ANTHROPIC_DEFAULT_HAIKU_MODEL="mangaba-mini"

export API_TIMEOUT_MS="600000"              # o padrao desiste antes da CPU terminar
export CLAUDE_CODE_MAX_CONTEXT_TOKENS="65536"  # janela real; senao ele presume 200k
export CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC="1"

exec claude --tools "" "$@"                 # so conversa; veja a nota abaixo

Por que --tools "": as 25 ferramentas padrão viajam inteiras em cada turno. Medido em 28/ago: com elas o corpo passa de 70 KB (~18k tokens de entrada) e uma pergunta trivial leva 5min57s; sem elas são 7,6 KB (2.325 tokens) e 54s. Em CPU o gargalo é ler o prompt, não gerar a resposta. Negar ferramenta por permissão não ajuda — a definição continua sendo enviada. Para reativar quando precisar: claude-mangaba --tools "Read,Grep,Bash".

Sobre o tempo: um turno pode passar de um minuto, e por isso o API_TIMEOUT_MS alto importa. O roteador aguenta até 800s por requisição — medido em 28/ago, um prompt de 22,7k tokens de entrada voltou em 427s. Não há mais motivo para apontar direto ao gateway.

A linha [claude-code:unrecognized_model] é só telemetria de nome fora do catálogo dele, e não afeta a chamada. E respostas ficam mais lentas conforme a conversa cresce: cada turno reenvia o histórico inteiro.

5. Codex (CLI da OpenAI) no terminal

O Codex fala a Responses API, que o roteador traduz para o gateway. Crie ~/.codex/config.toml:

model = "mangaba-coder"
model_provider = "mangaba"

[model_providers.mangaba]
name = "Mangaba"
base_url = "https://mangabarouter.store/v1"
env_key = "MANGABA_API_KEY"
wire_api = "responses"
export MANGABA_API_KEY=mr-SUA_CHAVE
codex

Use wire_api = "responses": as versões atuais do Codex aposentaram o modo chat. O aviso "Model metadata not found" é inofensivo — o nome não está no catálogo interno dele.

6. OpenClaw

Acrescente ao ~/.openclaw/openclaw.json:

{
  "models": {
    "providers": {
      "mangaba": {
        "baseUrl": "https://mangabarouter.store/v1",
        "apiKey": "mr-SUA_CHAVE",
        "api": "openai-completions",
        "models": [
          { "id": "mangaba-coder", "name": "Mangaba Coder",
            "reasoning": false, "input": ["text"],
            "contextWindow": 65536, "maxTokens": 8192 },
          { "id": "mangaba-mini", "name": "Mangaba 4B",
            "reasoning": false, "input": ["text"],
            "contextWindow": 65536, "maxTokens": 8192 }
        ]
      }
    }
  },
  "agents": {
    "defaults": { "model": { "primary": "mangaba/mangaba-coder" } }
  },
  "tools": { "profile": "minimal" }
}

profile: minimal importa: o perfil completo envia 34 definições de ferramenta em cada turno e só a leitura do prompt leva vários minutos em CPU. Se ativar o perfil coding, acrescente "deny": ["cron", "node_inference"] — essas duas usam anyOf no esquema, que o servidor de inferência não compila, e o turno falha com "backend HTTP 400".

7. Hermes (Nous Research)

Acrescente ao ~/.hermes/config.yaml:

model:
  default: mangaba/mangaba-coder
  provider: mangaba
  max_tokens: 2048
providers:
  mangaba:
    api: https://mangabarouter.store/v1
    api_key: mr-SUA_CHAVE

O Hermes dispara chamadas paralelas num mesmo turno; o roteador segura as excedentes em fila por até 2 minutos em vez de recusar — se aparecer 429, é a fila cheia de verdade, e insistir só piora. Teste rápido: hermes -z "oi".

Atenção à URL base: /v1 uma vez só

É o tropeço mais comum ao trocar de protocolo, porque cada SDK monta o caminho de um jeito:

  • SDK da OpenAI — a base leva /v1: https://mangabarouter.store/v1, e a biblioteca acrescenta /chat/completions.
  • SDK da Anthropic — a base não leva /v1: https://mangabarouter.store, porque a biblioteca já acrescenta /v1/messages.

Com /v1 nos dois lugares, a chamada vira /v1/v1/messages e o roteador responde 404 dizendo quais rotas existem — é o sintoma de “não volta nada”.

Uma rota da API da Anthropic não existe aqui: /v1/messages/count_tokens. Clientes que a chamam para estimar tokens recebem 404 e devem seguir sem ela.

8. Quando o cache pega (e quando não)

O cache devolve em milissegundos o que a inferência em CPU levaria dezenas de segundos — mas só entra em jogo quando repetir a resposta é honesto:

  • Pega com temperature: 0 ou sem temperatura, e sem tools.
  • Não pega com amostragem ligada (temperature > 0) — ali a variação é o ponto — nem em chamadas com ferramentas, cujo resultado depende do mundo lá fora.
  • stream não faz diferença: a mesma pergunta acerta o cache pedindo streaming ou não, e a resposta guardada é reemitida como SSE.

Confira no cabeçalho X-Mangaba-Cache: hit | miss de cada resposta.

9. Limites e o que fazer no 429

São dois limites diferentes, e o erro diz qual:

  • Da sua chave, ajustável em Chaves de API (padrão: 60 req/min e 200.000 tokens/hora). A mensagem cita o número configurado.
  • Do gateway, fixo em 30 req/min e 60.000 tokens/hora por chave dele. Quando esse estoura, o roteador tenta o próximo gateway da cadeia.

Respeite o cabeçalho Retry-After quando houver e espalhe as chamadas: em CPU, paralelismo não acelera — divide a mesma CPU.

10. Cadeia de fallback com dois gateways

Em Gateways, cadastre mais de um e ordene com as setas. O roteador tenta o primeiro; se ele devolver 5xx, 429 ou não responder, vai para o próximo — e o log mostra quantas tentativas foram feitas e quem atendeu (também no cabeçalho X-Mangaba-Gateway).

Erro 4xx que não seja 429 não aciona fallback: prompt inválido continuaria inválido no próximo gateway.

11. MCP para Cursor, Claude Desktop e Zed

curl https://mangabarouter.store/v1/mcp \
  -H "Authorization: Bearer mr-SUA_CHAVE" \
  -H "Content-Type: application/json" \
  -d '{"jsonrpc":"2.0","id":1,"method":"tools/list"}'

# chamar uma ferramenta (chat):
# '{"jsonrpc":"2.0","id":2,"method":"tools/call",
#   "params":{"name":"chat","arguments":{"messages":[{"role":"user","content":"oi"}]}}}'

Protocolo JSON-RPC 2.0 com os métodos tools/list, tools/call e initialize. Aqui a autenticação é a sua chave mr-…, e o roteador aplica fallback entre gateways como nas demais rotas.

12. Embeddings e rerank (RAG)

curl https://mangabarouter.store/v1/embeddings \
  -H "Authorization: Bearer mr-SUA_CHAVE" \
  -H "Content-Type: application/json" \
  -d '{"model":"mangaba-embed","input":["contrato de prestação de serviço"]}'

Cada modelo de embedding tem sua dimensão (768–4096): não misture dimensões no mesmo índice. Depois de buscar, reordene por relevância com POST /v1/rerank. Lotes com textos repetidos reaproveitam o cache item a item.

13. Voz e health check

# texto -> fala (devolve áudio):
curl https://mangabarouter.store/v1/audio/speech \
  -H "Authorization: Bearer mr-SUA_CHAVE" \
  -H "Content-Type: application/json" \
  -d '{"model":"mangaba-voz","input":"Olá, mundo","voice":"cadu"}' --output fala.wav

# fala -> texto (única rota multipart: arquivo + model):
curl https://mangabarouter.store/v1/audio/transcriptions \
  -H "Authorization: Bearer mr-SUA_CHAVE" \
  -F file=@audio.wav -F model=mangaba-audio

# saúde do serviço (pública, sem chave):
curl https://mangabarouter.store/v1/health

Áudio não passa pelo cache e conta nos mesmos limites da chave. O /v1/health é o único caminho público: use para monitoramento sem expor chave.

14. Decisão tipada: classificar, pontuar e decidir (Jev e modelos abertos)

# state = o contexto; questions = o que decidir. Volta JSON com probabilidades.
curl https://mangabarouter.store/v1/systemone \
  -H "Authorization: Bearer mr-SUA_CHAVE" \
  -H "Content-Type: application/json" \
  -d '{"model":"brier-v5",
       "state":"Minha internet caiu de novo, terceira vez hoje. Preciso de ajuda urgente.",
       "questions":{
         "setor":{"type":"choice","instructions":"Qual setor deve atender",
                  "criteria":{"suporte":"Queda ou lentidão","financeiro":"Boleto ou cobrança","comercial":"Planos"}},
         "frustracao":{"type":"score","instructions":"Quão irritado o cliente está",
                       "criteria":["calmo","irritado mas educado","muito irritado"]},
         "urgente":{"type":"noul","instructions":"A mensagem expressa urgência"}}}'

# resposta (resumida): answers.setor.choice = "suporte", probabilities por opção,
# answers.frustracao.score = 1, answers.urgente.noul = 0.99, e usage.input_tokens

# troque só o model para mudar de modelo:
#   "model":"jev-latest" pago/externo, maior qualidade, <1 s
#   "model":"brier-v5"  da Mangaba AI, recomendado entre os abertos (vence o Jev em B2W)
#   "model":"kev-4b"    aberto, ~1,2 s
#   "model":"kev-0.8b"  leve, alto volume, ~1 s
# regras do campo criteria:
#   choice -> objeto {opção: descrição}
#   score  -> lista de níveis, do menor para o maior
#   noul   -> {"true": ..., "false": ...} ou omitido
#   instructions é obrigatório em todos os tipos

O Jev não escreve texto: responde só com escolhas, notas e probabilidades, em menos de um segundo. Use para triagem, roteamento de intenção e gate de confiança antes de chamar um modelo de chat ou escalar para humano. Três tipos de pergunta: choice (uma opção entre várias), score (nível numa escala que você define) e noul (sim/não com probabilidade). O Jev está disponível para todas as contas; quem cadastrar a própria chave da TypeSafe (Gateways › Chaves próprias) passa a usá-la. Os modelos abertos (kev-0.8b e kev-4b) rodam na nossa infraestrutura e ainda estão em avaliação: no teste de 04/10 nenhum deles superou o Jev no geral. O brier-v5, da Mangaba AI, é o recomendado entre os abertos: venceu o Jev em avaliações de produtos e empatou em inferência (os nomes brier-v2 e brier-v3 seguem aceitos e são atendidos por ele); o kev-4b é mais rápido, e o kev-0.8b serve para alto volume. Para decisões importantes, use o jev-latest. Sem streaming; cache de 24h para o mesmo estado e perguntas.

Chaves próprias: TypeSafe e Hugging Face

Dois provedores aceitam a sua chave: o TypeSafe (Jev, seção 14), que sem chave própria usa a da instalação, e o Hugging Face (Hermes 3 no ZeroGPU). Em Gateways › Chaves próprias de provedor, cole a chave; o roteador confirma com o provedor, cifra e cadastra na sua conta. A partir daí os modelos deles aparecem no seu catálogo e cada chamada gasta o seu saldo ou a sua cota, nunca a de outra conta. Sem a chave do Hugging Face, o Hermes não aparece para a sua conta.

Vários provedores, um endereço só

A sua conta pode ter mais de um provedor de inferência ligado. O roteador olha o campo model e manda a chamada para quem serve aquele modelo — você não muda de URL nem de chave para trocar de provedor.

Para saber quem serve o quê, chame GET https://mangabarouter.store/v1/models: cada entrada traz owned_by com o nome do provedor. A mesma lista aparece agrupada no seletor do Playground, dentro do console.

Quando dois provedores oferecem o mesmo nome de modelo, vale a ordem de prioridade dos gateways. Para fixar um deles, escreva provedor/modelo — poc/mangaba-agente, por exemplo. Prefixo que não corresponde a nenhum provedor é ignorado, e o modelo continua valendo.

Modelos grandes que rodavam em CPU (Nordeste-Coder, gemma4-26b, Qwen3-Coder e a marca mangaba-coder) agora são atendidos pelo mangaba-titan na GPU: o nome antigo continua aceito e a resposta volta com o modelo que respondeu. Para forçar o original, use o prefixo do provedor, como mangaba-nordeste/Mangaba-Nordeste-Coder.

Nem todo provedor serve toda rota: se um deles não tiver /v1/messages, o roteador tenta o próximo que tiver, em vez de devolver erro.

Modelos disponíveis — e só estes

O roteador recusa qualquer outro nome com 400, antes de sair para a rede: assim ninguém recebe, sem saber, a resposta de um modelo diferente do que pediu.

  • mangaba-autoRoteador · escolhe entre os provedoresDeixe o roteador escolher: o Jev lê cada pedido e manda para o modelo certo. Código vai para o mangaba-coder, perguntas simples para o mangaba-mini, imagens e tarefas difíceis para o mangaba-titan. Quando não tem certeza, usa o mais capaz. A resposta informa o modelo escolhido no campo model. · tool calling · visão
  • mangaba-titanGPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40SO modelo mais capaz da Mangaba. Conduz agentes longos com várias ferramentas, raciocina sobre problemas complexos e lê imagens (prints, fotos, documentos). Também é a melhor escolha para código pesado ou com prazo: é o mais rápido da plataforma: ~76 tok/s por usuário e ~600 tok/s no total, começando a responder em até 4 s mesmo com 32 pedidos simultâneos. Contexto de 192 mil tokens. Roda em GPU dedicada; se ela cair, o mangaba-agente (CPU) assume automaticamente.contexto 196.608 tokens · tool calling · visão
  • mangaba-coderNordeste · projeto-ia · Xeon Gold 5218REspecialista em programação: escreve, revisa e corrige código, e opera como agente que chama ferramentas. Indicado para assistentes de código e automações. Desde 08/10 é atendido pelo mangaba-titan (GPU), bem mais rápido que o modelo original em CPU; o nome continua valendo.contexto 65.536 tokens · tool calling
  • mangaba-agenteGolden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUAgente de uso geral: conversa, segue instruções e chama ferramentas com rapidez. Bom padrão para atendimento e fluxos de trabalho em texto. Contexto de 65 mil tokens. Não lê imagens.contexto 65.536 tokens · tool calling
  • mangaba-agente-hibridoGolden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUAgente de arquitetura híbrida, em avaliação desde 11/10: 6/6 na bateria agêntica (ferramentas, parâmetros, chamadas paralelas, uso do resultado e JSON), ~12 tok/s em CPU. Mais lento que o mangaba-agente; alternativa quando ele estiver ocupado. Carregado sob demanda: a primeira chamada leva ~30 s. Contexto de 65 mil tokens. Não lê imagens. · tool calling
  • mangaba-multimodalGPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40SAgente que combina texto e imagem: interpreta fotos, telas e documentos e, na mesma conversa, chama ferramentas. Atendido pelo mangaba-titan (GPU): contexto de 192 mil tokens. · tool calling · visão
  • mangaba-raciocinioNordeste · projeto-ia · Xeon Gold 5218RRaciocínio passo a passo para análises, cálculos e decisões que pedem cuidado. Atendido pelo mangaba-titan (GPU) com o raciocínio ligado: pensa antes de responder, por isso demora mais (dezenas de segundos em problemas difíceis) e acerta mais. Contexto de 192 mil tokens.contexto 65.536 tokens · tool calling · raciocínio
  • mangaba-miniNordeste · projeto-ia · Xeon Gold 5218RModelo compacto para atendimento geral, perguntas e respostas e textos curtos, com baixo custo. Contexto de 65 mil tokens. Não lê imagens.contexto 65.536 tokens · tool calling · raciocínio
  • mangaba-flashNordeste · projeto-ia · Xeon Gold 5218RO mais leve e rápido: classifica, roteia pedidos, extrai campos e dá respostas curtíssimas. Não indicado para agentes: na bateria de 11/10 chamou ferramenta sem necessidade e errou JSON (3/6). Para código ou agentes, use o mangaba-titan.contexto 32.768 tokens · tool calling
  • mangaba-visaoNordeste · projeto-ia · Xeon Gold 5218RLeitura de imagens: OCR, documentos digitalizados, notas e telas. Envie a imagem como image_url no chat. Desde 11/10 é atendido pelo mangaba-titan (GPU), sete vezes mais rápido que o modelo original em CPU; contexto de 192 mil tokens.contexto 8.192 tokens · tool calling · visão
  • mangaba-fastMangaba AI · api.mangaba.ia.br · CPU na GoldenRespostas rápidas em texto, com uma imagem por chamada quando precisar. Aceita ferramentas homologadas pelo router. Contexto de 8 mil tokens e até 4 mil de saída. Roda em CPU.contexto 8.192 tokens · tool calling · visão
  • mangaba-ocrMangaba AI · api.mangaba.ia.br · CPU na GoldenExtrai o texto de documentos, formulários e tabelas em imagem, preservando a estrutura e a acentuação. Envie só a imagem e o pedido (OCR:, Table Recognition:, Formula Recognition: ou Chart Recognition:), sem instrução de sistema. ~3 s por página, em CPU. · visão
  • mangaba-embedGolden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUTransforma textos em vetores de 1024 dimensões para busca semântica e RAG. Use em /v1/embeddings. Não gera texto.contexto 8.192 tokens
  • mangaba-embed-proGolden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUVetores de alta precisão (4096 dimensões) para busca semântica exigente e grandes bases de documentos. Use em /v1/embeddings. Não gera texto.contexto 8.192 tokens
  • mangaba-embed-1536Mangaba AI · api.mangaba.ia.br · CPU na GoldenVetores de 1536 dimensões, o tamanho que a maioria dos bancos vetoriais espera por padrão. Use em /v1/embeddings. Não gera texto.
  • mangaba-rerankGolden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUReordena documentos pela relevância em relação a uma pergunta. Use depois da busca vetorial para entregar ao agente só o que importa.contexto 8.192 tokens
  • mangaba-audioGolden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUTranscreve áudio em texto cerca de 10 vezes mais rápido que o tempo real, em 99 idiomas. Use em /v1/audio/transcriptions.
  • mangaba-audio-hqGolden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUTranscrição de áudio com máxima precisão, para gravações difíceis ou com termos técnicos. Cerca de 3 vezes mais rápido que o tempo real, em 99 idiomas.
  • mangaba-vozGolden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUConverte texto em fala em português do Brasil, com as vozes faber, cadu e jeff. Cerca de 13 vezes mais rápido que o tempo real. Use em /v1/audio/speech.
  • mangaba-leveGolden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUAgente leve e econômico para tarefas simples, com uma ferramenta por vez (na bateria de 11/10 errou chamadas paralelas e JSON: 4/6). Em avaliação. Carregado sob demanda: a primeira chamada demora mais.contexto 16.384 tokens · tool calling
  • mangaba-operadorGPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40SSubagente que executa passos delegados por um agente principal. Desde 08/10 é atendido pelo mangaba-titan (GPU), mais rápido que o modelo original; o nome continua valendo. · tool calling
  • mangaba-zero-14bZeroGPU 14B · Hugging Face · H200 compartilhadaAgente leve em GPU compartilhada do Hugging Face: chama ferramentas, inclusive em paralelo, e responde em JSON. Sujeito à cota diária de GPU — indicado para testes e volume baixo; para uso contínuo, prefira o mangaba-titan. Não lê imagens.contexto 32.768 tokens · tool calling
  • mangaba-zero-32bZeroGPU 32B · Hugging Face · H200 compartilhadaAgente de capacidade média em GPU compartilhada do Hugging Face: ferramentas, chamadas paralelas e JSON. A primeira chamada após ociosidade leva cerca de 1 minuto. Sujeito à cota diária de GPU — para uso contínuo, prefira o mangaba-titan. Não lê imagens.contexto 32.768 tokens · tool calling
  • jev-latestTypeSafe · Jev · API hospedada (decisão tipada)Modelo de decisão da TypeSafe: recebe um estado (texto ou JSON) e perguntas fechadas (escolha, nota) e devolve respostas tipadas com probabilidade e confiança. Só em POST /v1/systemone; não conversa.contexto 65.536 tokens
  • jev-previewTypeSafe · Jev · API hospedada (decisão tipada)Versão de prévia do Jev, da TypeSafe. Mesmo uso do jev-latest: decisões tipadas em POST /v1/systemone.contexto 65.536 tokens
  • kev-4bGolden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUModelo de decisão aberto: acertou de 62% a 80% no teste de 04/10 e em sentimento (TweetSentBR) superou o Jev, 66% contra 60%. Abaixo do brier-v5 em inferência e um pouco mais rápido: ~1,2 s por pergunta (~1,5 s com três).
  • kev-0.8bGolden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUDecisão tipada leve e multilíngue, em ~1 s. Em sentimento e avaliações de produtos acerta no nível do Jev (65% a 69%); em raciocínio fica bem atrás. Boa opção para alto volume.
  • brier-v5Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPUBrier v5, o modelo de decisão da Mangaba AI, treinado em português e contra instruções injetadas no estado. No teste de 18/10 venceu o Jev em avaliações de produtos (B2W: 76% contra 67%, com probabilidades bem mais calibradas) e empatou em inferência (ASSIN2: 79% contra 78%); em sentimento ficou à frente (71% contra 68%). Substitui o brier-v2 e o brier-v3, cujos nomes seguem aceitos.

A velocidade medida de cada um está em /modelos, calculada sobre as chamadas reais. O contexto é a janela por requisição — prompt maior retorna 400.