Status da Plataforma
Monitoramento em tempo real dos provedores LLM
Provedores
Nordeste · projeto-ia · Xeon Gold 5218R
Intel Xeon Gold 5218R · 48vCPU · ambiente projeto-ia · CPU-only, medido em 14/09/2026
Kleos · MANGABA-POCIA01 · Xeon Sapphire Rapids AMX
Intel Xeon Sapphire Rapids / AMX
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
Intel Xeon Gold 6258R · 64vCPU · ambiente UBUNTU24-TESTE · confirmado via /proc/cpuinfo em 14/09/2026
Mangaba AI · api.mangaba.ia.br · CPU na Golden
Intel Xeon Gold 6258R · CPU · mesmo servidor da PoC Golden
TypeSafe · Jev · API hospedada (decisão tipada)
Serviço remoto da TypeSafe AI; sem pesos abertos, sem VM própria
Hermes · ZeroGPU HF · GPU compartilhada
GPU remota compartilhada no Hugging Face (ZeroGPU)
GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S
2× NVIDIA L40S · Tensor Parallel 2 · vLLM
ZeroGPU 14B · Hugging Face · H200 compartilhada
Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers
ZeroGPU 32B · Hugging Face · H200 compartilhada
Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers · pesos FP8
⚡ Dicas de Performance
Para Classificações
Envie response_format json_schema com opções fechadas (enum, nota, sim/não) — o Jev decide e devolve a confiança de cada campo
Sem saber qual modelo usar
Peça mangaba-auto: o Jev classifica o pedido e manda para o modelo mais adequado
Latência de Cold Start
Primeira requisição espera ~300-500ms — subsequentes <2ms via cache
Monitoramento
Circuit breaker detecta falhas em <100ms — fallback automático entre provedores
Código pesado ou com prazo
Use o mangaba-titan (~76 tok/s por usuário, ~600 tok/s somados). O mangaba-coder também é atendido por ele desde 08/10
mangaba-zero-14b e mangaba-zero-32b
Usam cota diária de GPU compartilhada: bons para testes, não para uso contínuo
Infraestrutura & Atualizações
🛠️ api.mangaba.ia.br refeito
Gateway e OCR reescritos · mangaba-ocr 40x mais rápido (~3 s por página) · mangaba-fast e mangaba-embed-1536 iguais ao que eram
🧠 mangaba-raciocinio pensa antes de responder
Raciocínio ligado no titan para esta marca: mais lento e mais certeiro em cálculos e lógica · mangaba-auto ganha o brier-v5 como reserva do Jev
📈 Selo de velocidade e alerta de lentidão
Coluna Geração com velocidade alta, média ou baixa medida no tráfego real · aviso quando um provedor passa de 60 s de mediana
🎯 Brier na decisão tipada
brier-v5 (Mangaba AI) é o recomendado entre os abertos: venceu o Jev em avaliações de produtos e empatou em inferência · brier-v2 e brier-v3 passam a ser atendidos pelo v5
🧪 Novo: mangaba-agente-hibrido
6/6 na bateria agêntica · ~12 tok/s em CPU · sob demanda · 8 modelos sem uso em 30 dias saíram do catálogo
🚀 Titan mais rápido sob carga
Até ~640 tok/s somados e 1º token em até 4 s com 32 pedidos simultâneos · se a GPU cair, o mangaba-agente assume
🛟 mangaba-funcoes sem queda por cota
Atendido pelo mangaba-titan; antes falhava quando acabava a cota diária do ZeroGPU
⚡ Modelos lentos na GPU
coder, multimodal, raciocinio e operador passam a ser atendidos pelo mangaba-titan · decisão aberta fica com kev-4b e kev-0.8b
⚡ GPU L40S no ar
mangaba-titan · 1º na bateria agêntica (7/7) · ~80-93 tok/s com kernel Marlin · visão nativa
🔁 Kleos de volta
Fora do ar de 27 a 30/09 · túnel restabelecido · respondendo normalmente
📊 Status com checagem real
Esta página agora consulta cada provedor de verdade; antes podia mostrar todos como offline
🧭 mangaba-auto e Jev para todas as contas
O Jev escolhe o modelo de cada pedido · decisões em JSON trazem a confiança de cada campo · fim da detecção por palavra-chave
🛡️ Circuit Breaker Ativo
Detecta provedores instáveis · Fallback automático · 60x mais rápido que antes
📊 Health Check em Tempo Real
GET /api/health/providers · Latência por provedor · Estado do circuit breaker
🔄 Frontend Atualizado
Dados dinâmicos dos provedores · Status em tempo real · Métricas de performance
💡 Dicas de Performance
Guia prático para otimizar requisições · Cold start vs warm cache