Status da Plataforma
Monitoramento em tempo real dos provedores LLM
Provedores
Nordeste · projeto-ia · Xeon Gold 5218R
Intel Xeon Gold 5218R · 48vCPU · ambiente projeto-ia · CPU-only, medido em 14/09/2026
Kleos · MANGABA-POCIA01 · Xeon Sapphire Rapids AMX
Intel Xeon Sapphire Rapids / AMX
Golden · UBUNTU24-TESTE · Xeon Gold 6258R 64vCPU
Intel Xeon Gold 6258R · 64vCPU · ambiente UBUNTU24-TESTE · confirmado via /proc/cpuinfo em 14/09/2026
Mangaba AI · api.mangaba.ia.br · CPU na Golden
Intel Xeon Gold 6258R · CPU · mesmo servidor da PoC Golden
TypeSafe · Jev · API hospedada (decisão tipada)
Serviço remoto da TypeSafe AI; sem pesos abertos, sem VM própria
Hermes · ZeroGPU HF · GPU compartilhada (OFFLINE)
GPU remota compartilhada no Hugging Face (DESATIVADO)
GPU L40S · llm-gpu.mangaba.ia.br · 2× NVIDIA L40S
2× NVIDIA L40S · Tensor Parallel 2 · vLLM
ZeroGPU 14B · Hugging Face · H200 compartilhada
Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers
ZeroGPU 32B · Hugging Face · H200 compartilhada
Space privado no Hugging Face com ZeroGPU (fatia de 48 GB de uma H200) · transformers · pesos FP8
⚡ Dicas de Performance
Para Classificações
Envie response_format json_schema com opções fechadas (enum, nota, sim/não) — o Jev decide e devolve a confiança de cada campo
Sem saber qual modelo usar
Peça mangaba-auto: o Jev classifica o pedido e manda para o modelo mais adequado
Latência de Cold Start
Primeira requisição espera ~300-500ms — subsequentes <2ms via cache
Monitoramento
Circuit breaker detecta falhas em <100ms — fallback automático entre provedores
Código pesado ou com prazo
Use o mangaba-titan (~85 tok/s, atende em paralelo). O mangaba-coder tem fila em horário de pico
mangaba-zero-14b e mangaba-zero-32b
Usam cota diária de GPU compartilhada: bons para testes, não para uso contínuo
Infraestrutura & Atualizações
⚡ GPU L40S no ar
mangaba-titan · 1º na bateria agêntica (7/7) · ~80-93 tok/s com kernel Marlin · visão nativa
🔁 Kleos de volta
Fora do ar de 27 a 30/09 · túnel restabelecido · respondendo normalmente
📊 Status com checagem real
Esta página agora consulta cada provedor de verdade; antes podia mostrar todos como offline
🧭 mangaba-auto e Jev para todas as contas
O Jev escolhe o modelo de cada pedido · decisões em JSON trazem a confiança de cada campo · fim da detecção por palavra-chave
🛡️ Circuit Breaker Ativo
Detecta provedores instáveis · Fallback automático · 60x mais rápido que antes
📊 Health Check em Tempo Real
GET /api/health/providers · Latência por provedor · Estado do circuit breaker
🔄 Frontend Atualizado
Dados dinâmicos dos provedores · Status em tempo real · Métricas de performance
💡 Dicas de Performance
Guia prático para otimizar requisições · Cold start vs warm cache