Hipsters Ponto Tech AI Gateways: Gerenciando modelos, custos e acessos – Hipsters Ponto Tech #530
Aug 25, 2026
Fernanda Goulart, Head de Produto na Sensedia, fala sobre governança e observabilidade em AI Gateways. Kleber Bacili, cofundador e CEO da Sensedia, traz visão de mercado, segurança e desafios de levar pilotos à produção. Conversa sobre centralização de acesso a modelos, controle de custos, roteamento entre LLMs, guardrails e fallback. Debate sobre padrões emergentes como MCP e evolução da categoria.
AI Snips
Chapters
Transcript
Episode notes
AI Gateway Como Dois Problemas Em Um
- AI Gateway resolve dois problemas distintos: consumo de LLMs (custo) e MCP/agents (controle de acesso).
- Kleber explica que a categoria é um guarda-chuva combinando LLM Gateway e MCP/Agent Gateway para custo e segurança.
Implemente Circuit Breaker Por Custo
- Use um gateway para segregar provedores por time e aplicar circuit breaker por custo para evitar estouros de gasto.
- Vinny compara o padrão ao service mesh e sugere canários percentuais para trocar modelos gradualmente.
Governança Central Evita Proliferação Descontrolada
- Sem uma camada central, o uso de LLMs e agentes vira bagunça e você perde visibilidade de custo por feature e por usuário.
- Murillo enfatiza fallback multi-vendor e controle granular de custo e acesso por feature.