Vida com IA #112- Dicas de como usar LLMs.
Apr 17, 2025
Neste podcast, são oferecidas dicas valiosas para utilizar Modelos de Linguagem de Grande Escala (LLMs) em projetos. A discussão inclui zero-shot e few-shot com exemplos práticos do mundo real. Também é abordada a tokenização e como selecionar o LLM ideal para distintas aplicações. Além disso, estratégias para otimizar o processamento de documentos são exploradas, trazendo insights sobre a relação entre custo e desempenho na inteligência de documentos.
AI Snips
Chapters
Transcript
Episode notes
Exemplo de Few-Shot em Produção
- Na empresa do Filipe, extrair o CPF de comprovantes com diferentes máscaras causava erros em zero-shot.
- Usar few-shot com exemplos corrigiu todos os casos, mostrando a eficácia de prompts com exemplos.
Aprimore Prompts com Exemplos
- Melhore o desempenho dos LLMs ajustando o prompt, incluindo exemplos para few-shot.
- Prompts simples podem falhar pois o modelo interpreta tokens e não caracteres isolados.
Tokens e Interpretação nos LLMs
- Modelos veem tokens, que podem representar múltiplos caracteres, e não letras isoladas.
- Isso explica por que um prompt genérico como "se tiver X, troca por asterisco" pode falhar em casos complexos.