Vida com IA #132- História dos LLMs.
Oct 16, 2025
A história dos LLMs é fascinante! Tudo começou com o paper do Transformer em 2017, revolucionando o campo com sua técnica de atenção. A evolução dos modelos como BERT e GPT trouxe novas abordagens e aumentou a capacidade de processar dados. O impacto do ChatGPT foi massivo na popularização das interações com IA. 2024 prometerá avanços em multimodalidade, enquanto o raciocínio automático está se tornando o novo foco. O futuro parece promissor, com melhorias na geração de imagem e modelos rodando em dispositivos móveis.
AI Snips
Chapters
Transcript
Episode notes
ChatGPT Gerou Corrida Industrial
- O lançamento do ChatGPT (nov/2022) popularizou a IA para o público e gerou corrida por investimento em LLMs.
- Empresas como Google, Anthropic e Meta intensificaram esforços e produtos após o impacto social.
Open Source Acelerou Em 2023
- Em 2023 começou forte movimento open source com Llama 1 e Llama 2, impulsionando modelos comerciais abertos.
- Datasets públicos (Alpaca, Red Pajama) aceleraram fine-tuning e forks comunitários.
Multimodalidade e Janelas Gigantes
- 2024 foi o ano da multimodalidade e janelas de contexto enormes, com avanços em texto, imagem e áudio.
- Google Gemini levou a janela de contexto para até um milhão, mudando RAG e uso de contexto extenso.