Akitando Akitando #142 - Entendendo COMO ChatGPT Funciona - Rodando sua Própria IA
Jul 22, 2023
Descubra a evolução dos modelos de linguagem e como os transformers mudaram o cenário da inteligência artificial. A conversa revela as aplicações práticas desses sistemas e suas limitações. É enfatizado que, apesar de sua capacidade de gerar texto, esses modelos são ferramentas que funcionam com base em padrões, e não substituem a cognição humana. Uma discussão intrigante sobre o funcionamento do ChatGPT que certamente instiga a curiosidade sobre o futuro da tecnologia.
AI Snips
Chapters
Transcript
Episode notes
Rodando IA localmente
- Fábio Akita rodou o modelo Vicuna 30B totalmente offline em sua máquina local sem precisar de APIs externas.
- Ele conseguiu conversar normalmente com a IA sem conexão, ilustrando que isso é viável em PCs potentes atuais.
Intuição sobre redes neurais
- Redes neurais simulam a aprendizagem do cérebro via conexões e pesos entre neurônios artificiais.
- Modelos de texto não armazenam regras gramaticais, mas aprendem padrões probabilísticos a partir de grandes volumes de textos.
Probabilidades e cadeias de Markov
- Cadeias de Markov modelam probabilidades de transições entre estados, similar ao autocorretor de smartphones.
- Modelos GPT são versões mais complexas que consideram sequências e contextos anteriores para prever próximo token.