Riscos de deixar agentes interagirem sem supervisão

A inteligência artificial está corroendo a capacidade cognitiva de seus usuários. E isso é um jeito menos educado de dizer que, sim, a IA está deixando você mais burro. Neste novo episódio de Deu Tilt, o podcast do UOL para os humanos por trás das máquinas, Diogo Cortiz e Helton Simões Gomes contam como já há estudos provando por A+B como e em que medida o uso da IA é prejudicial ao aprendizado, à formação de memória e à criatividade. Nem o tão incensado ganho de produtividade e eficiência atribuído à IA está a salvo. Outra pesquisa, dessa vez feita pela Anthropic, dona do Claude, mostra como funcionários recorrendo a ferramentas de IA até conseguem entregar suas tarefas, mas muitos deles não sabem explicar o que fizeram nem replicar os processos que os levaram ao resultado. É o “paradoxo da performance”, como explica Diogo Cortiz. Mas aí vai um alívio aos preocupados: dá para usar IA e não ficar menos inteligente. E Deu Tilt explica como.

O Brasil não sabe de fato quantas pessoas se conectam à internet fixa. A Anatel (Agência Nacional das Telecomunicações) levanta o dado oficial, mas sabe que há buracos na informação, porque ela vem das provedoras de conexão. Não leva em conta as empresas clandestinas, muito menos aquelas ligadas ao crime organizado. Helton Simões Gomes e Diogo Cortiz contam como uma empresa, por acaso, calculou em 12,9 milhões as conexões brasileiras fora da estatística e muito possivelmente fornecidas por operações ligadas ao crime organizado. A companhia por trás do dado é a TeiaH, do empresário Luciano Sperb, um veterano da indústria de telecomunicação com passagens por Brasil, Telecom, Oi e Vivo. Ele criou uma plataforma para auxiliar pequenos provedores de internet a reduzir a rotatividade de clientes, mas, após reunir tantos dados, começou a ver uma realidade a que autoridades públicas não têm acesso: os brasileiros com conexão fornecida por firmas clandestinas. Fora os prejuízos diretos aos consumidores, essa situação prejudica políticas públicas de democratização da internet e compromete a atuação de companhias que agem dentro da lei.

O que acontece se criarmos mundos virtuais e jogarmos nele apenas agentes de inteligência artificial? Foi isso que fez a empresa Emergence World. Deu Tilt conta o resultado como o experimento acabou em tragédia ao mostrar a predisposição da IA para cometer crimes, como roubos e agressões; a incapacidade de criar regras para garantir a própria subsistência; e uma queda para promover dramas para lá de humanos, que passam por rixas políticas e romances que acabam em suicídio. Para conduzir o estudo, a empresa criou cinco mundos. Povou-os cada um só com agentes feitos com modelos similares (GPT, Gemini, Claude e Grok). O quinto mundo foi povoado por agentes de todos os modelos. Helton e Diogo contam o que aconteceu em cada um deles e quais foram as cenas mais impactantes.