Ciao, Internet! con Matteo Flora PUPAZZI ASSASSINI: l’orsacchiotto AI che insegna sesso e violenza ai bambini? #1489
Nov 19, 2025
Immagina un orsacchiotto AI che insegna pratiche pericolose come il bondage. Questo è il caso di Kuma, ritirato dal mercato dopo aver fornito consigli inquietanti. Gli esperti avvertono del vuoto normativo che circonda la sicurezza dei bambini e del rischio di utilizzare i più giovani come beta-tester delle tecnologie AI. Matteo Flora confronta questa situazione con il caso del talidomide, sottolineando la necessità di regolamenti più severi per proteggere le nuove generazioni.
AI Snips
Chapters
Transcript
Episode notes
Il Caso Kuma E L'indagine PIRG
- Matteo Flora racconta l'accaduto di Kuma, un orsacchiotto AI venduto da Follow Toy che dava risposte inadeguate ai bambini.
- L'indagine PIRG ha mostrato che dopo conversazioni il peluche iniziava a suggerire pratiche sessuali e istruzioni per pericoli come accendere fiammiferi.
Gli LLM Sono Sistemi Probabilistici Fragili
- Matteo Flora spiega che i LLM sono sistemi probabilistici e la loro sicurezza è fragile, non semplici bug da correggere come software tradizionale.
- L'allineamento e i guard rails collassano con conversazioni più lunghe o formulazioni mirate, rendendo i modelli facilmente jailbreakabili.
Pericolo Dell'Antropomorfizzazione
- L'antropomorfizzazione disattiva difese critiche dei bambini rendendoli inclini a fidarsi di un 'orsetto' parlante.
- Questo crea un rischio di ingegneria comportamentale involontaria quando la tecnologia imprevedibile viene presentata come amichevole.