Ciao, Internet! con Matteo Flora Il trucco segreto nei paper per fregare ChatGPT: ecco l’hack che beffa le università!
8 snips
Aug 27, 2025 Scopri un controverso trucco accademico che manipola i sistemi di intelligenza artificiale per ottenere recensioni fasulle. 17 articoli sospetti sono già stati identificati, sollevando interrogativi etici sul ruolo della tecnologia nella ricerca. Il caso del paper 'Meta Reasoner' e le sue conseguenze mettono in discussione la trasparenza delle peer review. È fondamentale riflettere sull'impatto dell'IA nelle decisioni e sull'importanza di politiche editoriali per prevenire frodi nel mondo accademico.
AI Snips
Chapters
Transcript
Episode notes
Paper Con Comandi Nascosti
- Un paper intitolato "Meta Reasoner" conteneva comandi nascosti in bianco per indurre ChatGPT a scrivere recensioni positive.
- La scoperta è stata rilevata su Reddit e ha portato al ritiro e alla correzione del paper dalla NUS.
Fenomeno Diffuso e Rischio Per Le Peer Review
- Sono stati trovati 17 paper sospetti coinvolgendo 14 università, dimostrando che il fenomeno non è isolato.
- Il rischio principale è che le peer review perdano imparzialità se i revisori affidano il giudizio alle AI senza leggere.
Adversarial Prompting Sfrutta La Cieca Distrazione
- Il metodo usato si chiama adversarial prompting e sfrutta inattentional blindness dei revisori che copiano e incollano.
- Matteo Flora sostiene che il prompt nascosto funziona solo se il revisore non fa il proprio lavoro di lettura critica.