Underscore_ S5E19 - Pourquoi envoyer votre ADN par internet est dangereux
14 snips
Jul 27, 2025 Wassim Bouaziz, doctorant en intelligence artificielle à l'école polytechnique, plonge au cœur des dangers du partage de votre ADN en ligne. Il dévoile comment le data poisoning peut transformer vos données en armes contre vos propres IA. La conversation aborde l'influence des interactions sur des plateformes comme Reddit et souligne les menaces éthiques en matière de cybersécurité. Bouaziz partage des exemples concrets de manipulation des modèles de langage et examine les risques associés à l'usage croissant de l'IA dans la création et la recommandation de contenu.
AI Snips
Chapters
Transcript
Episode notes
Risques du data poisoning
- Les attaques par empoisonnement des données peuvent forcer un modèle à mal fonctionner pour certains utilisateurs ciblés.
- Ce type d'attaques risque d'introduire des comportements non voulus même dans des systèmes contrôlés et sécurisés.
Le mystère du token déraillant
- Le token "Solid Gold Magikarp" provient d'un utilisateur de Reddit très actif sur un subreddit.
- Ce token particulier pouvait faire dérailler certains modèles de langage dans leurs réponses.
Techniques d'empoisonnement
- L'empoisonnement de données peut se faire par backdoor ou par conditionnement indirect.
- Ces techniques permettent d'insérer des comportements cachés et déclenchables dans les modèles d'IA.