Just a Click L'intelligence artificielle au service de la modération de contenus, Carmen Valtierra de Luis
Jun 4, 2025
Carmen Valtierra de Luis, Head of Product chez Bodyguard, une solution innovante en modération de contenus, partage comment son équipe s'adapte aux défis posés par l'IA générative. Elle discute des impacts des modèles de langage sur la modération et des approches hybrides combinant expertise humaine et technologie. Carmen aborde également l'importance d'une innovation équilibrée, reliant les besoins des utilisateurs et l'expérimentation. Elle souligne enfin les défis futurs dans la gestion de la toxicité en ligne.
AI Snips
Chapters
Transcript
Episode notes
Origines et pivot stratégique
- Bodyguard a commencé par aider un individu à gérer le harcèlement en ligne via une application mobile.
- Ensuite, ils ont pivoté pour protéger la réputation des marques sur les réseaux sociaux et forums.
Importance du contexte en modération
- La modération intelligente nécessite la compréhension du contexte et ne peut se baser uniquement sur des règles ou mots clés.
- Le NLP permet cette personnalisation selon l'environnement, par opposition à une modération générique et aveugle.
Différence déterminisme et LLM
- La technologie NLP est déterministe, assurant traçabilité et stabilité dans la modération.
- Les LLM sont probabilistes, ce qui crée des variations et un effet "black box" parfois inacceptable en modération de toxicité.