La Science, CQFD Santé des femmes, comment la médecine répare ses biais 5/5 : Créer une IA médicale sans biais
Dec 26, 2025
Ariel Guerra-Adames, doctorant en informatique médicale à l'Université de Bordeaux, explore les biais dans les algorithmes d'IA. Il explique comment l'IA, entraînée sur des données historiques, peut reproduire des stéréotypes. Les exemples de discrimination genrée révèlent des disparités dans le traitement médical, comme le cas de Gemma qui privilégie la psychologie pour les femmes. Guerra-Adames aborde aussi le risque que ces biais, s'ils sont généralisés, impactent le système de soins. L'IA peut cependant servir de miroir pour réparer ces biais.
AI Snips
Chapters
Transcript
Episode notes
L'IA Reflète Et Amplifie Les Biais
- Les IA médicales apprennent des données historiques et reproduisent les biais existants dans la société et la médecine.
- Ariel Guerra-Adames explique que l'IA peut aussi amplifier ces schémas majoritaires en favorisant les motifs les plus fréquents.
Exemple De Gemma Montrant Un Biais De Genre
- Une expérience avec Gemma montre un double standard: même dossier, résumé différent selon le genre.
- Pour l'homme l'IA évoque une pathologie grave, pour la femme elle insiste sur la psychologie et le contexte social.
IA Comme Miroir Des Décisions De Triage
- Un modèle entraîné sur 150 000 visites aux urgences a reproduit le triage humain et permis de tester des discriminations contre-factuelles.
- Les femmes ont 2,1% de chances supplémentaires de recevoir un triage moins sévère à présentation identique, selon Ariel Guerra-Adames.