#29 - Fair vs Dark Patterns : Comment remettre de l'éthique dans la tech et l'IA

Dans ce nouvel épisode de IA pas que la Data, nous recevons une invitée captivants : Marie Potel Saville.
Co-fondatrice et CEO de FairPatterns, Marie nous ouvre les yeux sur les faces cachées du monde numérique et de l'Intelligence Artificielle. Avec son passé d'avocate en droit de la concurrence, elle déconstruit les mécanismes de manipulation qui nous influencent au quotidien, révélant les "Dark Patterns" partout où nous cliquons.

Un échange essentiel pour comprendre comment la technologie est conçue et comment nous pouvons façonner une IA plus éthique et centrée sur l'humain.

Dans cet épisode, vous découvrirez :

• Les Dark Patterns, ces "tours de magie" du web. Qu'est-ce que c'est concrètement, comment ils nous poussent à agir contre notre gré (ex: bannières cookies, abonnement Amazon Prime), et pourquoi ils sont devenus un phénomène omniprésent.

• L'économie de l'inattention. Comment nos biais cognitifs sont exploités pour capter notre "temps de cerveau disponible", transformant notre attention en monnaie d'échange et remettant en question la notion de "consentement" en ligne.

• Les AI Dark Patterns. Comment l'IA générative crée et amplifie de nouvelles formes de manipulation (comme la "psycho-fancy" des LLM) et les dangers pour notre pensée critique et notre santé mentale.

• L'IA éthique et centrée sur l'humain. Pourquoi il est urgent de concevoir des technologies transparentes, explicables et sécurisées, qui respectent nos libertés fondamentales et nos compétences humaines face aux dangers sociétaux.

Bonne écoute !
Partagez vos impressions, laissez un commentaire, et aidez-nous à faire entendre la voix de "IA pas que la data".

• (00:00) - Introduction et parcours de Marie Potel Saville (Fair Patterns)
• (03:36) - Comprendre les Dark Patterns et l'économie de l'inattention
• (13:42) - Le cas d'école Amazon Prime et les sanctions juridiques
• (21:35) - Quand l'IA génère des pièges : Les Dark Patterns dans les LLM
• (26:09) - Les "AI Dark Patterns" : Anthropomorphisation et risques psychologiques
• (32:40) - Neurosciences : Système 1, Système 2 et exploitation des biais cognitifs
• (40:11) - Enjeux sociétaux : Pour une IA éthique et centrée sur l'humain
• (48:48) - Se protéger : Régulations, actions de groupe et transparence
• (54:06) - Question de l'invité précédent : L'IA et l'avenir des compétences humaines