I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle

Dans cet épisode d’IA Café,  nous replongeons dans un sujet que vous avez aimé : les biais en IA.  Avec Jean-Philippe Beauregard, nous retournons à la source en explorant non pas les biais en intelligence artificielle, mais les biais propres à notre intelligence humaine, et donc ... naturelle! Et cela, évidemment afin d'approfondir notre compréhension des biais en IA!Nous avions entamé cette réflexion dès l’épisode 8 (avec Justine Dima) intitulé : «Dis-moi qui tu embauches, et je te dirai qui tu es» (publié le 28 janvier 2021). Nous avions poursuivi notre réflexion avec l’équipe et les collaborateur d’IA Café à l’épisode 9 intitulé : «Biais psychosociaux -  une IA humaine trop humaine» (publié le11 février 2021). Cette enquête sur les biais n’a donc jamais pris de repos. Le nombre de fois où le terme biais est mentionné dans nos 35 premiers épisodes! C’est un thème récurrent, mais nous prenons rarement le temps de l’approfondir. Les réflexions de Jean-Philippe Beauregard nous permettront de faire quelques pas de plus dans notre enquête.Plusieurs thèmes abordés:Analyse des faits - De la discrimination et du racisme systémique en ressources humaines et dans le processus d'embauche - quelques expériences et résultats surprenants!Le problème - Des biais en ressources humaines - Définition, exemple, nature, fréquence Les causes - Des causes psychologiques et sociales Les solutions et conseils - De la gestion prudente des biais en RH et quelques conseils à celles et ceux qui sont impliqués dans la conception d'IA  Bonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Principales sources Jean-Philippe Beauregard, Thèse de doctorat : Les frontières invisibles de l’embauche des Québécois minoritaires : hiérarchie ethnique, effet modérateur du genre féminin et discrimination systémique. Dévoiler la barrière à l’emploi par un testing à Québec (2020)Support the show

Dans cet épisode d’IA Café, retour sur notre rencontre avec Joanne Kirkham et les applications militaires de l’intelligence artificielle. Ève Gaumond, Shirley Plumerand et  Sylvain Munger m'ont accompagné dans cette analyse! Plusieurs thèmes abordés: Des concepts d’autonomie, d'automatisation (et de responsabilité) associés aux systèmes d'armes létaux autonomes (SALA)Des potentialités techniques, exécutives et stratégiques des applications militaires de l'IADu pouvoir du droit international pour encadrer et baliser cette technologieDes degrés et niveaux d’autonomie (human «in», «on» and «off» the loop) Du socle du principe de dignité humaineDes limites de l'idée d'une guerre «humaine»Bonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Principales sourcesJoanne KIRKHAM Doctorante contractuelle (Université Paris 2 Panthéon- Assas), La régulation des armes létales autonomes, un état des lieux des négociations onusiennes, Tribune n. 982.Julien Ancelin, Les systèmes d’armes létaux autonomes (SALA) : Enjeux juridiques de l’émergence d’un moyen de combat déshumanisé. Droit international humanitaire et droit du désarmement. Octobre 2016Support the show

Dans cet épisode d’IA Café, nous recevons une juriste et experte des utilisations militaires de l’intelligence artificielle: Joanne Kirkham.Joanne cumule des passages remarqués au département des affaires juridiques chez Human rights watch,  à Genève au United nations human rights, à Londres au King’s College. Elle a produit une thèse à l’Université Panthéon-Assas, dont le titre est le suivant : "Les systèmes d'armes létaux autonomes en droit international".Plusieurs thèmes abordés:De la définition d'un système d'armes létal autonome (SALA)Des exemples concrets et appliqués d'applications militaires des systèmes d'armes létaux autonomesDes enjeux éthiques, des principaux bénéfices, et des principaux arguments contraires et critiques à l’endroit de cette technologieDes enjeux juridiques et du pouvoir du Droit international pour encadrer cette technologieBonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Principales sourcesJoanne KIRKHAM Doctorante contractuelle (Université Paris 2 Panthéon- Assas), La régulation des armes létales autonomes, un état des lieux des négociations onusiennes, Tribune n. 982.Support the show

Dans cet épisode, on referme le Metavers. Ce sera notre conclusion d'un tryptique dans ces mondes virtuels qu'on souhaiterait ouverts, partagés, itératifs, collectifs, collaboratifs, et interopérables avec des standards universels. La réalité du Métavers n'est pas exactement cela. Retour sur l’entrevue d’Harold Dumur et retour sur les thèmes que nous avons explorés avec lui. Au programme:Du rôle des entrepreneurs dans la création du MétaversDe la présence (ou non) de l'intelligence artificielle (apprentissage profond et apprentissage automatique) dans la conception et la réalisation du Métavers Premières recensions des craintes et critiques associées au Métavers (la menace environnementale, le trouble schizoïde et la perte du réel, l'exploitation et l'instrumentalisation de la donnée,  la menace à la vie personnelle et à l'intimité, le «farweb» de l'économie virtuelle, l'hypercentralisation et le monopole socio-économique)Des promesses et du rêve du Métavers Bonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand, Claude Coulombe.Support the show

Dans cet épisode d’IA Café, nous recevons un expert du Metavers et entrepreneur :  Harold Dumur. Harold Dumur est le fondateur et président d’Ova, une PME de Québec spécialisée dans le développement de logiciels immersifs assistés par l’IA. Au programme: Réalité virtuelle et augmenté - Définir le métaversCréer une partie du métavers - Les défis économiques et techniquesL'entrepreneuriat du métavers (sans se faire bouffer par les GAFAM)Du rôle de l'AI dans la production du métavers Enjeux éthiques et sociaux  -  De l'intérieurRêver le métavers (et, peut-être, de moutons électriques)    Bonne écoute!Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand, Claude Coulombe.Support the show

Dans cet épisode nous commençons un triptyque sur le Métavers. Depuis que Meta et Marc Zuckerberg ont décidé de mettre quelques billes dans ce domaine, le sujet semble s'imposer. Dans cet épisode, nous tenterons de nous faire une tête sur le sujet. Avec mes collaborateurs, Sylvain Munger et Claude Coulombe, nous tenterons humblement d’élever le niveau (vous nous connaissez!), d'éviter à la fois l'enthousiasme naïf et le technophobisme non critiqué, et de donner un peu de sens à ce Metavers.Au programe: De la définition : C’est quoi le métavers?Du terrain: À quoi ça ressemble concrètement, en ce moment, le métavers (applications, jeux, etc.) ?Des parties prenantes: Qui sont les principaux acteurs ?De l'IA : Pourquoi a-t-on besoin de l’intelligence artificielle dans le Metavers?De l'éthique et des enjeux sociaux:  Quelles sont les principales craintes et promesses du Metavers?Bonne écoute!Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand, Claude Coulombe.Support the show

Bonne année 2022! Dans cet épisode, nous revenons sur le thème de l’ero-botique et l’AI dans le domaine des robots, des bots et de la sexualité, mais cette fois en ajoutant une perspective critique et féministe, en prenant un café avec notre passionnante invitée: Pauline Noiseau. Pauline a écrit un mémoire superbe, et nous avons exploré avec elle quelques critiques formulées dans ce mémoire : Pauline Noiseau, Département de Philosophie, Faculté des Arts et des Sciences «Les enjeux éthiques de la robotique sexuelle : une perspective critique féministe», Août 2019. Au programme:Pourquoi insister sur le féminin "robotes" sexuelles La domination masculine en contexte sexuelL'éducation sexuelle des algorithmes Des idéologies et structures sexuelles de l’industrie pornographique et du divertissement sexuel Des conséquences symboliques sur la vie sexuelle Bonne écoute!Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand, Claude Coulombe.Support the show

Deuxième partie de nos prix Lovelace et prix I.A.rk. Nous sommes toujours dans notre chalet en bois rond dans le nord du Québec. On y parle du meilleur et du pire de la recherche en Intelligence artificielle. Nos prix I.A.rk et Lovelace:1. Frédérick Plamondon:Prix Lovelace: Des mutations des rapports managériaux dans l’automatisation et l'augmentation algorithmique. Ref:  Algorithms at work: contested terrains of control (Kellogg, Valentine, Christin, 2020). . Prix I.A.rk:  Et si on soumettait nos dilemmes éthiques à des intelligences artificielles? Dans cet article, les auteurs analysent « Ask Delphi », un outil en ligne qui prétend sérieusement pouvoir résoudre des dilemmes éthiques complexes. https://delphi.allenai.org/ 2. Jean-François Sénéchal:Prix Lovelace:  Au rapport «AI Index report 2021», publié par le Human-Centered AI (Université de Stanford).Le top 5 des sujets les plus importants en AI 2021Bonne écoute!Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand, Claude Coulombe.Support the show

Bienvenue à vos prix I.A.rk et Lovelace - édition décembre 2021. C’est votre cadeau de Noël. C’est le nôtre aussi.Rappelons le concept, nos prix Lovelace et I.A.rk sont nos prix pour récompenser et sanctionner le meilleur et le pire en intelligence artificielle. Pour remettre nos prix, cette année et pour notre party de Noël, j’ai donné rendez-vous à l’équipe d’IA Café dans un chalet en bois rond perdu dans la forêt québécoise. Voici nos prix I.A.rk et Lovelace  - Décembre 2021:1. Shirley Plumerand Prix IArk : Tinder et les biais de «l'amour».  « L’amour sous algorithme » de Judith Duportail. Prix Lovelace : De la protection des données personnelles -  Délibération de la CNIL  (Commission nationale de l’informatique et des libertés) en France .  2.  Sylvain MungerPrix Lovelace: Facebook perd la face - Frances Haugen, ancienne cheffe de produit chez Facebook et son témoignage au sénat américain pour dénoncer les pratiques de son ancien employeur.  Facebook Whistle-Blower Brings Campaign to Europe After DisclosuresPrix I.A.rk: De la liberté et ses excès - Mouvement antivax, conspirationniste et destruction des efforts de la santé publique. 3. David BeaucheminPrix I.A.rk :  Du processus de révision par les pairs (et de ses problèmes) dans le champs du deep learning - «Inconsistency in Conference Peer Review: Revisiting the 2014 NeurIPS Experiment". Prix Lovelace: Du financement de la recherche ... au hasard?  Et si le processus d'octroi des fonds publics en recherche  se faisait purement et simplement au hasard!  Financer la recherche au hasard, une hérésie ? 4. Jean-François SénéchalPrix I.A.rk: Des «paper mills», des moulins à papiers et des moulins à vents - GPT3 et les générateurs de textes automatisés pour publier des articles scientifiques frauduleux en AI.  Ref.: CABANAC, Guillaume, LABBÉ, Cyril, et MAGAZINOV, Alexander. Tortured phrases: A dubious writing style emerging in science. Evidence of critical issues affecting established journals. arXiv preprint arXiv:2107.06751, 2021.Support the show

Dans le cadre de cet épisode d’IA Café, nous avons pensé lire, pour vous, un rapport sur l’intelligence artificielle au Québec. Ce rapport a été publié en 2020 par Yves Gingras et Maxime Colleret de l’Université du Québec à Montréal. Le rapport que nous avons lu est intitulé : L'intelligence artificielle au Québec : un réseau tricoté serré. Dans ce rapport, on y mentionne :que quelques organisations domineraient (sans surprise) l'écosystème AI québécois:  l'Institut québécois d’intelligence artificielle (Mila); Ivado Labs, Scale AI, le Creative Destruction Lab (CDL), le Comité consultatif ministériel sur l'intelligence artificielle (CCMIA).  Plus surprenant toutefois, on y apprend:que ce réseau AI Québécois serait contrôlé par quelques acteurs seulementque ces acteurs au sein de ces organisations seraient impliqués à plusieurs étapes du financement en recherche que certains acteurs siègeraient sur conseil et comités associés aux instances de financementqu’ils exerceraient sur le système AI Québec un pouvoir certain sur la vie et la survie de cet écosystème québécois.Comprenez-vous pourquoi nous nous intéressons à ce rapport!Aussi, nous revenons sur un épisode de notre podcast ami, Open-Layer, animé par notre collaborateur David Beauchemin. Dans l'Épisode 38 d'Open Layer,  David s'est entretenu avec Maxime Colleret, corédacteur du rapport en question.Évidemment, ça fait un peu Québéco-centriste tout ça, mais nous souhaitions que cette analyse rigoureuse et approfondie de l’écosystème québécois puisse être instructive pour quiconque souhaite comprendre l'écosystème AI de leurs propres pays ou régions du monde. C’est du moins l’angle que nous souhaitions explorer dans cet épisode avec vous.Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand, Claude Coulombe.Support the show