I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle

Aimez-vous les histoires d'horreur? Connaissez-vous les histoires d'horreur en IA?Dans cet épisode, les  collaborateurs d'IA Café sont venu me raconter leurs histoires d’horreur préférées en I.A. Ces histoires sont parfois concrètes (ex. : un programme d’IA qui dérape et qui vous réveille à 2 heures du matin avec une voix creepy). Elles sont aussi parfois symboliques (ex.: « «La vente d’Element AI est une belle histoire d’horreur». La blague est d’Ève Gaumond en réunion de production).  Vous comprenez le concept. Dans cet épisode:La série Years an years  (Apple TV, Canal +) - L'horreur d'un futur procheLa première victime d'un robot tueur - La naissance possible de SkynetLe Lee-luda de Scatterlabs - Un chatbot qui vous veux du bienLes conseils d'Alexa et les réflexions de LaMDa - À glacer le sangLes GAFAM et l'asservissement du mondeLe jeu vidéo d'horreur - Manipulation vicérale des peurs intimes Le deepfake en science - La chasse aux vrais fantômes Bonne écoute! Production et animation: Jean-François Sénéchal, Ph.DInvités: Sylvain Munger,  Shirley Plumerand, Maxime HeuilletCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick PlamondonTexte cité:Wang, Liansheng, et al. "Deepfakes: A new threat to image fabrication in scientific publications?." Patterns 3.5 (2022): 100509.  Support the show

Dall-e,  Midjourney, Meta (Make-a-video)! Vous connaissez?  Ce ne sont que quelques exemples de technologies qui permettent de créer des images ou des vidéos en mobilisant l'intelligence artificielle. Quels sont les enjeux sociaux et juridiques découlant de ces façons innovantes de créer?Dans cet épisode d'I.A. café, nous avons pris un café, et discuté des enjeux éthiques, légaux et sociaux de l'I.A en art, avec Valentine Goddard.Valentine est avocate, membre du Conseil consultatif sur l'IA du Canada, consultante pour les Nations Unies en matière de politique et de gouvernance de l'IA. Elle a participé à plusieurs publications de politiques publiques en lien avec l’encadrement éthique et normatif de l’IA. Valentine est aussi une artiste et femme engagée.  Elle siège sur de nombreux comités en lien avec les implications éthiques et sociales de l’IA. Au programme:Des enjeux éthiques et sociaux de l'I.A dans le monde des artsDu narratif de l’IADu droit en IA et de la démocratisation sociale de l’IA  Du rôle des arts dans la culture numérique.Bonne écoute!Note: L’artiste dont Valentine et JF discutaient, et dont le nom avait été oublié, était « Greg Rutkowski« . Greg Rutkowski (illustrateur iconique de la franchise connue Donjons et Dragons) est le nom le plus souvent utilisé par les utilisateurs de systèmes de génération d’images par IA (Dall-e, Midjourney, etc). L’artiste crie à l'injustice sur plusieurs tribunes depuis qu’il a constaté que ses créations et propriétés intellectuelles  sont instrumentalisées par ces systèmes d’IA (entrainés à partir de ses créations). Et que ces systèmes génèrent avec une efficacité et simplicité redoutable, des images inspirées de son style, et cela, sans aucune forme de reconnaissance ou d’allocation du statut d’auteur. Dossier à suivre.Production et animation: Jean-François Sénéchal, Ph.D.Invité: Valentine GoddardCollaborateurs: David Beauchemin, Ève Gaumond, Frédérick Plamondon, Sylvain Munger, Shirley Plumerand, Maxime Heuillet.Support the show

Avec mes collaborateurs (Ève Gaumond, Sylvain Munger, et Maxime Heuillet), nous revenons sur le contenu de l'entrevue avec Martin Gibert. Et nous tissons des liens entre les thèmes abordés lors de cette entrevue et nos propres thèmes d'expertise.   Au programme:Des impacts néfastes de la formation et de la recherche interdisciplinaire sur la carrière académiqueDe l'éthique de la vertu et de la notion «du bon père de famille» en droitRéflexions sociologiques sur la technologie et les technologies modernes en intelligence artificielle.D'un projet réalisé par Uber AI Labs et de la voiture autonomeDu principe d'incertitude morale dans la programmation des algorithmes en IADe l’applicabilité (ou non) des  principales théories morales dans la conception de voitures autonomes et d'algorithmes.Des défis et contraintes associés à la création d'un cours en éthique de l'IA.Et encore bien plus!Bonne écoute.Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs qui ont participé à l'enregistrement: Ève Gaumond, Sylvain Munger, Maxime HeuilletCollaborateurs: David Beauchemin, Frédérick Plamondon, Shirley Plumerand.Support the show

Dans cet épisode d’IA Café, nous recevons le philosophe, Martin Gibert, pour discuter avec lui des pistes d'éducation potentielles pour enseigner la morale, non seulement aux étudiants qui fréquentent ses cours en éthique de l'IA, mais également aux robots et algorithmes qui sont et seront les manifestations les plus concrètes des plus récentes avancées en intelligence artificielle.  Au programme: De l’éthique et de l’éthique normative.Des théories morales en éthique normative applicables en l’intelligence artificielle.De la programmation morale des systèmes d’intelligence artificielle.Des enjeux éthiques associés aux technologies en intelligence artificielle.De la distinction entre éthique de l’IA et éthique des algorithmes.De la création d'un cours en éthique de l'IA.Référence principale:Martin Gibert, Faire la morale aux robots -  Une introduction à l’éthique des algorithmes, Atelier 10, 9 juin 2020, 165 p.Production et animation: Jean-François Sénéchal, Ph.D.Invité: Martin GibertCollaborateurs: David Beauchemin, Ève Gaumond, Frédérick Plamondon, Sylvain Munger, Shirley Plumerand, Maxime Heuillet.Support the show

Ça y est! Corne de brume! Nous sommes de retour. Bienvenue à votre saison #3 d’IA café. Épisode 42. L’épisode de la «réponse ultime» (ou pas)! Avec mes collaborateurs et collaboratrices (Ève Gaumond, Sylvain Munger et Maxime Heuillet), nous mettons la table pour cette saison 3, explorons les thèmes à venir, discutons des événements en IA qui ont attirés notre attention, et partageons nos ambitions et projets d'automne.Et au passage, quelques discussions passionnantes sur nos sujets préférés:Dall-e et Midjourney - banc d'essaiJustice, démocratie et expression en ligneDu lien social entre la communauté de chercheurs en IA et la population en généraleAristocratie et entrepreneuriat - Rêve, imagerie et pouvoirWorkshop - Utilisation de techniques de NLP pour traduire le sens caché et cryptique des plumitifs (résumé sommaires de décisions judiciaires)De pertinence de la question de la singularité et de la naissance potentielle d'une IA générale menaçante (ou enthousiasmante) Guide de survie pour étudiantes et étudiants français qui aimeraient étudier en IA au Québec ou en Amérique (de l'autre côté de la Grande Flaque)Du rôle de l'IA dans l'intox, dans la construction des discours conspirationnistes et dans la radicalisation du discours sur les réseaux sociauxNeurIps 2022 -  Conference on Neural Information Processing Systems Et encore plus !Bonne écoute.Production et animation: Jean-François Sénéchal, Ph.DInvités: Ève Gaumond, Sylvain Munger, Maxime HeuilletCollaborateurs: David Beauchemin, Fredérick Plamondon, Shirley Plumerand.Support the show

Dernier épisode de la saison 2! Déjà. Triste, non?Dans cet épisode, avec mes collaborateurs (Ève et Sylvain), nous partageons quelques événements, articles, ouvrages, conférences, rencontres qui ont marqué notre printemps 2022 de recherche sur les enjeux éthiques et sociaux en IA. En bonus, nous vous faisons quelques recommandations de lectures et de divertissements pour nourrir, peut-être avec un peu plus de légèreté et de soleil d'été, votre passion pour l'intelligence artificielle. On se reverra en septembre. D'ici là, reposez-vous bien, et bonnes vacances!Production et animation: Jean-François Sénéchal, Ph.DInvités: Ève Gaumond, Sylvain MungerCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Mentions dans ce podcast:La semaine sur la conduite responsable en recherche de l'Université LavalLe podcast La science dont vous êtes le héros de Jean-François Sénéchal, en collaboration avec le Vice-Rectorat à la recherche, à la création et à l'innovation de l'Université LavalJean-François Sénéchal, Évaluer les étudiants comme dans un jeu vidéo , La conversation Canada, 28 avril 2021.Carbone & Silicium de Mathieu Bablet Devs d'Alex GarlandDall-e d’Open AI et d'autres mentions d'Ève et Sylvain dont j'attends encore les références! LOL!Support the show

Dans cet épisode d’IA Café, nous recevons la sociologue et philosophe (de terrain): Allison Marchildon. Avec elle, nous parlons de la place de l'éthique appliquée dans la réflexion, la formation et la recherche en intelligence artificielle.Au programme: D'une sociologue en philosophieDe la philosophie de terrain (field philosophy) comme champ académiqueDe la compétence en éthique (générale)De la compétence éthique en IADu cycle des technologies, des enjeux éthiques et du retour du même De la grille de réflexivité sur les enjeux éthiques des systèmes d’intelligence artificielleDu rôle de l’éthique et de la recherche en éthique en IA. Bonne écoute!Référence principale:- Allison Marchildon, Steve jacob, Aude-Marie Marcoux, Grille de réflexivité portant sur les enjeux éthiques des systèmes d'intelligence artificielle (SIA) · Publié le 19 octobre 2021 dans Actualités, Outils.Production et animation: Jean-François Sénéchal, Ph.DInvitée: Allison MarchildonCollaborateurs: David Beauchemin, Ève Gaumond, Frédérick Plamondon, Sylvain Munger, Shirley Plumerand.Support the show

Dans cet épisode, nous recevons Maxime Colleret. Avec lui, nous revenons sur le rapport qu'il a coécrit, avec son collègue et directeur de recherche Yves Gingras, et qui est intitulé: L'intelligence artificielle au Québec : un réseau tricoté serré. Nous explorerons également les principales idées publiées dans un autre article, coécrit avec son collègue Mahdi Khelfaoui, et intitulé: D'une révolution avortée à une autre? Les politiques québécoises en nanotechnologies et en IA au prisme de l'économie de la promesse. Au programme:D’un réseau (tissé serré) en IAAnalyse sociologique du réseau, des principaux acteurs et des bailleurs de fonds en IA au QuébecDes potentiels conflits de rôles, conflits d’intérêts et problèmes d’éthique organisationnelleDe la concentration du financement de la recherche en IADe l’économie de la promesseDu cycle de battage technologiqueDe l’avenir de l’IA Bonne écoute!Référence principale:- Colleret, M. et Khelfaoui, M. (2020). D'une révolution avortée à une autre? Les politiques québécoises en nanotechnologies et en IA au prisme de l'économie de la promesse. Recherches sociographiques, 61(1), 163-188.- Colleret, M., & Gingras, Y. (2020). L'intelligence artificielle au Québec: un réseau tricoté serré (Doctoral dissertation, UQAM).Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand. Support the show

Dans cet épisode, nous recevons Guillaume Cabanac surnommé « détective de la tromperie ». Guillaume a été nommé, par la prestigieuse revue Nature, parmi les 10 personnalités qui ont marqué la science en 2021. Guillaume est un chercheur qui fait de la recherche, mais sur la recherche. Il est maître de conférence, docteur en informatique, professeur à l’Université Paul Sabatier Toulouse 3. Il enseigne en informatique, en gestion et traitement informatique des données massives.  Ses plus récents travaux de recherche sont en scientométrie (la science de la mesure et de l'analyse de la science). Avec lui, nous avons principalement discuté d’un article qui a fait beaucoup de bruit dans la communauté scientifique. L’article a été publié en juillet 2021 :Cabanac, Guillaume, Cyril Labbé, and Alexander Magazinov. "Tortured phrases: A dubious writing style emerging in science. Evidence of critical issues affecting established journals." arXiv preprint arXiv:2107.06751 (2021). Ma traduction: Des phrases torturées, de l'émergence d'un style étrange d'écriture en science - Les preuves d'un important problème qui affecte même les journaux scientifiques les plus sérieux et prestigieux. Bonne écoute!Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Support the show

Dans cet épisode, avec mon invité Frédérick Bruneault, notre enquête sur les enjeux éthiques et sociaux de l'IA s'aventure bien en amont du développement de l'IA en explorant: la  formation en éthique de l'IA. Frédérick Bruneault est professeur de philosophie au Collège André-Laurendeau, professeur associé à l'École des médias de l'Université du Québec à Montréal (UQAM), chercheur principal au Laboratoire d'éthique du numérique et de l'intelligence artificielle (LEN.IA), chercheur associé à l'Observatoire sur les impacts sociétaux de l'intelligence artificielle et du numérique (OBVIA), à l'Observatoire du numérique en éducation (ONE). Ses recherches portent sur la fondation de nos obligations morales dans le contexte du développement technologique actuel, notamment celui des technologies du numérique et de l'intelligence artificielle.Avec lui, nous explorons un texte dont il est le coauteur (avec Andréane Sabourin Laflamme, et André Mondoux) : Former à l’éthique de l’IA en enseignement supérieur : Référentiel de compétence.  Au programme:Histoire et genèse du rapport. Méthode de rechercheD’une approche pragmatique en éthiqueDe la compétence en éthique (générale)De la compétence en éthique de l’IABonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Support the show