Métaphysique et philosophie de la connaissance - Claudine Tiercelin

Colloque - Implications philosophiques de l'IA - Carina Prunkl : L'IA en tant que bureaucratie

May 28, 2025

Carina Prunkl soulève des questions fascinantes sur la prise de décision par l'IA. Elle propose de comparer les algorithmes à des systèmes bureaucratiques au lieu de juger sur le modèle homme contre machine. Prunkl met en lumière des biais dans des algorithmes, tels que ceux favorisant certains groupes dans le domaine de la santé. Elle explore la redéfinition de la discrétion dans les systèmes d'IA et souligne la nécessité d'un cadre légitime pour une IA responsable, appelant à une transparence et une supervision accrues.

Ask episode

AI Snips

Chapters

Transcript

Episode notes

ANECDOTE

Variations Massives Des Peines Judiciaires

Dans une étude, 208 juges ont rendu des peines très différentes pour les mêmes dossiers, révélant une variation massive des jugements.
Cette anecdote illustre que la décision judiciaire dépend parfois du juge attribué et de facteurs situationnels.

INSIGHT

Comparer L'IA à La Bureaucratie

Il faut comparer l'IA non pas au jugement individuel humain mais à la prise de décision bureaucratique pour mieux comprendre sa nature structurelle.
Ce recadrage déplace le débat vers l'organisation, la justification et le contrôle des décisions automatisées.

INSIGHT

Traits Communs Des Systèmes Décisionnels

Les décisions bureaucratiques et algorithmiques partagent la catégorisation, la quantification, la standardisation et l'autorité dépersonnalisée.
Ces traits influencent la façon dont la discrétion, la légitimité et la responsabilité se répartissent dans le système.

Get the Snipd Podcast app to discover more snips from this episode

Get the app

Claudine Tiercelin

Métaphysique et philosophie de la connaissance

Année 2024-2025

Colloque - Implications philosophiques de l'IA

Carina Prunkl : L'IA en tant que bureaucratie

Carina Prunkl

Université d'Utrecht

Résumé

Le processus décisionnel piloté par l'IA est souvent évalué à l'aune du jugement humain individuel – les algorithmes sont-ils plus rapides, plus justes ou moins biaisés que les humains ? Dans cet exposé, je remets en question ce cadre, en soutenant que la classe de comparaison la plus appropriée pour la prise de décision pilotée par l'IA n'est pas le jugement humain individuel, mais la prise de décision bureaucratique. Comme les systèmes bureaucratiques, la prise de décision par l'IA dépend de la quantification, de la standardisation, de l'autorité dépersonnalisée et des tâches spécialisées. Elle ne supprime pas entièrement le pouvoir discrétionnaire de l'homme, mais le répartit tout au long du processus, depuis la sélection des données et la conception du modèle jusqu'à la mise en œuvre et la supervision. Les bureaucraties et l'IA visent toutes deux la cohérence et l'impartialité, mais elles sont également critiquées pour leur opacité, leur rigidité et leur insensibilité au contexte. Dans cet exposé, je montrerai comment le fait de passer d'un cadre humain contre machine à un cadre algorithme contre bureaucratie ouvre des voies nouvelles et plus productives pour réfléchir à la responsabilité, au pouvoir discrétionnaire et à la légitimité dans les systèmes d'IA.

Colloque organisé par Jacques-Henri Vollet, codirecteur du Groupe de recherche en épistémologie (GRE) au Collège de France, et Alexandre Declos, directeur du Groupe d'études en métaphysique (GEM).

Présentation

Ce colloque vise à explorer les implications philosophiques de l'intelligence artificielle (IA) à travers trois axes majeurs : épistémologique, esthétique et éthique.

Sur le plan épistémologique, nous interrogerons la nature de la connaissance produite par l'IA : peut-elle être qualifiée de véritable connaissance ou s'agit-il d'une simple corrélation statistique ? Quelles conséquences l'IA a-t-elle sur les notions de justification, de vérité et d'explicabilité en science et dans la prise de décision ?

D'un point de vue esthétique, nous examinerons le statut artistique et la valeur esthétique des productions de l'IA. Peut-on attribuer une forme d'intentionnalité ou d'auctorialité à ces systèmes ? L'IA peut-elle créer de l'art ? N'est-elle qu'un outil artistique parmi d'autres ?

Enfin, l'axe éthique portera sur les responsabilités associées au développement et à l'usage de l'IA. Comment assurer une IA alignée sur des valeurs humaines ? Quels sont les défis liés à la partialité algorithmique, à la surveillance de masse et aux impacts socio-économiques de l'automatisation ?

Ce colloque réunira des philosophes, des chercheurs en intelligence artificielle et des experts en éthique du numérique afin de proposer une réflexion interdisciplinaire sur ces enjeux cruciaux.