Parallèles structurels entre IA et bureaucratie

Claudine Tiercelin

Métaphysique et philosophie de la connaissance

Année 2024-2025

Colloque - Implications philosophiques de l'IA

Carina Prunkl : L'IA en tant que bureaucratie

Carina Prunkl

Université d'Utrecht

Résumé

Le processus décisionnel piloté par l'IA est souvent évalué à l'aune du jugement humain individuel – les algorithmes sont-ils plus rapides, plus justes ou moins biaisés que les humains ? Dans cet exposé, je remets en question ce cadre, en soutenant que la classe de comparaison la plus appropriée pour la prise de décision pilotée par l'IA n'est pas le jugement humain individuel, mais la prise de décision bureaucratique. Comme les systèmes bureaucratiques, la prise de décision par l'IA dépend de la quantification, de la standardisation, de l'autorité dépersonnalisée et des tâches spécialisées. Elle ne supprime pas entièrement le pouvoir discrétionnaire de l'homme, mais le répartit tout au long du processus, depuis la sélection des données et la conception du modèle jusqu'à la mise en œuvre et la supervision. Les bureaucraties et l'IA visent toutes deux la cohérence et l'impartialité, mais elles sont également critiquées pour leur opacité, leur rigidité et leur insensibilité au contexte. Dans cet exposé, je montrerai comment le fait de passer d'un cadre humain contre machine à un cadre algorithme contre bureaucratie ouvre des voies nouvelles et plus productives pour réfléchir à la responsabilité, au pouvoir discrétionnaire et à la légitimité dans les systèmes d'IA.

--

Colloque organisé par Jacques-Henri Vollet, codirecteur du Groupe de recherche en épistémologie (GRE) au Collège de France, et Alexandre Declos, directeur du Groupe d'études en métaphysique (GEM).

Présentation

Ce colloque vise à explorer les implications philosophiques de l'intelligence artificielle (IA) à travers trois axes majeurs : épistémologique, esthétique et éthique.

Sur le plan épistémologique, nous interrogerons la nature de la connaissance produite par l'IA : peut-elle être qualifiée de véritable connaissance ou s'agit-il d'une simple corrélation statistique ? Quelles conséquences l'IA a-t-elle sur les notions de justification, de vérité et d'explicabilité en science et dans la prise de décision ?

D'un point de vue esthétique, nous examinerons le statut artistique et la valeur esthétique des productions de l'IA. Peut-on attribuer une forme d'intentionnalité ou d'auctorialité à ces systèmes ? L'IA peut-elle créer de l'art ? N'est-elle qu'un outil artistique parmi d'autres ?

Enfin, l'axe éthique portera sur les responsabilités associées au développement et à l'usage de l'IA. Comment assurer une IA alignée sur des valeurs humaines ? Quels sont les défis liés à la partialité algorithmique, à la surveillance de masse et aux impacts socio-économiques de l'automatisation ?

Ce colloque réunira des philosophes, des chercheurs en intelligence artificielle et des experts en éthique du numérique afin de proposer une réflexion interdisciplinaire sur ces enjeux cruciaux.