Tronche de Tech #73 - Bertrand Charpentier - Faire maigrir les IAs
9 snips
Jun 4, 2026 Bertrand Charpentier, chercheur en IA et fondateur de Pruna, travaille à rendre les modèles plus rapides, plus petits et plus durables. Il raconte son parcours, la coupure chez Twitter qui l’a poussé à agir, puis explique pruning, quantisation, distillation et KVCache. Il évoque aussi défis industriels, création d’une boîte franco‑allemande et enjeux géopolitiques de l’IA.
AI Snips
Chapters
Books
Transcript
Episode notes
Coût De Calcul Bloque L'accès À La Recherche
- La recherche en machine learning est freinée par le coût et l'accès limité à la puissance de calcul.
- Bertrand a calculé qu'un seul papier pouvait coûter ~10 000€ en calcul, rendant la recherche peu accessible et compétitive pour les labs universitaires.
Viré De Twitter Puis Naissance De Pruna
- Bertrand raconte son licenciement brutal chez Twitter lors de l'arrivée d'Elon Musk et la coupure complète d'accès aux outils.
- Avant d'être coupé, il a observé le problème d'efficacité des modèles et a commencé à monter Pruna en Allemagne.
Livrer Modèles Prêts À L'emploi Pas Juste Une Lib
- Fournissez des modèles compressés prêts à l'emploi plutôt qu'un outil complexe que les clients doivent maîtriser.
- Pruna est passé d'une librairie open source à des modèles déployables via API car les clients peinaient à choisir et combiner les méthodes de compression.
