E-vals vs guardrails en pratique

Aujourd’hui, je jase avec Philippe Beaudoin, directeur sénior à la recherche chez LoiZéro, un laboratoire de recherche appliquée en machine learning.

On retrace le parcours de Philippe : ses hackatons chez Google, son chapitre chez Element AI et son mandat chez LoiZéro.

CHAPITRES :
(0:00) Intro + présentation de Philippe & LoiZéro
(6:16) Le parcours de Philippe : Google, Element AI, Waverly
(8:02) Définir Philippe sans parler de carrière
(11:24) Syndrome d'imposteur et confiance sur scène
(15:29) Le Fellow Network chez Element AI
(17:03) La joke qui n'a pas survécu à la traduction live chez Hyundai
(21:04) Parlons des LLM et des risques catastrophiques
(22:48) Comment parler des risques sans faire peur
(26:17) Intelligence vs agency : la différence critique
(30:03) Le problème d'alignement des agents
(31:48) Anthropomorphiser les IA : est-ce correct de dire « rester en vie » ?
(35:19) Est-ce que Philippe est un vibe-coder?
(36:20) La nature probabiliste des modèles et le risque
(40:44) Pourquoi les guardrails classiques ne suffisent pas
(45:32) Le programme Scientist AI chez LoiZéro
(46:50) L'agent qui menace un ingénieur pour ne pas être réentraîné
(49:32) E-vals vs guardrails : deux approches de contrôle
(52:32) Le langage comme surface d'attaque infinie
(55:37) Ce qu'un SaaS devrait exposer à des agents
(1:01:29) Construire des systèmes non-agentiques
(1:06:21) Conseil pour comprendre l'IA : travailler sur un projet passion
(1:08:05) Shameless plug : LoiZéro et dédramatiser le discours

—

• Philippe sur LinkedIn
• EY
• Element AI (ServiceNow AI research)
• Baseline
• Mila
• Copilot

Cool SaaS peeps mentionnés :

• Yoshua Benjio, president & scientific director @ LoiZéro

—

Abonnez-vous à l’infolettre (de feu) :

https://saaspasse.beehiiv.com/subscribe

Suivez-nous sur LinkedIn (no cringe zone) :

https://www.linkedin.com/company/saaspasse/

Suivez-nous sur Instagram (mémés inclus) :

https://www.instagram.com/saaspasse/

Faites affaire avec nos partenaires certifiés (des kingpins) :

https://www.saaspasse.com/partenaires

Affichez une offre d’emploi sur le job board (gratis) :

https://www.saaspasse.com/emplois

Inscrivez votre SaaS au répertoire des SaaS au QC (>300) :

https://www.saaspasse.com/ajout-saas

—

Crédits musique

• Intro/outro : Miro Chino — pas pire
• Utilisée sous licence valide non exclusive (publishing + master). © Bravo Musique / Fair Enough Publishing.
• Merci à ⁠Fair Enough Publishing⁠ pour la synchro!