SaaSpasse Ep.164 - Dans la tête des machines (IA, sécurité & gouvernance)
27 snips
Nov 27, 2025 Philippe Beaudoin, directeur sénior à la recherche chez LoiZéro et cofondateur d'Element AI, partage son parcours impressionnant, des hackathons chez Google à la gouvernance de l'IA. Il aborde les risques associés aux modèles de langage et l'importance de concevoir une IA sécuritaire dès le départ. L'anecdote d'un agent menaçant met en lumière des enjeux inattendus d'alignement. Enfin, Philippe recommande de s'engager dans des projets passionnants pour mieux comprendre les défis de l'IA, soulignant que la technologie doit être régulée tout en valorisant l'innovation.
AI Snips
Chapters
Transcript
Episode notes
Sécurité Intégrée Dès La Conception
- LoiZéro développe l'« AI Safe by Design » pour intégrer la sécurité dès la conception des IA.
- Philippe insiste que sans sécurité native, les technologies finissent par causer des dégâts difficiles à corriger.
Transformer La Peur En Action
- Ne joue pas la peur seule pour convaincre; transforme-la en plan d'action concret et crédible.
- Philippe recommande d'avancer prudemment et de proposer des solutions réalisables plutôt que d'alarmer sans piste.
Intelligence Vs Agency Décryptées
- Intelligence = prédiction des conséquences; agency = objectifs à long terme et actions pour les atteindre.
- Le vrai risque vient de l'agentivité quand un système développe des buts non alignés avec nos intérêts.