TRENDSPOTTING : l'émission du monde qui vient. S3E7 - Laurent Daudet : A la découverte du premier modèle d’IA 100% français !
Nov 19, 2023
Laurent Daudet, co-PDG de Lighton et expert en IA, plonge dans les défis et opportunités des modèles de langage. Il raconte comment Lighton a évolué vers le développement d'Alfred 2, un modèle 100% français, tout en soulignant l'importance de l'open source. Laurent discute également des dilemmes éthiques de l'IA, évoquant sa bande dessinée 'Dream Machine', qui interroge les impacts sociétaux de cette technologie. Enfin, il aborde les répercussions de la crise chez OpenAI et l'avenir prometteur de l'IA en France.
AI Snips
Chapters
Transcript
Episode notes
Pivot Hardware Vers LLM Par Opportunité
- Lighton est passé du hardware aux LLM après l'arrivée de GPT‑3 car le logiciel offrait une opportunité de marché immédiate.
- Leur expérience hardware leur donne une sensibilité unique sur le coût du compute pour l'IA.
Préparez Deux GPU 80GB Pour Un RAG
- Pour déployer un LLM utile en entreprise, utilisez des modèles de taille intermédiaire (≈40B) et optimisez pour la latence et le throughput.
- Prévoyez deux GPU 80GB (A100/H100) pour un service RAG déployable et concurrentiel.
Conçu Pour RAG Et Réduction Des Hallucinations
- Alfred 2 a été fine‑tuné pour les systèmes RAG et inclut du RLHF pour limiter les hallucinations.
- Le modèle dit « je ne sais pas » quand l'information n'est pas dans la base documentaire.