Comptoir IA 🎙️🧠🤖 🖥️ Comment révolutionner le compute en IA | La vision de ZML par Steeve Morin
32 snips
Jan 7, 2025 Steeve Morin, fondateur de ZML et ancien VP Engineering chez Zenly, partage sa vision révolutionnaire de l’inférence en IA. Il explique comment ZML permet de maximiser la performance tout en réduisant les coûts. La discussion inclut l'impact des dernières technologies de Nvidia et l'importance croissante de la compétition sur le marché des puces. Steeve aborde également les défis énergétiques liés à l'IA et l'évolution des modèles de raisonnement. Une réflexion captivante sur l'avenir de l'IA et son économie.
AI Snips
Chapters
Books
Transcript
Episode notes
Importance de l'inférence
- L'inférence est plus importante que l'entraînement en termes d'utilisation.
- C'est le besoin universel de l'IA, accessible à tous, même aux non-spécialistes.
Analogie Cours/Interro
- Steeve Morin explique l'entraînement et l'inférence avec une analogie simple : cours et interro.
- L'entraînement, c'est apprendre, l'inférence, c'est appliquer en répondant à des questions nouvelles.
Problème du Coût
- Le coût du calcul (compute) est le principal problème de l'IA actuellement.
- L'économie de l'IA est dominée par le prix du compute, influencé par les marges des différents acteurs (TSMC, Nvidia, cloud providers).
