🖥️ Comment révolutionner le compute en IA | La vision de ZML par Steeve Morin

32 snips

Jan 7, 2025

Steeve Morin, fondateur de ZML et ancien VP Engineering chez Zenly, partage sa vision révolutionnaire de l’inférence en IA. Il explique comment ZML permet de maximiser la performance tout en réduisant les coûts. La discussion inclut l'impact des dernières technologies de Nvidia et l'importance croissante de la compétition sur le marché des puces. Steeve aborde également les défis énergétiques liés à l'IA et l'évolution des modèles de raisonnement. Une réflexion captivante sur l'avenir de l'IA et son économie.

Ask episode

AI Snips

Chapters

Books

Transcript

Episode notes

INSIGHT

Importance de l'inférence

L'inférence est plus importante que l'entraînement en termes d'utilisation.
C'est le besoin universel de l'IA, accessible à tous, même aux non-spécialistes.

ANECDOTE

Analogie Cours/Interro

Steeve Morin explique l'entraînement et l'inférence avec une analogie simple : cours et interro.
L'entraînement, c'est apprendre, l'inférence, c'est appliquer en répondant à des questions nouvelles.

INSIGHT

Problème du Coût

Le coût du calcul (compute) est le principal problème de l'IA actuellement.
L'économie de l'IA est dominée par le prix du compute, influencé par les marges des différents acteurs (TSMC, Nvidia, cloud providers).

Get the Snipd Podcast app to discover more snips from this episode

Get the app

🚀 Nouvel épisode de Comptoir IA avec Steeve Morin, fondateur de ZML et ancien VP Engineering chez Zenly 👨‍💻✨

🎙 ZML, un projet révolutionnaire pour démocratiser l’inférence des modèles d’IA, sort de l’ombre et capte même l’attention de Yann LeCun !

“ZML : une pile d'inférence IA haute performance capable de paralléliser et d'exécuter des systèmes d'apprentissage profond sur de nombreux types de matériel. Elle sort de l’ombre, est impressionnante et open source**.**” – Yann LeCun

Découvrez la vision d’un entrepreneur passionné et son parcours de la French Tech à l’avant-garde de l’IA mondiale. Quelle chance d’avoir une startup avec ce niveau et cette ambition à Paris !

💡 Points marquants de l’épisode :

🔹 L’inférence à haute performance : Steeve explique comment ZML offre une couche d’abstraction permettant aux entreprises de maximiser leurs performances tout en réduisant les coûts, indépendamment du matériel utilisé.

🔹 La course aux puces : A100, H100, et B (Blackwell) de Nvidia, TPUs, NPUs… l’innovation au service des modèles de raisonnement

🔹 Économie de l’IA : Une analyse fascinante des marges de la chaîne de valeur, de la production des puces au déploiement des modèles, avec une réflexion sur le monopole de NVIDIA et l'importance de la compétition.

🔹 Vers une IA raisonnée : Avec des exemples comme les modèles de raisonnement et leur impact sur l’avenir de l’IA, Steeve partage sa vision sur les prochains sauts technologiques et défis énergétiques.

🌟 Citation marquante :

"Le training, c'est comme les cours : on apprend plein de choses. L'inférence, c'est l'interro : on doit répondre rapidement et efficacement en utilisant ce qu'on a appris."

📚 Film préféré de science-fiction :

Contact (Carl Sagan) – Une inspiration pour penser aux défis universels et à la nature humaine face à l'inconnu.

💬 Pensez à laisser 5 ⭐⭐⭐⭐⭐ au podcast pour me soutenir !

Timestamps des moments clés

00:37 – ZML et l’inférence IA.
03:45 – Tweet de Yann LeCun
25:45 – Training vs inférence
40:05 – Démo de ZML
57:31 – Modèles de raisonnement et coûts

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.