Génération Do It Yourself cover image

#397 - Yann Le Cun - Chief AI Scientist chez Meta - L'Intelligence Artificielle Générale ne viendra pas de Chat GPT

Génération Do It Yourself

NOTE

L'Intelligence des Systèmes LLM et les Limites du Texte

Les systèmes LLM sont entraînés avec une quantité massive de données, environ 10 000 milliards de mots, ce qui représente environ 1,2 x 10^13 octets. Cependant, malgré cette grande quantité d'information, leur compréhension est limitée, car la connaissance véhiculée par le texte est fragmentaire et ne couvre que des sujets pertinents pour les humains. En comparaison, un enfant de 4 ans reçoit environ 10^15 octets d'information à travers ses expériences sensorielles, soit 50 fois plus que ce que les LLM intègrent via le texte. Cela illustre que l'observation du monde et l'apprentissage sensoriel sont beaucoup plus riches et complexes que les données textuelles utilisées pour entraîner les modèles d'IA.

00:00
Transcript
Play full episode

Remember Everything You Learn from Podcasts

Save insights instantly, chat with episodes, and build lasting knowledge - all powered by AI.
App store bannerPlay store banner