Monde Numérique (Actu Tech) ✍️ Edito - Les IA hallucinent de plus en plus (et ça ne va pas s'arranger)
May 9, 2025
Les chatbots d'IA semblent halluciner de plus en plus, générant des faits ou des événements fictifs. Ce phénomène inquiétant augmente avec la puissance des modèles, posant des défis dans des domaines essentiels comme les médias, la justice et la médecine. Les experts s'interrogent sur la fiabilité de ces technologies et les limites structurelles qui provoquent ces erreurs. Malgré les promesses d'amélioration des géants de la tech, la résolution de ce problème semble incertaine, laissant un climat de méfiance face à l'IA.
AI Snips
Chapters
Transcript
Episode notes
IA génératives et hallucinations
- Les IA génératives comme ChatGPT présentent un problème majeur: elles hallucinent, c'est-à-dire qu'elles inventent des informations fausses.
- Ce phénomène devient inquiétant car ces IA s'intègrent partout dans notre vie personnelle et professionnelle.
Causes techniques des hallucinations
- Les hallucinations surviennent notamment à cause d'associations incorrectes dans les données d'entraînement et du fait que les IA doivent deviner la suite.
- Plus une IA est puissante, plus elle hallucine, ce qui est un paradoxe inquiétant.
Risques sérieux des hallucinations
- Les hallucinations des IA représentent un risque sérieux dans des domaines critiques comme la justice, la médecine ou les médias.
- Ces erreurs peuvent mener à la diffusion de fausses informations ou à des diagnostics erronés.