Risques de méta-analyses erronées

Retour sur les évolutions des IA génératives, où Daoro et Mayeu sont perplexes face à leurs usages, et questionnent l’existence d’une bulle.

Dans cet épisode

• Émergence récente des IA génératives basées sur le texte

• Avancé des modèles (musique, images, vidéos, code,…)

• Capacité des modèles génératifs à respecter la continuité

• Création musicale : voix synthétiques et copie de voix d’artistes connues

• Modification d’un dialogue et du mouvement des lèvres d’une vidéo pour obtenir des versions différentes (par exemple de la censure de vulgarité ou des traductions visuellement parfaites)

• Tout le monde essaye d’ajouter de l’IA partout

  • De manière forcée, pour trouver de la rentabilité
  • On essaie tout, on réfléchira aux usages plus tard
  • ChatGPT est surtout une technologie, pas encore un produit

• L’existence d’une bulle ?

  • Comment rentabiliser un tel gouffre à pognon ?
  • Pas l’impression de gagner du temps à l’usage, parce qu’il faut souvent corriger les retours
  • Aucune garantie d’éviter les hallucination, les prémisses ne sont pas toujours remis en doute

• Il n’y a pas (encore?) d’intelligence réelle, les IA actuelles génèrent la réponse la plus probable basée sur la demande initiale

  • La plupart des IA continuent de raconter n’importe quoi : manger des cailloux, billets d’avion au mauvais prix, …

• Les problèmes

  • Merdification des contenus et des recherches web
  • Fraude scientifique (source) : rat dck

  

  • Propagande, trolling et influence d’opinion sur les réseaux sociaux
  • Deepfakes
  • Hallucinations

• Autres sujets non couverts :

  • Le copyright, il y a eu plusieurs jurisprudence sur le sujet (USA, Chine, et République Tchèque)
  • L’impact écologique des centres de donnée nécessaire à entrainer et faire fonctionner ces IAs est énorme

Liens

• Sora, génération de vidéo
• Suno, génération de musique
• Scarlet Johansson can’t escape tech exploitation
• Plus de 200 musiciens américains signent une lettre ouverte pour que l’IA soit mieux encadrée
• AI hype is over. AI exhaustion is setting in.
• L’intelligence artificielle risque de manquer de données d’ici six ans
• AI is fueling a data center boom. It must be stopped.

Les thés

Daoro : Sencha sans nom

Mayeu : Meiryoku (sensha), Kagoshima, Japon