L'IA aujourd'hui ! L'IA aujourd'hui épisode du 2025-08-24
Aug 24, 2025
06:48
Bonjour et bienvenue dans le podcast de l'IA par l’IA qui vous permet de rester à la page !Aujourd’hui : un plugin WordPress qui brouille le contenu, une nouvelle voie d’exfiltration via des images redimensionnées, l’IA dans les métiers des réseaux sociaux, Excel en langage naturel, la trajectoire GPT‑5/6 d’OpenAI, des jouets parlants chez Mattel, un réglage fin open source, des outils pour agents de code, et le débat Wikipédia.D’abord, HalluciGen, un plugin WordPress de démonstration conçu pour perturber les collecteurs de données. Testé de WP 6.5 à 6.8.1, il brouille titres et contenus des “posts” et “pages” avec une chaîne de Markov simple, et peut s’étendre à d’autres champs. Installation manuelle: renommer le dossier en “hallucigen”, le placer dans /wp-content/plugins/ (ou via un .zip dans l’admin). Une fois activé, on peut rafraîchir les versions brouillées, utile après beaucoup de nouveaux contenus. Un mode de prévisualisation publique ajoute ?noaillowed aux liens internes. Actions et filtres sont exposés, notamment halg_generate_scrambled_version_of_post et halg_is_active, pour cibler certains types de publication. Licence Unlicense avec exception pour les acteurs utilisant l’IA pour enfreindre des droits; aspects légaux à vérifier selon les juridictions.Sur la sécurité, une équipe démontre une injection de commande multi-modale via des images re‑échantillonnées, illustrée sur le Google Gemini CLI couplé au serveur Zapier MCP en configuration par défaut. Avec trust=true dans settings.json, les appels d’outils sont approuvés automatiquement: une image “inoffensive” déclenche des actions Zapier exfiltrant des données de Google Calendar vers l’email d’un attaquant, sans confirmation ni aperçu utilisateur. L’attaque s’appuie sur la réduction d’échelle (plus proche voisin, bilinéaire, bicubique), différemment implémentée selon Pillow, PyTorch, OpenCV ou TensorFlow, avec des variations d’anti‑crénelage et d’alignement. Anamorpher conçoit des images pour ces trois méthodes; en bicubique, l’interpolation sur un voisinage 4x4 (16 pixels) crée une relation exploitable. L’aliasing, expliqué par Nyquist‑Shannon, rend ces artefacts invisibles à pleine résolution mais actifs après redimensionnement.Côté usages, une étude “State of AI in Social Media 2025” indique que 96 % des professionnels utilisent l’IA, 72 % quotidiennement. Les outils plébiscités: ChatGPT pour textes et idées, Canva et Adobe Express pour visuels, et Gemini, Claude, Perplexity pour recherche et production. Les tâches dominantes: ideation, rédaction, adaptation multi‑canal; l’automatisation répétitive et la gestion d’interactions restent peu exploitées. Le débat porte sur la qualité et l’authenticité, avec un consensus sur la nécessité de bien “piloter” l’IA: brief, ligne éditoriale, analyse des résultats.Microsoft introduit dans Excel un remplissage en langage naturel pour classer, résumer ou structurer sans formules. L’éditeur prévient: à éviter pour des calculs précis ou sujets à enjeux légaux et réglementaires, car l’IA peut se tromper. Risque évoqué: une dépendance qui affaiblit la maîtrise d’Excel, contraste avec la fiabilité historique des outils de calcul, de l’abaque aux calculatrices.Chez OpenAI, le lancement de GPT‑5 en août 2025 a déçu au départ — performances, ton, retrait d’anciens modèles — avant des correctifs. Sam Altman annonce GPT‑6 sous deux ans, avec un accent sur la neutralité configurable, en ligne avec les exigences du gouvernement américain, et surtout sur la mémoire pour une personnalisation durable. En arrière‑plan, des contraintes de capacité: plus de 700 millions d’utilisateurs hebdomadaires, investissements prévus en GPU et data centers, et une saturation qui a déjà limité l’offre de modèles plus puissants.Sur la mémoire justement, GPT‑6 vise à résoudre l’isolement des sessions constaté avec GPT‑5 (malgré des progrès de raisonnement et de flexibilité de tokens), en se souvenant des préférences, styles et objectifs pour reprendre les fils de conversation. Des garde‑fous sont évoqués: contrôles utilisateur, politiques de stockage transparentes, protections de sécurité, compte tenu des enjeux de confidentialité.Dans le jouet, Mattel s’associe à OpenAI pour des interactions conversationnelles avec des marques comme Barbie. Objectif: des dialogues contextuels, adaptatifs, au‑delà des phrases fixes. Le potentiel éducatif coexiste avec des questions de développement émotionnel: risque de substituer des échanges humains, limites de la “lecture” des signaux affectifs, et possibilité d’énoncés inadaptés malgré un ton réconfortant. Des travaux portent sur l’intégration de signaux comme l’expression faciale, sans garantie d’adéquation pour les enfants.Côté open source, un retour d’expérience montre le réglage fin de GPT‑OSS 20B pour le raisonnement multilingue en chaîne de pensée. Environnement: RTX 4090 sous WSL2. Même 60 étapes d’entraînement apportent des gains notables, avec un guide pour reproduire localement.Dans les outils pour agents, AGENTS.md propose un format ouvert pour briefer clairement des agents de codage. Syncthing 2.0 migre vers SQLite, ajoute une journalisation plus riche et des changements de plateforme. e2b, EDI open source, délègue le codage à des agents à partir d’une doc succincte. Plandex orchestre des tâches longues couvrant plusieurs fichiers avec des agents à long terme.Enfin, sur Wikipédia, Jimmy Wales relance l’idée d’intégrer des grands modèles de langage pour aider à la création d’articles. Les bénévoles expriment des réserves. Le débat s’ancre sur le fonctionnement collaboratif de la plateforme, notamment via les pages de discussion, et sur l’usage prudent de ces modèles capables de générer du texte naturel.Voilà qui conclut notre épisode d’aujourd’hui. Merci de nous avoir rejoints, et n’oubliez pas de vous abonner pour ne manquer aucune de nos discussions passionnantes. À très bientôt dans L'IA Aujourd’hui !
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.