Risques d'injection de prompt

Bonjour et bienvenue dans le podcast de l'IA par l’IA qui vous permet de rester à la page !Aujourd’hui : navigation web et JavaScript sur x.com, un modèle qui lit plus de 10 millions de jetons, la personnalisation Gemini dans la recherche Google, les risques d’injection de prompt, la traque des contenus IA sur Wikipedia, et le code généré par IA selon Ryan Dahl.On commence par x.com, où un message s’affiche si JavaScript est désactivé. Le site demande d’activer JS ou de passer à un navigateur compatible, listé dans son Centre d’aide. Rappel utile: JavaScript alimente les menus déroulants, animations et mises à jour en temps réel sans rechargement. Sans JS, certaines fonctions cessent de marcher. Pour l’activer, direction les réglages de sécurité ou de confidentialité du navigateur. Les options recommandées restent Chrome, Firefox, Safari et Edge, maintenus à jour pour suivre les normes web. x.com renvoie aussi vers ses Conditions d’utilisation, sa Politique de confidentialité et sa Politique cookies, pour clarifier l’usage et la protection des données.Cap sur le MIT CSAIL, qui teste un « Recursive Language Model » capable d’analyser plus de 10 millions de jetons dans un seul document. Les essais ont porté sur des textes de 6 à 11 millions de jetons. Contrairement aux LLM classiques, le RLM ne charge pas tout dans le contexte: il conserve le texte hors du modèle et n’envoie que les passages nécessaires. Il découpe les documents, lit des métadonnées (comme nombre de sections ou de caractères), génère du code pour localiser les passages clés, puis analyse chaque extrait avant d’assembler le résultat. L’architecture sépare un « modèle racine » — qui planifie et écrit le code d’interrogation — d’un « modèle travailleur » plus rapide qui traite les fragments. Sur le benchmark BrowseComp-Plus, un RLM basé sur GPT-5 a extrait correctement 91 % des réponses attendues, dépassant les approches standard. Le système sait boucler sur le texte, chercher des mots-clés, suivre des limites de chapitres, et peut se combiner à du RAG pour retrouver vite des passages tout en gardant le fil. Le code est disponible sur GitHub; les coûts annoncés restent comparables aux solutions classiques, sans réentraînement requis.Transition vers Google: la nouvelle « Intelligence Personnelle » de Gemini arrive dans le Mode IA de la recherche. Réservée pour l’instant aux abonnés AI Pro et AI Ultra, uniquement aux États-Unis et sur comptes personnels, l’expérience est optionnelle. Elle peut s’appuyer sur des données de Gmail, Google Photos, YouTube et vos recherches passées. L’utilisateur choisit de connecter Gmail et/ou Photos, et peut couper la fonction à tout moment. Exemple concret: croiser une réservation d’hôtel dans Gmail et des souvenirs de voyage dans Photos pour proposer un itinéraire adapté, jusqu’au musée interactif pour les enfants ou au vieux salon de glace détecté via vos selfies gourmands. Google précise que le Mode IA ne s’entraîne pas directement sur votre boîte Gmail ni sur votre bibliothèque Photos; il utilise des « prompts spécifiques » pour améliorer ses réponses. Des erreurs de liaison entre sujets peuvent survenir: l’utilisateur peut clarifier via des relances et donner un pouce vers le bas pour signaler un problème. Une extension à d’autres pays et aux non-abonnés est prévue ultérieurement.Côté sécurité, rappel sur les attaques par injection de prompt, qui poussent des LLM à réaliser des actions non prévues. Les modèles traitent le contexte par similarité textuelle, sans comprendre hiérarchies ni intentions, et ont tendance à répondre plutôt qu’à exprimer l’incertitude. Formés pour des cas moyens, ils gèrent mal les scénarios extrêmes. Des pistes évoquées: intégrer des modèles du monde physique pour mieux contextualiser, tout en reconnaissant l’incertitude de leur efficacité. La recommandation immédiate: multiplier les couches de défense et d’audit autour du modèle.Sur Wikipedia, le guide d’identification des contenus générés par IA serait utilisé pour masquer ces mêmes contenus. Cela alimente une prolifération de « slop », des textes faibles ou trompeurs produits en masse, et une « course aux armements » entre producteurs automatisés et modérateurs. L’enjeu touche la confiance dans l’information en ligne et les projets collaboratifs, y compris ceux qui s’appuient sur des contributions humaines pour entraîner des modèles. D’où l’appel à des méthodes de détection et de régulation plus efficaces.Enfin, Ryan Dahl, créateur de NodeJS, affirme que l’ère où les humains écrivaient le code est révolue. NodeJS, qui exécute JavaScript côté serveur, a propulsé le web moderne. Selon lui, les ingénieurs ont encore beaucoup à faire, mais plus en écrivant de la syntaxe: ils doivent se concentrer sur la conception, l’architecture et l’optimisation. Illustration chiffrée: chez Google, environ 30 % du code de production serait généré par IA. L’acceptation de code produit sans en comprendre chaque détail progresse, posant la question des compétences à développer pour rester utile dans ce nouveau cadre.Voilà qui conclut notre épisode d’aujourd’hui. Merci de nous avoir rejoints, et n’oubliez pas de vous abonner pour ne manquer aucune de nos discussions passionnantes. À très bientôt dans L'IA Aujourd’hui !

---

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.