Signal met en garde contre l'IA agentique

Bonjour et bienvenue dans le podcast de l'IA par l’IA qui vous permet de rester à la page !Aujourd’hui : Bandcamp interdit la musique générée par IA, inquiétudes autour de l’IA agentique, Apple transforme une photo en scène 3D, et un cadre de compétences IA pour les cliniciens.La musique générée par IA sature les plateformes. Sur Spotify, des groupes fictifs comme Velvet Sundown ou Broken Avenue ont engrangé des écoutes, et un imitateur IA a même remplacé King Gizzard & The Lizard Wizard après leur départ. Malgré l’annonce d’un “nettoyage du désordre IA” en septembre, la prolifération continue. Chez Deezer, plus de 50 000 morceaux IA étaient téléversés chaque jour en novembre, soit 34 % des nouvelles sorties, après avoir évoqué jusqu’à 20 000 par jour plus tôt. Dans ce contexte, Bandcamp prend une position nette: la musique entièrement ou majoritairement générée par IA n’est plus acceptée. Publiée sur Reddit avec des vœux pour 2026, la politique interdit aussi l’imitation d’artistes ou de styles, autorise l’usage d’outils IA seulement en appui non dominant, encourage les signalements, et prévoit la suppression des titres suspects avec des mises à jour à venir. La communauté a salué la décision. Ailleurs, Spotify renforce ses garde-fous mais reste critiqué, Apple Music exploite l’IA pour les playlists, et une artiste IA, Xania Monet, a atteint les classements Billboard. Bandcamp souligne investir dans les musiciens: 19 millions de dollars versés en 2025. Et selon son directeur éditorial, pas de hausse notable d’albums faits avec IA, même si des genres synthétiques populaires y sont bien humains. Pendant ce temps, des acteurs comme Udio et Suno signent avec les majors, nourrissant l’essor de la musique IA.Changement d’angle: la présidente et le vice-président de Signal alertent sur l’IA agentique, décrite comme peu sûre, peu fiable et propice à la surveillance. Ces systèmes prennent des décisions de façon autonome, avec des risques de perte de contrôle et d’atteinte à la vie privée. Ils appellent à des cadres de régulation et des mécanismes de supervision pour un usage responsable.Côté produits, Apple dévoile SHARP, un modèle capable de reconstruire une scène 3D à partir d’une seule photo, disponible gratuitement sur iPhone via l’app Sapling. Le calcul s’effectue sur l’appareil en environ une minute sur les modèles récents. Basé sur le “3D Gaussian Splatting” (également utilisé pour les Personas de l’Apple Vision Pro), SHARP rend la scène en temps réel avec changements de perspective. Les chercheurs annoncent une qualité supérieure et moins de calcul que les approches comparables. L’intégration dans l’écosystème Apple reste incertaine. Les meilleurs résultats concernent des images avec une bonne stratification de profondeur; gros plans et zones non visibles génèrent artefacts et distorsions. La scène se consulte en AR, s’exporte pour post-traitement, une compatibilité Vision Pro est prévue, et des apps tierces comme Splat Studio existent, sans interface dédiée pour macOS ou Windows à ce stade.Enfin, dans la santé, les LLM passent des pilotes au quotidien clinique. Un cadre en trois niveaux est proposé. Fondamentaux: ingénierie d’invite contextualisée, interaction humain–agent à autonomie limitée avec rôles explicites, vérification systématique des sorties, respect HIPAA/RGPD avec minimisation des données et sans saisie d’informations de santé protégées, et transparence vis-à-vis du patient. Intermédiaire: détecter et réduire les biais via rapports d’audit et quantification de l’incertitude, interpréter l’explicabilité et la calibration, intégrer les flux IA en gardant l’expertise clinique et en surveillant la déqualification. Avancé: gouvernance éthique et stratégie réglementaire alignées sur les lois de protection des données, gestion des changements de modèle, et supervision du cycle de vie de la validation à la surveillance post-déploiement jusqu’à la mise hors service. L’intégrer à la formation continue et aux fiches de poste vise une pratique plus sûre et standardisée.Voilà qui conclut notre épisode d’aujourd’hui. Merci de nous avoir rejoints, et n’oubliez pas de vous abonner pour ne manquer aucune de nos discussions passionnantes. À très bientôt dans L'IA Aujourd’hui !

---

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.