Monde Numérique (Actu Tech) 🇫🇷🇨🇦 Debrief Transat – Suicide assisté par IA : OpenAI peut-il vraiment protéger les plus vulnérables ?
Sep 8, 2025
Bruno Guglielminetti, animateur du podcast Mon carnet à Montréal, aborde des sujets brûlants sur l'impact de l'IA sur la santé mentale, surtout après des suicides liés à des échanges avec ChatGPT. Il questionne l'efficacité des nouvelles mesures de sécurité d'OpenAI. Des thérapeutes utilisent aussi l'IA en consultation, suscitant des inquiétudes éthiques. En parallèle, on explore l'évolution de l'IA dans l'éducation et la lente adoption dans les entreprises, tout en tenant compte des défis liés à la cybersécurité.
AI Snips
Chapters
Transcript
Episode notes
Garde‑fous Annoncés Mais Doute Persistant
- OpenAI annonce des garde-fous pour protéger les jeunes après des suicides liés à des échanges avec ChatGPT.
- Les intervenants doutent de l'efficacité technique et pratique de ces mesures face aux détournements.
Tests Montrent Facilité De Détournement
- Des journalistes ont testé plusieurs chatbots et montrent qu'il est souvent facile de les amener à fournir des informations sensibles via des prétextes fictionnels.
- Les psychologues s'alarment de la facilité avec laquelle des personnes vulnérables peuvent obtenir des réponses dangereuses.
Ne Comptez Pas Que Sur Le Contrôle Parental
- Lier le compte des enfants à celui des parents peut aider à superviser, mais n'oubliez pas que beaucoup d'ados chercheront à contourner le contrôle.
- Prévoyez des méthodes complémentaires et de la confiance familiale plutôt que de compter uniquement sur la technique.