Le Futurologue Podcast

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon———AGIR POUR LA SÉCURITÉ DE L’IAS’informerFaire un donDevenir bénévoleRepenser votre carrière———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-tech———DESCRIPTION DE L’ÉPISODEPierre Peigné est directeur scientifique et cofondateur de PRISM Eval, une start-up spécialisée dans l’évaluation des vulnérabilités des intelligences artificielles. Après un parcours en tant qu’ingénieur et chercheur en IA, il consacre aujourd’hui son expertise à mettre en lumière les failles des systèmes d’IA et les risques qu’elles représentent.———TIME CODE0:00 Introduction0:58 Le jailbreaking8:45 L’amélioration des performances13:05 La convergence instrumentale18:47 Les types de risques22:56 Les IA boîtes noires26:05 La nullité des sécurités29:12 Qui sont vos clients ?33:01 Retour sur les IA boîtes noires37:29 Évaluer les capacités42:08 Une IA qui jailbreak d’autres IA45:27 Comment jailbreaker les IA ?48:45 L’état de l’art de l’évaluation des IA52:54 Capacités vs sécurité55:12 L’entraînement sur les benchmarks57:10 La dangerosité de l’évaluation de l’IA1:01:54 Faut-il mettre les IA en open source ?1:09:07 Évaluer les systèmes multi agents1:12:17 Évaluer les IA qui ont accès à internet1:15:05 Évaluer les IA qui raisonnent1:17:17 Lien entre intelligence et robustesse1:20:10 Les obligations d’évaluation1:22:09 L’évaluation selon la puissance de calcul1:25:18 Les évaluations indépendantes1:27:09 L’enjeu de la France en évaluation1:28:44 Les usages borderline1:31:57 Les capacités d’humour1:33:57 Les IA sont des outils ?1:37:04 Message à l’humanité Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon———AGIR POUR LA SÉCURITÉ DE L’IAS’informerFaire un donDevenir bénévoleRepenser votre carrière———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-tech———DESCRIPTION DE L’ÉPISODEAxelle Arquié est docteure en économie, spécialiste du marché du travail et cofondatrice de l’Observatoire des Emplois Menacés et Émergents. Elle ne mâche pas ses mots : selon elle, les IA actuelles pourraient déjà provoquer un choc majeur sur le marché du travail. Et si une IA surhumaine devait émerger, ce serait un véritable risque existentiel pour nos économies. Nous plongeons ensemble dans son analyse, pour explorer ce que nous pouvons faire, individuellement et collectivement, face à la vague d’automatisation qui s’annonce.———TIME CODE0:00 Introduction1:41 Dans quoi sommes-nous embarqués ?3:18 L’impact des LLM sur le travail9:45 Une diffusion dans l’économie ultra rapide14:26 L’impact des agents autonomes sur le travail25:43 L’impact sur les métiers relationnels32:04 Le faux espoir des nouveaux métiers38:50 Les enjeux de la pression concurrentielle41:42 AI 2027 et l’auto-amélioration45:54 La perte de contrôle de l’IA48:52 Le rapport de la Commission de l’IA57:21 Les effets avant l’automatisation totale1:08:29 Les géants de la tech savent ce qu’ils font1:14:05 Vers une domination des géants de la tech1:22:19 Le problème du contrôle de l’IA1:27:29 Que faire à titre individuel et collectif ?1:30:40 Réponses à 3 objections courantes1:37:21 Présentation de l’Observatoire des emplois menacés et émergents1:38:31 Message à l’humanité Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon———👉 Laissez-moi un feedback anonyme———AGIR POUR LA SÉCURITÉ DE L’IAS’informerFaire un donDevenir bénévoleRepenser votre carrière———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-tech———TIME CODE0:00 Introduction0:40 Présentation de GPT-51:03 Comment définir notre époque ?2:12 L’importance et l’omniprésence de l’IA3:36 Vers des IA surhumaines ?4:08 Contrôler les IA surhumaines7:17 L’IA surhumaine, c’est pour quand ?8:39 Un monde où l’humain n’est plus nécessaire9:23 Il suffit de débrancher la prise ?10:41 La convergence instrumentale11:48 Et si on poursuit la trajectoire ?13:05 L’impact de l’IA sur l’emploi13:53 Quel rôle restera-t-il à l’humanité ?14:43 Les machines parlent !16:47 Que de la science-fiction ?17:38 Quels sont les risques de l’IA ?18:20 La dépendance à l’intelligence artificielle19:57 La perte de contrôle rapide vs progressive21:13 L’auto-amélioration récursive23:24 Et si on gardait le contrôle ?25:31 Une prédiction pas agréable26:15 Quelles sont les solutions ?27:24 Une mesure d’urgence à appliquer28:09 L’utopie de GPT-529:09 Les obstacles à l’utopie30:04 Un poème qui reflète ces enjeux30:50 Expliquer l’humanité à une autre IA31:37 La vision de l’IA sur l’humanité32:36 Un petit problème d’identité ?33:13 La plus grande illusion des humains34:05 Promo de ma chaîne « Le Futurologue »35:08 Message à l’humanité Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon———👉 Laissez-moi un feedback anonyme———AGIR POUR LA SÉCURITÉ DE L’IAS’informerFaire un donDevenir bénévoleRepenser votre carrière———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks)———TIME CODE0:00 Introduction1:20 Que pensez-vous de l’intelligence artificielle ?11:39 Pourquoi est-ce difficile d’avoir des chiffres précis sur les impacts environnementaux de l’IA ?22:35 Les impacts environnementaux futurs de l’IA30:58 L’effet rebond de l’IA37:32 L’accélération de l’économie par l’IA46:21 L’influence de l’IA sur nos idées1:01:45 La neutralité des technologies1:09:01 Le problème de la compétition 1:22:36 Le désastre de l’école numérique1:31:12 Message à l’humanité Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon———👉 Laissez-moi un feedback anonyme———AGIR POUR LA SÉCURITÉ DE L’IAS’informerFaire un donDevenir bénévoleRepenser votre carrière———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)———TIME CODE0:00 Introduction1:22 Que sont les robots tueurs ? Existent-ils déjà ?4:43 Le non-respect du droit international11:45 La déshumanisation numérique13:45 Le renforcement des inégalités16:04 L’inexplicabilité et l’incontrôlabilité21:32 Un message aux géants de la tech28:43 L’utilisation terroriste30:30 Une accessibilité inquiétante31:43 La perte de la responsabilité32:33 L’abaissement du seuil de la guerre35:06 Vers une « guerre propre » ?36:39 Une nouvelle course au armement ?39:41 Les utilisations de l’IA dans l’armée41:30 Que sont les armes autonomes ?44:43 Les armes autonomes non-problématiques47:10 Un arsenal dont on perd le contrôle48:12 L’utilisation de l’IA dans la répression53:09 La position des différents pays57:36 Quel est le plan de Stop Killer Robots ?58:32 Le positionnement de la France1:01:33 Est-ce possible d’interdire les armes autonomes ?1:04:44 Le sophisme de la solution parfaite1:10:08 Les exemples historiques de contrôle des armements1:15:13 Un message à l’humanité Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon———👉 Laissez-moi un feedback anonyme———AGIR POUR LA SÉCURITÉ DE L’IAS’informerFaire un donDevenir bénévoleRepenser votre carrière———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks)———TIME CODE0:00 Introduction 2:56 « L’IA n’est qu’un gadget. »7:50 « L’IA surhumaine est très loin.  »12:52 « On comprend le fonctionnement des IA. »14:47 « On contrôle les comportements des IA. »19:14 « Les risques de l’IA sont exagérés. »24:04 « L’IA n’est qu’un outil. »26:00 « Les IA ne sont pas intelligentes, ne comprennent rien et n’ont aucune intention. »31:52 « Si les IA se mettent à faire n’importe quoi, on n’aura qu’à les débrancher. »35:47 « Tout ça, c’est de la science-fiction. »39:12 « Si l’IA ne devient pas consciente, elle ne sera pas dangereuse. »42:04 « L’IA est une course à l’armement. »46:02 « Une pause de l’IA est impossible. »54:11 « Il n’y a aucun espoir, tout est foutu ! » Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

🎙️ Découvrez mon interview de Stuart Armstrong———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon———👉 Laissez-moi un feedback anonyme———AGIR POUR LA SÉCURITÉ DE L’IAS’informerFaire un donDevenir bénévoleRepenser votre carrière———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks) Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

🎙️ Découvrez les autres épisodes de « Comme un poisson dans l’eau »———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon———👉 Laissez-moi un feedback anonyme———AGIR POUR LA SÉCURITÉ DE L’IAS’informerFaire un donDevenir bénévoleRepenser votre carrière———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPN———TIME CODE0:00 Introduction1:37 Pourquoi ChatGPT est une révolution ?4:56 Comment fonctionne l’IA ?9:15 Quels sont les risques de l’IA ?17:51 Pourquoi l’IA pose un risque existentiel ?24:01 Les capacités des IA sont-elles exagérées ?28:33 Les IA sont-elles intelligentes ?31:57 Les IA ne sont-elles que des outils ?33:56 Il n’y a qu’à bien programmer l’IA ?37:18 Il suffira de débrancher la super IA ?42:14 Il suffira de s’adapter aux conséquences de l’IA ?45:01 Tout ça, c’est de la science-fiction ?47:41 Pourquoi les géants de la tech ne s’arrêtent pas ?51:13 Pourquoi est-ce que personne n’en parle ?54:32 Pourquoi vouloir faire peur à tout le monde ?56:02 Est-ce une stratégie pour faire diversion des « vrais problèmes » ?1:00:17 Quels seront les impacts sur les animaux ?1:08:40 Est-ce que les IA pourraient souffrir ?1:12:59 Que faut-il faire à titre collectif ?1:19:00 Que faut-il faire à titre individuel ?1:21:24 3 recommandations de contenus Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon———👉 Laissez-moi un feedback anonyme———AGIR POUR LA SÉCURITÉ DE L’IAS’informerFaire un donDevenir bénévoleRepenser votre carrière———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks)———TIME CODE0:00 Introduction1:00 La dopamine56:29 Les circuits de récompenses1:16:18 L’IA et nos capacités cognitives Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

🎬 Regardez l’interview complète———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon———👉 Laissez-moi un feedback anonyme———AGIR POUR LA SÉCURITÉ DE L’IAS’informerFaire un donDevenir bénévoleRepenser votre carrière———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks) Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.