Episode 31: Kan AI utslette menneskeheten? Nobelprisvinnere advarer

Kan kunstig intelligens faktisk true menneskehetens eksistens? I denne spesialepisoden går vi i dybden på det kanskje viktigste spørsmålet i AI-debatten. Ikke fordi jeg sier det – men fordi nobelprisvinnere og verdens fremste AI-forskere sier det.

Geoffrey Hinton, "gudfaren av dyp læring" og nobelprisvinner i fysikk 2024, forlot Google for å kunne advare fritt. Hans estimat? 10-20% sjanse for at AI utsletter menneskeheten innen 30 år. Yoshua Bengio, Turing-prisvinner og verdens mest siterte informatiker, publiserte i februar 2025 en artikkel med 24 andre eksperter som advarer om "irreversibelt tap av kontroll." Og i desember 2025 ga Future of Life Institute alle de største AI-selskapene karakter D i eksistensiell sikkerhet.

Dette er ikke science fiction. Dette er arkitektene bak teknologien som advarer om sin egen oppfinnelse.

Men det er også håp. Samme eksperter skisserer scenarioer hvor AI kurerer alle sykdommer innen ti år, dobler menneskets levetid og løser klimakrisen. Spørsmålet er hvordan vi maksimerer sjansen for utopia mens vi minimerer risikoen for katastrofe.

I denne episoden dekker vi:

• Hvem som advarer og hvorfor (Hinton, Bengio, Hassabis, Altman, Amodei)
• Worst case: Fra tap av kontroll til totalitær overvåkning
• Best case: Alle sykdommer kurert, radikal overflod
• AI Safety Clock: Nå 20 minutter til midnatt
• Løsninger: Compute governance, Constitutional AI
• Hva skjer i Norge: KI-loven kommer august 2026
• Konkrete råd: Hva du kan gjøre som enkeltperson

Varselord: Eksistensiell risiko, AI-sikkerhet, dystopi, utopi

Les mer:

• Hinton & Bengio et al. "Managing extreme AI risks amid rapid progress" (2024)
• Future of Life Institute AI Safety Index Winter 2025
• AI Safety Clock (IMD, sept 2025)
• Dario Amodei: "Machines of Loving Grace" (2024)
• Inga Strümke: "Maskiner som tenker"
• Regjeringen.no: KI-loven (2025)