Geoffrey Hinton, känd som "AI:s gudfar", och Demis Hassabis, VD för Googles AI-labb DeepMind, diskuterar AI:s framtid och dess risker. Hinton varnar för att AI kan bli smarter än människor inom 5-20 år, vilket kan hota mänskligheten. Hassabis uttrycker oro över kapplöpningen mellan stora företag och betonar vikten av internationellt samarbete för att hantera AI-risker. De reflekterar också över Nobelpriset och dess betydelse för AI-fältet, samt Hinton bjuder på ett rekommenderat lästips för den intresserade.
Geoffrey Hinton varnar för att AI kan bli smartare än människor inom 5-20 år och utgöra ett existentiellt hot mot mänskligheten.
Demis Hassabis betonar vikten av ansvarig AI-utveckling och internationellt samarbete för att hantera risker kopplade till AI-teknologi.
Deep dives
Nobelprisen i teknikens värld
Jeffrey Hinton och Demis Hassabis tilldelades nyligen Nobelpriser i fysik och kemi för deras banbrytande arbete inom AI. Hinton, nu känd som 'AI:s gudfar', reflekterade över betydelsen av att erkänna AI inom vetenskapen, och uttryckte sin glädje över att ha blivit utnämnd bland andra framstående forskare. Det diskuterades hur Hinton betraktar den snabba utvecklingen av AI, där han misstänker att system som lär sig av sig själva kan bli verklighet inom en snar framtid. Det nämndes också att hans och Hassabis' insatser representerar en viktig erkänsla för AI-forskningens betydelse för mänskligheten.
Riskerna med AI-utveckling
Hinton uttryckte en djup oro för de kort- och långsiktiga riskerna med AI, inklusive jobblöshet och potentiella cyberattacker. Han nämnde att det under det senaste året skett en markant ökning av phishing-attacker som drivs av AI-teknologier, vilket exemplifierar de omedelbara hoten. Långsiktigt finns det en risk för att AI kan utvecklas till att överraska oss med sin intelligens och kontrollbehov, där han poängterade att chanserna för mänskligheten att utrotas kan vara så hög som 20%. Hinton betonade att det är avgörande att forskningen fokuserar på säkerhetstänkande för att hantera dessa risker.
Framtiden för AI och samhällsansvar
Demis Hassabis framhöll vikten av ansvarig AI-utveckling och att fler aktörer, inklusive regeringar och akademia, måste engageras i diskussionerna om säkerhet och kontroll av AI-system. Han identifierade två centrala risker: den potentiella missbrukningen av AI-teknologi av onda aktörer och den tekniska utmaningen att ge AI rätt mål och riktlinjer. Hassabis nämnde att inom sitt företag DeepMind prioriteras säkerhetsfrågor, men att det krävs mer forskning och internationellt samarbete för att säkerställa att AI:s utveckling gynnar mänskligheten. Han avslutade med en optimistisk ton, där han uttryckte tro på mänskligheten och dess förmåga att lösa framtida utmaningar.
De är två av AI-världens hetaste namn. Och när de besökte Stockholm under Nobelveckan passade SvD Tech briefs Henning Eklund på att intervjua pristagarna Geoffrey Hinton och Demiss Hassabis.
Geoffrey Hinton, som brukar kallas ”AI:s gudfadern”, räknar med att AI-systemen kommer att bli smartare än människor inom 5-20 år. När det inträffar riskerar hela mänskligheten att utplånas, varnar Nobelpristagaren.
Demis Hassabis är vd för Googles AI-labb Deepmind och är därmed en av AI-världens stora makthavare. Han oroas av vad kapplöpningen mellan storbolagen kan leda till, och hoppas på internationellt samarbete för att hantera riskerna med AI.
Dessutom: Geoffrey Hinton bjuder lyssnarna på sitt bästa lästips. Intervjuerna är på engelska.
In this episode of SvD Tech Brief, Nobel laureates Geoffrey Hinton and Demis Hassabis discuss the risks of AI that threaten humanity. The interviews are conducted in English.
SvD Tech brief är en podd från Svenska Dagbladet.
Feedback: techbrief@svd.se
Signa upp dig för nyhetsbrevet: https://www.svd.se/story/tech-brief-nyhetsbrev
Get the Snipd podcast app
Unlock the knowledge in podcasts with the podcast player of the future.
AI-powered podcast player
Listen to all your favourite podcasts with AI-powered features
Discover highlights
Listen to the best highlights from the podcasts you love and dive into the full episode
Save any moment
Hear something you like? Tap your headphones to save it with AI-generated key takeaways
Share & Export
Send highlights to Twitter, WhatsApp or export them to Notion, Readwise & more
AI-powered podcast player
Listen to all your favourite podcasts with AI-powered features
Discover highlights
Listen to the best highlights from the podcasts you love and dive into the full episode