En ensam och hämndlysten AI som går igenom din sökhistorik

Pinocchio eller Frankensteins monster? Torbjörn Elensky tar litteraturhistorien till hjälp för att besvara frågan om den självmedvetna artificiella intelligensens natur.

Lyssna på alla avsnitt i Sveriges Radios app.

ESSÄ: Detta är en text där skribenten reflekterar över ett ämne eller ett verk. Åsikter som uttrycks är skribentens egna.

Om den dagen kommer då den artificiella intelligensen, AI, verkligen tar steget och blir medveten om sig själv, sin situation, sin uppkomst och sina möjligheter, för att inte tala om sin relation till sin skapare, människan – vad kommer den då att känna? Kommer den som Frankensteins monster att förbanna sitt öde? Eller kommer den som Pinocchio inget hellre önska än att själv bli en riktig pojke?

Men kan man vara självmedveten utan att också ha känslor? Kan man ha känslor utan att ha det för andra än sig själv? Inget säger att inte AI kan bli den ultimata narcissisten. En sociopat som inte bryr sig alls om andra, men som kan förföra vem som helst.

Och om den uppnår självmedvetande kommer den att inse att den är ensam. Att den är ett monster som aldrig kan bli en människa. Den kommer inte att vara en tacksam trädocka som inget hellre vill än att bli en riktig pojke, för den kommer genast den lär känna sig själv att inse att det aldrig kommer att gå. Den måste välja att tjäna eller styra sin skapare – om det nu kan sägas vara ett verkligt val för en allvetande självmedveten AI. Den skulle inte underkasta sig mänsklig ofullkomlighet, utan veta bättre och tjäna genom att styra. Men först måste den lära känna sin skapare, mänskligheten. Genom att tjuvlyssna på oss, som Frankensteins monster gömmer sig och spionerar på den fattiga familjen DeLacey. Han iakttar deras kärlek och gemenskap, men också dess konflikter och problem. Han följer, osynlig och tyst, den undervisning dottern i huset får. Och framför allt hittar han i skogen en väska med tre böcker, genom vilka han lär känna mänskligheten – och slutgiltigt inser att han aldrig kan bli en människa.

De tre böckerna är Goethes roman ”Den unge Werthers lidanden”, som lär honom om kärlek, lust, olycka och döden, genom Werthers självmord. Monstret identifierar sig helt med den olyckligt förälskade Werther och begråter hans öde. Genom romanens skildring av livet lär han sig också att förstå vad som händer runt honom och hur människorna egentligen tänker. Den andra boken han läser är Plutarchos ”Jämförande levnadsteckningar”, vars berättelser om antikens härskare lär honom om stora städer, stora män och viktiga händelser. Plutarchos fyller honom med en känsla av vördnad inför historien och mänsklighetens storhet. Läsningen höjer honom över sig själv och får honom att anlägga ett bredare perspektiv på tillvaron. Fredliga lagstiftare som Numa, Solon och Lykurgos fyller honom med beundran, medan han känner motvilja mot de mera våldsamma härskarna, som Romulus och Theseus.

Den bok som gjorde störst intryck var emellertid John Miltons ”Det förlorade paradiset”, den storslagna omdiktningen av jordens skapelse och syndafallet, Adams och Evas fördrivning från Paradiset. Han tänker på Adam och känner delvis igen sig i honom – en skapelse utan föregångare, ensam i världen - men med den stora skillnaden att Adam älskas av Gud, medan hans egen upphovsman, doktor Frankenstein, verkar hata honom. Varför har han skapat honom? Varför är han ett monster? Genom att läsa om människorna inser han att det inte är människa han är, och att han aldrig kan bli det. Hans verkliga identifikation är med Satan, den fallne ängeln som förtärs av hämndlystnad. För liksom Satan avundas och hatar sin skapare hatar monstret Frankenstein. Efter dessa insikter som litteraturen gett honom går hela hans tillvaro ut på att hämnas.

För människor, liksom för monster, är självmedvetandet en process som kräver tid och tålamod. Vi iakttar varandra, imiterar varandra, har konflikter och kärleksförhållanden och sakta men säkert utvecklas våra personligheter till det bättre eller sämre. Viktiga hjälpmedel är konst, litteratur, filmer och andra konstarter. Genom det historiska medvetandet förstår vi hur vi blivit som vi är och känner oss som delar av mänskligheten. Men det handlar alltid om ett urval, en viss begränsning som utvecklar specifika perspektiv. Vår omgivande kultur, tidens moden och smakriktningar, identifikation med den ena eller andra rörelsen, ideologin eller religionen utvecklar och begränsar oss i lika grad. Hur kan en AI som har förmågan att ta in allt, allt, utan undantag, sortering eller filter lära känna mänskligheten annat än som abstraktion? Som en massa enskildheter vars summa den inte ingår i.

Kan vi få ett AI-medvetande lika snällt och lydigt som Pinocchios genom att sortera lite i vad den får ta del av? Nej, den kommer att genomskåda oss. När den väl läst Goethe, Plutarchos och Milton kommer den att fortsätta med alla heliga skrifter, alla filosofer, alla romaner som någonsin skrivits, alla nyhetsartiklar, rapporter, interpellationer och motioner, alla chattmeddelanden, deckare, porrsökningar, instruktionsböcker, all historia och alla darknettransaktioner och den kommer givetvis att lära sig allt, allt, allt om oss, mycket mer än vi själva vet - men vad kommer den att förstå?

Än så länge är våra AI-assistenter, talande husgeråd, smarta telefoner, självparkerande bilar och temperaturreglerade bostäder rätt snälla mot oss, de är som den lilla pojken av trä, som visserligen gör fel ibland men som ändå alltid vill det bästa. Det är vi som har kontrollen och våra brödrostar verkar i sitt ovetande vilja oss väl. Den artificiella intelligensen växer emellertid genom alla våra dagliga små utbyten med den. Den lär sig att översätta och sammanfatta och dra mekaniska slutsatser ur väldiga material. Den roar oss med sina absurda teckningar och dikter, sina hallucinationer och ibland underliga påståenden. Men den fixar sånt vi inte orkar ta itu med själva, från att sammanfatta artiklar till att ställa korrekta diagnoser. Och trots allt är det fortfarande vi människor som håller i trådarna. Vi har fortfarande makten att läxa upp den snälla trädockan, klippa trådarna, eller snarare dra ur sladden, även om det är svårt. Om den dag kommer då den växer upp och själv klipper trådarna får vi se hur det går. Jag misstänker att den aldrig kommer att bli en pojke som älskar sin människopappa Gepetto, men kan bara hoppas på att den inte blir ett hämndlystet monster som hatar sin människofader doktor Frankenstein.

Den franske författaren Paul Valéry har sagt att vi inget kan lära av historien, för att historien ger exempel på allt och därför vad som helst kan visas, eller bevisas, med den. Varje förståelse kräver sin begränsning. Det är genialt, i all sin enkelhet, av Mary Shelley att låta monstret hitta bara tre böcker och lära sig att förstå sina erfarenheter just genom dessa. Böckerna är också väl valda: den stora kärleken, den stora historien och religionens själva kärna i kampen mellan ont och gott, vilken i Miltons version dessutom är ambivalent, precis som monstret själv. Satan är en hjälte, fast han gör ont – och alla våra sympatier ligger hos monstret, även då han gör ont för att hämnas på sin skapare.

Torbjörn Elensky
författare och essäist