[180127] Välkommen till vår tids viktigaste samtal. Så inleder Max Tegmark sin bok om hur smarta datorprogram kommer skapa ännu smartare datorprogram, som så småningom blir så hypersmarta att enbart fysikens lagar sätter gränsen för vad de kan åstadkomma. Och då kan vad som helst hända. Exempelvis kommer de kunna hjälpa mänskligheten att lösa alla sina problem – eller utplåna den.
Vår tids viktigaste samtal – viktigare än klimathotet och de globala orättvisorna? Ja, menar författaren: klimatförändringarna ligger 50-100 år framåt i tiden, medan artificiell intelligens hinner få större inverkan snabbare. Dessutom kan AI hjälpa oss att lösa klimatproblemen. Och jämfört med exempelvis krig, fattigdom och migration kommer utvecklingen av AI få ännu större betydelse för mänskligt liv.
I Liv 3.0 varslar fysikern Max Tegmark om en ny och bättre värld, men varnar också för att låta AI härja fritt. Eller att försöka kontrollera den på ogenomtänkta sätt. Om mänskligheten inte aktar sig kan den reduceras till maskinbränsle eller husdjur.
Den som läst Nick Bostroms Superintelligens – som Tegmark ofta hänvisar till – känner igen alarmismen och dess rot: idén att en dag blir AI bättre än människor på att skapa AI. När detta väl inträffar kan utvecklingen skena iväg bortom mänsklig kontroll i en snabbt accelererande loop av självförbättringar.
Idén om en så kallad intelligensexplosion, ursprungligen formulerad av matematikern I. J. Good, är en central utgångspunkt i Tegmarks resonemang. Vägen dit förutspås ske etappvis: från dagens snäva AI-system, utformade för specifika syften som att spela schack, köra bil eller ställa medicinska diagnoser utifrån röntgenbilder, till generell AI, och därifrån via självförbättring till övermänsklig superintelligens.
Hur långt är vi från generell AI? Några decennier, enligt många AI-experter (Tegmark nämner år 2055 som en genomsnittlig uppskattning). Men osäkerheten är stor. Och hur ser forskningsläget ut idag? Finns det några frön till exploderande smarthet därute?
Tegmark nämner deep reinforcement learning som en synnerligen lovande (eller oroande) teknik. Metoden som är inspirerad av psykologins behaviorism bygger på att belöna och förstärka framgångsrika beteenden. På nätet finns fascinerande filmklipp som visar hur en djup förstärkningsalgoritm lär sig spela datorspel bättre än någon människa. Dessutom kan en och samma algoritm bemästra många olika spel. Härifrån lyfter Tegmark blicken och tänker sig att en förstärkningsalgoritm skulle kunna lära sig vad som helst, helt enkelt genom att ”betrakta själva livet som ett spel”.
Jag delar Tegmarks fascination inför algoritmens påhittighet och förmåga att hitta effektiva lösningar. Men kan verkligen allt läras genom belöningsmekanismer? Varför används i så fall inte förstärkningsalgoritmer inom fler tillämpningsområden? Samma algoritm som spelar Pacman kan ju inte sortera tvätt, eller översätta den här recensionen till kinesiska. Att en dator skulle kunna tillgodogöra sig godtyckliga förmågor – till exempel att utveckla AI – på samma sätt som den lär sig spela videospelstennis tycks i mina ögon långt ifrån självklart. Här hade Tegmark gärna fått förtydliga hur väl hans egen tolkning av forskningsläget överensstämmer med andra AI-experters.
I teorin finns inga hinder för generell AI – på den punkten instämmer många med Tegmark. Kanske kommer det krävas en kombination av många olika sorters algoritmer, eller metoder som vi inte är i närheten av idag. Men om AI uppnår en generell och mänsklig nivå, leder det automatiskt till en intelligensexplosion? Även här kan jag sakna en fördjupad diskussion.
Explosionshypotesen tycks förutsätta att intelligens är en allmän förmåga utan bortre gränser; att den inte är bunden till en viss sorts kropp, en viss sorts värld, en viss kultur med vissa sorters problem, utmaningar och sammanhang. Annorlunda uttryckt: Är generell intelligens – i Tegmarks tappning förmågan att uppnå komplexa mål – verkligen ett meningsfullt begrepp? Eller kan vi snarare vänta oss att AI utvecklar andra sorters tänkande – inte nödvändigtvis ”smartare” än oss i någon allmän betydelse, men väsensskilda, i bästa fall på ett intressant sätt?
Tegmarks syn på intelligens och dess hägrande acceleration är alltså diskutabel. Men den öppnar onekligen upp för tänkvärda framtidsscenarier. I sina bästa stunder är Liv 3.0 en svindlande ström av vidlyftiga resonemang som får gängse science fiction att framstå som fantasilös. Här finns visioner om AI som filmskapare, orakel och framställare av falska bevismaterial. Här finns tankar kring en fängslad AI:s lömska rymningsstrategier. Här finns diskussioner kring artificiellt medvetande, och förslag på hur en allsmäktig superintellligens kan skapa den bästa av världar genom att omfördela universums alla partiklar optimalt.
Dessvärre sänks läsnöjet av en viss pratighet med diverse självbiografiska stickspår som inte tillför ”vår tids viktigaste samtal” särskilt mycket. (Exempelvis får vi veta att filosofen David Chalmers bär en skinnjacka som Tegmarks hustru gillar så mycket att hon köper en likadan till sin make.) Dessutom används noter på ett otympligt sätt, och den svenska versionen är full av besynnerliga felöversättningar (exempel: en elektrisk krets som utför beräkningar ”mångdubblas” istället för att multiplicera).
För den som kan tolerera dessa brister erbjuder Liv 3.0 tankeväckande spekulationer om hur en framtid med icke-biologisk superintelligens kan komma att se ut, beroende på vår förmåga eller oförmåga att styra dess utveckling. Läsningen övertygar mig inte om att AI är det viktigaste vi kan prata om just nu. Men den kittlar och provocerar på ett stimulerande sätt.
