Vilken schackmetafor fungerar egentligen bäst för att diskutera artificiell intelligens (AI) och dess påverkan på vår framtid? Ska man ställa den minst värdefulla pjäsen, bonden, mot Kungen eller Damen? Kungen har begränsad rörelseförmåga och taktisk betydelse men är den pjäs som ultimativt avgör matchens utgång. Damen är den överlägset mest kraftfulla pjäsen på brädet, men samtidigt kan vackra damoffer visa hur man kan betvinga motståndarens kung på andra sätt, utan damens hjälp. Helt tydligt är det i alla fall att AI innebär förändring och att schackbrädet kanske kommer att ritas om. Och förändring associerar vi till Schumpeter.

Schumpeters teorier om skapande förstörelse talar till det sunda förnuftet. Men processerna är många gånger smärtsamma. Inte minst när det är relaterat till teknologisk utveckling. Människans rädsla att maskinerna ska ta deras arbetsplatser och levebröd ifrån dem är lika gammal som den (första) industriella revolutionen. 1779 slog Edward Ludlam, bättre känd som Ned Ludd, sönder två mekaniska stickmaskiner under ett raseriutbrott. Det finns dock inget som tyder på att vandalismen var politiskt motiverad. 40 år senare blev det allvar på riktigt, när en grupp aktivister började slå sönder textilmaskiner i protest mot att de användes för att kringgå dåtidens praxis på arbetsmarknaden. Allt i Ned Ludds namn, varför de började kallas ludditer. 

På senare tid har termen ludditer mer och mer använts i nedsättande ordalag om vad som ses som teknikfientliga bakåtsträvare. Detta är inte utan ironi, då ludditerna inte protesterade mot maskinerna i sig, utan var mer arbetsrättsligt motiverade. Historien om Ned Ludd är inte heller unik. När Benjamin Franklin uppfann åskledaren protesterade kyrkan, som inte ville att högre makter skulle berövas ”himmelens artilleri”.

Frågan är om ludditerna ändå inte var något på spåren, om än 200 år för tidigt? Vad spelar det till exempel för roll om Sverige vore den mest innovativa nationen på jorden, om alla (eller de allra flesta) uppgifter utförs av maskiner i framtiden? Vi har länge kunnat följa såväl den långsiktiga, kontinuerliga innovationen inom AI som omvärldens intresse via sökningar på Google och publicerade artiklar. Under lång tid har algoritmerna blivit lite bättre varje år. För ungefär fem år sedan ökade förbättringstakten drastiskt, men utvecklingen skedde fortfarande mer i det tysta. Så plötsligt stal ChatGPT och efterföljande GPT4 allt ljus i media under våren 2023.

ChatGPT – en miljon användare på fem dagar

AI i form av ”stora språkmodeller” (LLM) finns i flera olika varianter. Det spår som OpenAI valt är Generative Pre-trained Transformers (GPT), vilket innebär vidareutveckling av deep learning som tillåter träning av modellen på större datamängder. I simpla termer har bolaget staplat transformers ovanpå varandra, vilket gjort att GPT4 är kapabel till assisterad rekursiv självförbättring. Med andra ord kan GPT4 med en liten knuff från en människa använda GPT4 för att bli mer effektiv – ett slags ränta på ränta-effekt i kapacitet. Detta har möjliggjort att klivet upp i förmåga från GPT3.5 (ChatGPT) till GPT4 är så stort – mycket större än någon på utsidan kunde förvänta.

Moore's lag fortsätter oförtrutet att hålla, beräkningskapaciteten ökar fortfarande exponentiellt. Men til syvende og sidst är denna utveckling mer linjär till sin natur, medan förbättringen av algoritmerna jämte allt mer rekursiv självförbättring är mer av exponentiell karaktär. Därtill blir allt fler saker uppkopplade, sensorteknik förbättras och datamängderna som går att träna på expanderar. Antalet uppgifter som kan utföras av maskiner kryper närmare och närmare människans kärnkompetenser. AI-forskaren Hans Moravec har beskrivit de expanderande kapabiliteterna likt en sjö som ständigt stiger och erövrar fler och fler landområden av färdigheter.

Källa: Hans Moravec

Frågan är om inte Moravec satt ”Driving” för nära sjön och ”AI design” för högt upp. Självkörande bilar syns idag längre bort än för bara några år sedan. En viktig anledning kan vara att det är svårt att hitta rätt datamängder att träna på – få av dem innehåller ovanliga men ytterst relevanta och riskfyllda händelser. Händelser som vi människor intuitivt förhåller oss till. Ett enkelt exempel är att det troligen är svårt att träna en AI på fallande träd eller ett springande vilt som plötsligt kommer i bilens väg. Som människor har vi kanske gått genom stormfälld skog som barn och sparat episodiska minnen av en hjort som springer. Antingen på Skansen eller framför jakttornet. Vi relaterar sömlöst till dessa när vi sitter vid ratten och det börjar blåsa hårt och vi ser träd böja sig för vinden. Säkert saktar vi lite på farten och är kapabla att stampa på bromsen om vi ser ett fallet träd 70 meter bort.

Anledningen att ”AI design” kanske ska placeras närmare stranden hittar vi redan nu i GPT4. Inte bara i dess (visserligen assisterade) rekursiva självförbättring utan även i dess multimodala förmåga – att till exempel utifrån en filmad skiss på en servett skriva ett program, bygga en hemsida och lägga upp den på internet. Därmed kanske världen kommit närmare singulariteten – en bred, stark och generaliserad AI (AGI). Vissa inflytelserika individer varnar för att så kallad stark AI kan komma bli den sista uppfinningen mänskligheten gör.

Att se människan förlora mot maskiner är i sig inget nytt. Redan 1997 slog IBMs Deep Blue världsmästaren i schack, Garry Kasparov, i en matchserie som gav eko över världen. Det som gav IBMs superdator möjlighet att betvinga Kasparov var dock inte intelligens som vi känner den, utan dess enorma beräkningskraft. Så i hot-mot-mänskligheten-termer var det närmast betydelselöst. 

Intelligence amplification

Ungefär tio år senare hände något betydligt mer intressant. Kort efter att Kasparov förlorat mot Deep Blue startades något som kallas Freestyle Chess - schackturneringar där deltagarna fick ta hjälp av datorer. I en turnering som anordnades av Playchess ställde såväl superdatorer som mänskliga stormästare och amatörer upp. Det intressanta var att stordatorn, trots en beräkningskapacitet som vida översteg Deep Blues, inte vann. Inte heller vann någon stormästare, trots hjälp av (mer ordinära) datorer. Istället vann ett lag med två amatörer, hjälpta av vanliga bärbara datorer och en smart process för hur de skulle fördela arbetet mellan människans strategiska sinne och datorns beräkningskapacitet.

Här gick det således att ställa upp följande formel:

Svag människa + svag dator + stark process > stark dator > stark människa + svag dator + svag process

Kan Svart vinna det här partiet? (Vits senaste drag Kg2-h2)

Källa: privat foto, screen print från ChessTime

Kanske går detta att applicera i en vidare mening? Redan långt före Deep Blue och Freestyle Chess började bland andra JCR Licklider formulera tankar som vänder på begreppet artificial intelligence och istället tala om intelligence amplification. IA i stället för AI. Enligt det här tankesättet kommer maskinerna aldrig att ta över helt, då människan kommer fortsätta sätta målen och ge processer (automatiserade eller inte) mening. För vem ska maskinerna utföra alla dessa uppgifter, om inte för oss? Vi ser liknande exempel inom till exempel radiologi, där en AI fortfarande gör fler fel än en människa i diagnosticering utifrån röntgenbilder. Men om en människa tar hjälp av samma AI blir resultaten drastiskt bättre än om människan jobbar själv.

GPT4 ser ut att kunna att närmast kunna revolutionera programmering, fast knappast genom att ersätta programmerare. Tvärtom hjälper GPT4 mjukvaruutvecklare att bli mer effektiva och produktiva. Igen, människor stärkta genom IA snarare än sänkta av AI. Detta är en anledning till att vi är förtjusta i mjukvarubolag, som förutom att de ligger i framkant för IA också ofta har mycket skalbara affärsmodeller. Vi är själva i hög grad hjälpta av maskiner i våra investeringar och hoppas kunna ytterligare stärka vår process i framtiden.

Detta leder oss tillbaka till ingressens fråga om vi kommer att vara bönder eller damer (eller möjligen kungar) på morgondagens schackbräde. Givet framstegen inom AI och de möjligheter som öppnas för vidare användningsområden och ökad produktivtet ser vi goda möjligheter för mänskligheten att komma närmare damens styrka än bondens. Givet att det trots allt finns en existensiell risk med AI fungerar även metaforen där vi är kungar, men då ställs matt av en AGI i ett framtida scenario. Även vi skulle föredra att mer resurser investerades i det man kallar alignment, olika sätt att minimera risken att AGI landar i incitament som är skilda från våra. Will it be a nice god?