Nexus
Många gånger har jag hört att det är av historien som man förstår framtiden. Aldrig har det varit så tydligt för mig som när jag läste Nexus A Brief History of Information Networks from Stonage to AI av Yuval Noah Harari.
I Nexus väver Harari ihop hela världshistorien med vår informationshantering. Texten flyter mellan händelser i historisk tid och nutid. Mönstren växer fram, sambanden finns där överallt.
Harari är professor i historia, specialiserad på medeltiden och krigshistoria, men Nexus är inte någon klassisk historiebok utan en bok om oss, vår kommunikation och vårt samhälle.
Redan i prologen beskriver Harari två polariserade sätt att förhålla sig till information. Enligt det ena betraktelsesättet innehåller information sanningen och ju mer information vi har desto närmre sanningen kommer vi. De som tillhör motpolen bryr sig inte om om informationen är sann eller inte och ifrågasätter inte sällan om det finns en objektiv sanning. Däremot anser de att informationen i sig är viktig för den ger makt.
Med Nexus vill Harari visa att det finns ett mellanting, han skriver:
Information isn’t the raw material of truth, but it isn’t a mere weapon, either. There is enough space between these extremes for more nuanced and hopeful view of human informaton networks and of our ability to handle power wisely. This book is dedicated to exploring that middle ground.
För att vi ska förstå vad det innebär att vi numera har en maskin som kan dra egna slutsatser och självständigt fatta beslut går Harari igenom hur informationsteknologin, i dess mycket vida bemärkelse, påverkat oss som individer och samhälle från lertavlor till dagens AI.
Ett exempel är hur katolska kyrkan förändrades när de började använda radioutsändningar som nådde ut över hela världen. Påven fick en ny starkare position när han kunde tala till hela katolska kyrkan samtidigt.
Ett annat exempel är när tryckkonsten kom till Europa, vilket ledde till att fler kunde få del av samma information. Men det var inte vetenskapliga skrifter av män som Copernicus och Gallileo som fick den stora spridningen. Bestseller blev The Hammer of the Witches av en österrikare vid namn Heinrich Kramer. Den kom ut första gången 1487 och det blev sedan många utgåvor. I boken beskrev Kramer häxorna och hur de skulle avslöjas och bekämpas. Dessa (oftast) kvinnor ägnade sig åt sataniska konspirationer, sexuella orgier, kannibalism och barnamord. Harari skriver att det vore en överdrift att påstå att tryckkonsten orsakade häxjakten i Europa, men däremot spelade den en central roll i den snabba spridningen av idén om en global satanistisk konspiration. Häxprocessen ledde till att 40 000 – 50 000 oskyldiga torterades och avrättades, en del av dem var små barn. Idag är det inte via tryckpressen som dessa konspirationsteorier sprids utan via sociala medier.
Med modern teknik kan budskap färdas med en annan hastighet och kontroll utövas på en annan nivå. I Nexus berättas om Maryam, en 52-årig kvinna som tappar sin scarf när hon lyfter in kassar i sin bil. Hon får direkt ett meddelande via SMS. I meddelandet står det att hon brutit mot lagen om kravet på att bära slöja och att hon inte får köra bilen på 15 dagar. Det är ett automatiskt övervakningssystem med ansiktsigenkänning som har reagerat. Det används i Iran för att kontrollera att kvinnor bär sin huvudbonad korrekt och som direkt utmäter en påföljd för dem som missköter sig.
Är Nexus en dystopi? Nja egentligen inte. Harari ger många oroande exempel på vad som sker med hjälp av modern informationsteknologi och på vad som kan komma att ske. Samtidigt är syftet med boken inte att få oss att avstå från den, utan att välja klokt. För att kunna ta tillvara nyttan av tekniken behöver vi hantera riskerna.
En viktig del i att motverka negativa effekter är, enligt Harari, att erkänna att alla kan vara felbara och att även tekniken kan fela. Det innebär att det behöver finnas starka självrättningsmekanismer. För AI föreslår han att självständiga, starka institutioner bildas som har den funktionen och att det dessutom behövs skapas AI som kan övervaka AI.
Behovet av att kunna se allt och allas felbarhet finns i hela samhället. För en demokrati är de fria valen en viktig självrättningsmekanism, men det finns andra mekanismer som kanske till och med är viktigare. Harari nämner särskilt media, rättsväsendet och de vetenskapliga institutionerna och hur väsentligt det är att dessa står starka och fria.
När nyheterna visade bilder i höstas på parlamentsledamöter som sprang uppför trappen till parlamentsbyggnaden en våldsam och orolig kväll i Seoul, tänkte jag på vikten av starka självrättningsmekanismer. Hur betydelsefulla både den utformade ordningen och individerna var för demokratin.
När nyheterna rapporterar från USA tänker jag samma sak. Hur viktigt det är med självständiga, starka självrättningsmekanismer för att en demokrati ska vara hållbar. Men medan jag blev glad av att se bilderna från Sydkorea, blir jag sorgsen och oroad av vad som händer i USA. Grundläggande funktioner raseras, statsanställda mister sina jobb, för att de gör sitt jobb och presidenten anser sig inte bara ofelbar utan använder dessutom sin makt till att trakassera.
Det är inte något nytt att informationen påverkar våra samhällen och att informationen därför hanteras på olika sätt beroende på vad man vill uppnå. I välfungerande demokratier är önskan att informationen flödar i många oberoende kanaler och att många ska kunna ta del av informationen, processa den och fatta egna beslut. I den totalitära staten är strävan att all information ska passera ett centralt nav och att inga institutioner ska fatta självständiga beslut.
Hur kommer det påverka oss att det idag är så mycket enklare att samla och bearbeta information. Klarar demokratierna att stå emot lockelsen att med hjälp av tekniken ägna sig åt kontroll och styrning? Eller kommer totalitära stater få svårare att undanhålla obekväm information för den breda massan? Vad innebär det för vårt samhälle att sociala medier använder algoritmer för att maximera användning och uppmärksamhet. Precis som på häxprocessernas tid är det polarisering, hat och våld som får vår uppmärksamhet.
Ett av de sista avsnitten i NEXUS handlar om datakolonialism. Världen förser ett par länder med stora mängder råvara – data. Det gör dem rikare och oss andra fattigare. Det är en ny form av kolonialism där råvaran inte har getts något ekonomiskt värde, men ändå skapar enorma rikedomar.
Harari ställer frågan – vad händer när ditt land upptäcker att det är helt beroende av digitala infrastrukturer och AI-styrda system över vilka landet inte har någon kontroll.
I epilogen skriver Harari att det är en myt att the arc of history bends towards justice, det är tvärtom helt öppet åt vilket håll historien går, men så fortsätter han:
The good news is that if we eschew complacency and despair, we are capable of creating balanced information networks that will keep their own power in check.
Det är alltså vårt jobb – att med AI skapa informationsnätverk som är i balans och som kontrollerar sin egen styrka.
