Vi lever i en tid då AI och smarta algoritmer håller på att förändra vårt samhälle. För varje dag tas fler beslut tas av datorer – maskiner med förmågor som överstiger de mänskliga. Tack vare att de kan sammanställa otroligt stora datamängder och allt snabbare lär sig tolka mönster utan att påverkas av ovidkommande faktorer tar de korrekta beslut i en allt snabbare takt och i en ofattbar skala.
Datorerna verkar helt enkelt att vara på väg att bli bättre än oss inom nästan alla områden.
Så varför bekymrar vi människor oss då med att ta beslut? Varför debatterar vi frågor som datorerna kan räkna ut svaret på? Kommer vi att hålla debatter i riksdagen om datorerna redan har en korrekt analys om konsekvenserna? Har vi ens politiker i framtiden om datorer redan innan valet kan räkna ut vad vi kommer att rösta på?
Håller politiken på att spela ut sin roll när datorerna blir mycket bättre än oss på att räkna ut den bästa lösningen?
Eller är det snarare tvärt om?
Det finns åtminstone tre anledningar till att vi i det framväxande algoritmsamhället istället kommer att få ett ökat fokus på politik och governance.
Inflytelserika algoritmer formar samhället
När algoritmerna får större spridning blir baksidorna tydliga. En konsekvens är att systemen inte alls är så objektiva som vi antagit. Istället blir det pinsamt tydligt hur mycket av våra värderingar och fördomar som blir hårdkodade i systemen.
I boken Weapons of Math Destruction och i sin blogg mathbabe lyfter matematikern Cathy O’Neil fram en rad konsekvenser där algoritmer får oönskade och obehagliga konsekvenser för riktiga människor. Det handlar om allt från hela grupper av lärare som felaktigt får sparken p g a av datoriserade mätsystem, grupper av jobbsökande som aldrig får komma på intervju till svarta som nästan aldrig blir frisläppta mot borgen eller får permission från fängelset. Kärnan i problemet är enligt O’Neil den sammanlagda effekten av vår blinda tro på maskinernas felfrihet, systemens ogenomskinlighet och den skala algoritmerna implementeras i.
I ett samhälle som allt mer formas av algoritmer är vår blinda tro och benägenhet att gömma algoritmerna i svarta lådor ohållbart. Om inte förr så den dag några större och högljudda grupper kommer att drabbas kommer vi som samhälle agera. Då kommer vi att tvinga upp de svarta lådorna och ha en diskussion om hur vi vill att algoritmerna skall fungera och vilka begränsningar de skall ha.
Och den diskussionen är en politisk diskussion om vilket samhälle vi vill ha.
Vad vi behöver förstå är att i ett samhälle som formas av institutioner och dess tjänstemän är det många led mellan de politiska besluten och de effekter de får för medborgarna. I ett samhälle där institutioner och tjänstemän ersatts av algoritmer kopplas samhällseffekterna direkt ihop med de politiska besluten.
I ett automatiserat samhälle blir fördelningen huvudproblemet
En annan effekt av algoritmernas frammarsch är den accelererande automatiseringen. Om den framtida produktionen i huvudsak sköts av robotar kommer varor och tjänster att kunna produceras i enormt mycket större kvantiteter och till en bråkdel av dagens energiåtgång och kostnad. En konsekvens är att produktiviteten kommer att sticka i höjden. En annan är att eftersom allt färre jobbar i fabrikerna kommer allt färre att få lön. Och om medborgarna får allt mindre pengar kommer de att konsumera mindre. Vilket i sin tur gör att det finns färre som har råd att köpa varorna som produceras.
Under lång tid har det räckt att samhället fokuserat på sin produktivitet. Bara produktiviteten var hög fördelades automatiskt överskottet via lönen till medborgarna och via löneskatten till samhällets institutioner som kunde finansiera vård, skola och omsorg.
Om människor i framtiden inte längre arbetar med produktion förlorar lönearbetet sin fördelande roll. Då försvinner också sambandet mellan enskilda verksamheters produktivitet och samhällets utveckling i stort.
Det är många som pekat ut detta på olika sätt. Då och då är det några som också lyfter upp diskussionen på en övergripande samhällsnivå: Yuval Harari i Homo Deus, W Brian Arthur i McKinsey artikeln Where is technology taking the economy? och Economist-journalisten Ryan Avent i boken Stabilitetsillusionen. Harari förutspår t ex i föredrag och intervjuer runt boken framväxten av en stor klass av ”icke-användbara” medborgare – inte helt olik den arbetarklass som formade 1900-talets politiska agenda.
Istället för att fokusera på produktiviteten – bruttonationalprodukten – så behöver framtidens samhälle ha sitt fokus på fördelningsproblemet. Och principerna för ett samhälles resursfördelning kan aldrig vara ett problem för ingenjörer, investerare eller enskilda företagsledare. Så länge vi har nationalstater som hålls samman av politiska krafter är fördelningen i av överskottet i högsta grad en politisk fråga.
Strukturella skiften kräver ingrepp av regeringar
Den tekniska utvecklingen ökar i hastighet och har återigen försatt oss i ett tekno-ekonomiskt strukturskifte. En av de mest namnkunniga forskarna runt hur samhällsutveckling formas av den tekniska utvecklingen heter Carlota Perez. Hon har i många år fokuserat på dessa faser beskriver dagens situation som en övergångsfas när den digitala teknologins påverkan på samhället övergår från en period av utveckling till en period av etablering.
Den ekonomiska, sociala och politiska turbulensen vi just nu ser omkring oss är enligt Perez tydliga tecken på detta. Och det är inte första gången en sådan övergång inträffar i historien. Enligt Perez är det den femte sedan industrialiseringen startade på 1700-talet. (För att läsa lite mer om hennes tankar kan man t ex läsa transkriberingen av Perez föreläsning på Drucker forum i november 2017).
Slutsatsen av att vi befinner oss i ett skifte mellan de två faserna utveckling och etablering är att vårt gemensamma fokus nu behöver skifta. Både kapital, arbete och tankekraft behöver riktas om från att skydda det gamla till att bygga de nya strukturerna inför framtiden. Därför behöver vi forma ett nytt framtidsinriktat sammanhang där samarbetet mellan regering, samhälle och företag leder till att 1+1 blir 3. En riktning som leder bort från den avtagande marginalnytta vi ser i den inbromsande industriella logiken.
Och det är, enligt Perez, i sådana övergångsskede regeringar har en nyckelroll. Genom att staka ut nationella mål och förändra regelverken så att kapitalflöden, investeringar, infrastrukturer och innovationer riktas mot framtiden kan regeringar bryta den destruktiva dragkampen staka ut den gemensamma vägen mot framtiden.
Senast detta hände var efter förra övergångsturbulensen som bl a resulterade i två världskrig. Då tog regeringar stafettpinnen och drev fram en vision om det goda samhället – ett välfärdssamhälle som var baserat på en köpstark medelklass. Denna idé enade de västerländska samhällena och resultatet blev den största ekonomiska tillväxten i mänsklighetens historia.
Att komma överens om och formulera den nya riktningen där samhällets krafter samverkar inför framtiden är en politisk fråga. En fråga som varken kan lösas på gräsrotsnivå eller av enskilda företag. Den kan bara formas av att ett övergripande politiskt ledarskap tar sin nyckelroll i övergången mellan samhällets olika faser.
Behovet av en ny politisk era är tydligt – men var börjar vi?
De finns självklart fler än dessa tre anledningar till varför politik idag är viktigare än någonsin.
- Eftersom vi bygger in värderingar och fördomar i algoritmerna krävs en politisk diskussion runt hur dessa utformas och används
- I ett automatiserat samhälle är inte produktionen det stora problemet – utan hur överskottet fördelas – vilket är en politisk fråga
- En tekno-ekonomisk strukturomvandling behöver vägledas av nya politiskt formade visioner och regelverk som gjuter olja på vågorna och samordnar krafterna mot framtiden
Tyvärr verkar vi förblindas den ständigt pågående förändringen vi känner att vi drabbas av. För vissa känns det som att framtiden redan är här. Andra känner sig redan bortkopplade från utvecklingen. Att dagens politiska system inte verkar fungera speciellt bra och dessutom verkar stå inför stora utmaningar gör ju inte situationen bättre.
Men de utmaningar vi har kräver nu mer diskussion och mer politik än på länge.
Den centrala frågorna måste därför bli:
- Hur odlar vi samtalet om vilket samhälle vi vill ha?
- Hur ser vi som samhället till att nya fungerande politiska strukturer och ett insiktsfulla, modiga och handlingskraftiga politiska ledare växer fram?
Måste det, liksom förra gången vi var i ett strukturellt skifte, krävas miljontals dödsoffer i ett världskrig? Eller kommer framväxten av en stor protesterande samhällsklass att bryta ryggraden av dagens politiska system? Eller kommer övergångens motsättningar och förvirring att leda till totalitära stater som löser problemet genom digital diktatur. Eller är krafterna i algoritmerna och plattformarna så starka att våra samhällen kommer att brytas upp i oberoende stadsstater, företagskonglomerat och andra sorter plattformar som tar hand om sig själva och de sina?
Eller ser vi en intelligentare väg där vi omformar våra samhällen genom att världens medborgare samtalar oss fram till hur vi skall gå till väga?
De nya kommunikationstekniken öppnar upp för ett gemensamt samtal mellan människor på ett sätt som är unikt i mänsklighetens historia. Samtidigt innebär den allt snabbare teknikutvecklingen att situationen snabbt blir allt mer akut.
Och som humanist hoppas jag definitivt på att vi kan denna gång kan visa att vi lärt oss något och hantera situation genom att prata.
Så var börjar vi??