HUR vi automatiserar får konsekvenser för vår framtid

boeing_787-8_n787ba_cockpitAtt vi lever i automatiseringens tidevarv har väl inte undgått någon. Är det inte gräsklipparna som skall klippa gräset själva så är det bilarna som skall köra av sig själva. För att inte tala om hur mycket som redan är automatiserat i fabriker och flygplan. Men vad får egentligen automatiseringen för konsekvenser? Vad händer med våra mänskliga förmågor när maskinerna manövrerar sig själva?

Och vad som kanske blir ännu mer intressant: vad händer när maskinen hamnar i ett svårt läge och plötsligt bestämmer sig för att lämna tillbaka styrningen till en människa som knappt har någon erfarenhet utan bara har åkt med?

Guardian publicerade häromdagen ett längre editerat utdrag från Tim Harfords nya bok Messy där dessa frågeställningar lyfts upp på ett bra sätt. Problemet är egentligen inte nytt och kallas för automatiseringens paradox:

The paradox of automation, then, has three strands to it. First, automatic systems accommodate incompetence by being easy to operate and by automatically correcting mistakes. Because of this, an inexpert operator can function for a long time before his lack of skill becomes apparent – his incompetence is a hidden weakness that can persist almost indefinitely. Second, even if operators are expert, automatic systems erode their skills by removing the need for practice. Third, automatic systems tend to fail either in unusual situations or in ways that produce unusual situations, requiring a particularly skilful response. A more capable and reliable automatic system makes the situation worse.

Automatiseringens paradox gäller inte bara robotar utan all sort automatisering. Den dyker upp nästan överallt där vi människor behöver förhålla oss till system av olika slag. Oavsett om det handlar om digitala system eller byråkratiska regelverk. Vi litar ofta på dem så mycket att vi slutar tänka själva. Detta innebär förstås att vi inte förstår när systemets konsekvenser blir orimliga eller inte längre fungerar som det skall.

Problemet med nästan alla vår mänskliga förmågor och färdigheter är att vi måste träna för att inte förlora dem. Oavsett om det gäller våra förmågor att köra bil eller göra moraliska omdömen. Slutar vi använda förmågorna och låter maskiner eller regler ta över blir våra egna förmågor snabbt tillbakabildade.

HUR vi designar våra tekniska system så att vi underhåller människors egna förmågor är alltså viktigt om vi inte vill bygga oss till en större kris längre fram.

Det mesta av automatiseringen runt omkring oss idag tar väldigt sällan hänsyn till att underhålla människors förmågor. Konsekvensen om vi inte börjar tänka annorlunda är att systemen runt omkring oss kommer att bli allt bättre. Samtidigt kommer vi människor att förlora våra förmågor och när de allt bättre systemen trots allt till slut fallerar riskerar det att få enorma konsekvenser.

Lästips: Guardian 11/10 2016  Crash: how computers are setting us up for disaster