Etiska dilemman i vår tid 3: Vilka blir vi när våra val är färdigprogrammerade?

När algoritmer avgör hur en självkörande bil ska agera, så låser vi etiken i dåtiden. Skribenten och ingenjören Christina Gratorp funderar över den tekniska utvecklingens betydelse för människan. Lyssna på alla avsnitt i Sveriges Radio Play. ESSÄ: Detta är en text där skribenten reflekterar över ett ämne eller ett verk. Åsikter som uttrycks är skribentens egna. Ursprunglingen publicerad den 15 oktober 2019. Vem är det som kör egentligen? frågar Musse Pigg sina medresenärer i Walt Disneys kortfilm Mickey’s Trailer från 1938. Det är ju jag som kör, svarar Janne Långben med sitt sorgfria höhö, medan bilens övergivna förarsäte gapar tomt genom husvagnens vindruta. Varje gång jag läser om utvecklingen av självkörande bilar hör jag den frasen som ett eko i min skalle. Vem är ansvarig om ingen håller i ratten, och vad innebär etik när tekniken fattar besluten åt oss? När vi bara följer protokollet. Ur ett samhälleligt perspektiv tycks protokollet utgöra en modern dygd. I effektiviseringens namn förlitar vi oss i allt större utsträckning på algoritmiserade beslut, i dag realiserade i datorprogram, där socialarbetaren, handläggaren eller juristen enkelt kan trycka på en knapp för att få fram ett beslut för sitt ärende. Vem får bostadsbidrag, hemtjänst eller böter? Besluten finns i ökande grad inkodade i programvaror utvecklade av tekniker, långt ifrån de verksamheter som utgör vårt sociala skyddsnät och de institutioner som vårt gemensamma samhälle vilar på. Om den globala trenden håller i sig innebär det att inrättningar som socialkontoret och åklagarmyndigheten på sikt inte behöver befolkas av socionomer och jurister utan kan reduceras till platser där någon trycker på en knapp. Möjligheten att tolka lagar och regelverk utifrån nya samhälleliga villkor försvinner – morgondagens beslut baseras på gårdagens föreställningar. För det är just vad ett algoritmiserat beslut innebär. Till skillnad från tekniska hjälpmedel som ett räkneprogram eller en vädersimulator, är program som används för att svara på hur vi ska agera något som binder oss till ett beteende. Om vi med teknikens hjälp kan förutspå vilken dag det kommer regna bestämmer det ingenting åt oss. För bonden kan regnet vara välkommet, för semesterfiraren troligtvis inte. Datorprogrammet Compas däremot, som används i domstolar i USA för att förutsäga vem som med stor sannolikhet kommer att bli en återfallsförbrytare, fungerar determinerande. Det knyter inte bara en individs öde till andras beteenden i en redan passerad dåtid, utan avskaffar också medmänniskans blick på individen som just sin egen. För den åtalade vars livsöde står på spel innebär det både att kategoriseras utifrån föreställningar om grupptillhörighet, som klass, kön och etnicitet, och samtidigt att berövas synen på sin domare som en egen, etisk instans. Överfört på en större del av samhället är frågan vilka vi blir för varandra om vi inte längre kan betrakta våra medmänniskor som etiska aktörer. Vem är det jag möter om det inte är hon själv som agerar och vad gör det med min syn på henne? Och vad innebär det i sin tur för min egen förmåga att handla etiskt att betrakta min nästa som förutbestämd? Den moderna byråkratins målrationella tänkande – att bara utföra de uppgifter vi åläggs – var enligt sociologen Zygmunt Bauman en förutsättning för andra världskrigets terror. Försvaret för de algoritmiserade besluten utgår ofta från argument om rättssäkerhet och likabehandling. Genom att eliminera den så kallade mänskliga faktorn ska inga fördomar slingra sig in, ingen behandlas orättvist. Den juridiska lagen upphöjs till naturvetenskap och ges samma status som gravitationen eller ljusets konstanta hastighet – som om lagens ursprung var en objektiv...