Makten över besluten

Besluten flyttar in i datorn

I kapitel 10 läste du om betygsalgoritmen i England och Försäkringskassans modell. De var inga undantag. Svenska myndigheter har låtit datorer fatta beslut i flera decennier. År 2019 fattade 13 statliga myndigheter 148 miljoner beslut om privatpersoner och företag, och 121 miljoner av dem var helt automatiserade. Programmen följde regler som människor hade skrivit, och inget av dem var AI. Det visade Riksrevisionen, som granskar staten åt riksdagen. Besluten hade blivit effektivare och kom snabbare, men myndigheterna kontrollerade inte tillräckligt i efterhand om de blev rätt.[2]

Sedan 2018 står det i förvaltningslagen att ett beslut kan fattas av en tjänsteman, av flera tillsammans eller automatiserat.[3] Ett automatiserat beslut fattas av ett datorsystem, utan att någon människa prövar just det ärendet. Ett beslutsstöd föreslår, sorterar eller räknar fram något, och sedan bestämmer en människa. Försäkringskassans modell i kapitel 10 var ett beslutsstöd. Men om handläggarna nästan alltid gör som systemet föreslår är det i praktiken systemet som styr.

Kommunerna saknade länge lagstöd för att fatta automatiserade beslut. Först i juli 2022 ändrades kommunallagen.[4] Trelleborgs kommun gick före. År 2017 började kommunen, som den första i Sverige, låta ett program fatta beslut om försörjningsstöd. Efter ett första möte med en handläggare söker man varje månad på nätet, och då går programmet igenom ansökan efter regler som leder till ja eller nej. Kommunen döpte programmet till Ernst och kallade det en digital medarbetare.[5] Bakom namnet finns ett program som hämtar uppgifter från bland annat Skatteverket och Arbetsförmedlingen och jämför dem med reglerna.[6] Antalet handläggare för försörjningsstödet minskade från elva till tre.[7]

Trelleborg och kommunens jurister ansåg att det var tillåtet, men nästan alla andra som bedömde frågan ansåg motsatsen. När utomstående till slut fick granska programmets källkod, alltså instruktionerna som styr det, visade den sig dessutom innehålla personuppgifter om hundratals människor.[5] Vem fick mer att säga till om när Ernst kom, och vem fick mindre? Det är en fråga om makt.

Rätt att förstå och säga emot

I Sverige ska den offentliga makten utövas under lagarna. Reglerna för hur myndigheter fattar beslut gäller därför också när ett program gör jobbet. Tillsammans ger de rättssäkerhet, ett skydd mot att bli godtyckligt eller felaktigt behandlad av staten.

De tre första skydden står i förvaltningslagen.[3] Det fjärde, offentlighetsprincipen, står i tryckfrihetsförordningen, som är en av Sveriges grundlagar.

Skolplaceringen i Göteborg visar varför skydden behövs. En enda felaktig regel drabbade många barn på en gång, men varje familj fick överklaga för sig, och en förälder stämde staden. Föräldrar och forskare kom senare fram till att en felprogrammerad algoritm hade gjort placeringarna utan att någon människa kontrollerade dem.[1]

Robodebt var ingen AI, utan ett program som jämförde siffror. Men det vände på rättssäkerheten: det var inte staten som behövde visa att någon var skyldig pengar, utan medborgaren som behövde visa att hon inte var det.

När appen är chefen

Makten över besluten finns också på jobbet. När en app eller ett datorsystem fördelar arbetet, mäter hur det går och påverkar vem som får fortsätta jobba kallas det algoritmisk arbetsledning. EU:s arbetsmiljöbyrå beskriver det som system som samlar in uppgifter om de anställda medan de arbetar, och använder dem för beslut som fattas helt eller delvis automatiskt.[9]

Ett matbud får sina körningar från en app, som också kan stänga av kontot. I ett lager kan skannrarna som läser av paketen också mäta de anställda. I december 2023 fick Amazons lagerbolag i Frankrike 32 miljoner euro i böter av landets dataskyddsmyndighet, som motsvarar IMY i Sverige. Skannrarna larmade om en anställd inte hade skannat något på tio minuter, och om ett paket skannades för snabbt, på under 1,25 sekunder. Myndigheten menade att de anställda kunde behöva förklara varje paus.[10] Amazon höll inte med. Företaget sa att systemen finns för säkerhet, kvalitet och effektivitet, och överklagade beslutet.[11]

Vem har makten här? Företaget ser varje skanning och varje paus, men den som jobbar ser sällan systemets regler. Skillnaden i information är en skillnad i makt.

EU har beslutat om nya regler för dem som arbetar via digitala plattformar, till exempel matbud och taxiförare. Europaparlamentet röstade ja i april 2024, och medlemsländerna ska ha infört reglerna senast 2 december 2026.[12] Här är några av dem:

• Anställd eller inte? Om plattformen styr och kontrollerar arbetet ska den som jobbar räknas som anställd, om inte plattformen kan visa motsatsen.
• Rätt att veta. Plattformen ska berätta vilka automatiska system som övervakar arbetet och fattar beslut.
• Gränser för övervakning. Plattformen får inte behandla uppgifter om hur någon mår känslomässigt eller psykiskt, eller om privata samtal.
• En människa beslutar. Ingen ska kunna bli av med jobbet eller kontot genom ett beslut som en algoritm har fattat på egen hand.

I Sverige föreslog en statlig utredning i januari 2026 en ny lag om plattformsarbete.[13] Myndigheter och organisationer fick tycka till om förslaget, och de tyckte olika. Transportarbetareförbundet, som organiserar bland andra matbud, stödde förslaget och skrev att det följer direktivet noga.[14] Plattformsföretaget Uber varnade för att Sverige skulle gå längre än direktivet kräver, eftersom det enligt företaget skulle ge plattformarna en nackdel i konkurrensen.[15] Hur lagen till slut blir bestämmer riksdagen.

Facken har också egna verktyg. I februari 2021 fick Foodoras matbud i Sverige ett kollektivavtal, ett avtal med facket om lön och villkor.[16] LO har skrivit till regeringen att de anställda och deras fack måste få en central roll när tekniska system införs på arbetsplatserna. Enligt LO ingår det redan i reglerna om information och förhandling, bland annat i medbestämmandelagen, MBL.[17]

Vem bestämmer reglerna?

Reglerna för AI bestäms i en demokratisk process. EU:s lagar föreslås av EU-kommissionen och beslutas av Europaparlamentet, som väljs av medborgarna, tillsammans med ministerrådet, där medlemsländernas regeringar sitter. Men många försöker påverka på vägen. I kapitel 10 såg du att kraven på högrisk-AI i AI-förordningen sköts upp till december 2027. Bakom den ändringen låg en politisk strid.

Tabellen bygger på nyhetsartiklar, organisationernas egna texter och IMY.[18][19][20][21][22][23] När företag och organisationer försöker påverka politiker inför ett beslut kallas det lobbying. Det är en tillåten del av demokratin, och fackförbund och människorättsorganisationer lobbar också. Men alla har inte samma resurser. Fråga därför vems röst som hörs mest, och varför.

Makt handlar också om insyn. Efter barnbidragsskandalen, som du läste om i kapitel 10, startade Nederländerna i december 2022 ett offentligt register över de algoritmer som myndigheter och kommuner använder. Det var frivilligt att registrera. Kommunerna lade in flest algoritmer, medan regeringens ministerier var långsammare.[24] I Sverige kan vem som helst begära ut myndigheternas handlingar med stöd av offentlighetsprincipen, också avtal om datorsystem.

Argumenten för och emot automatiserade beslut bygger ofta på olika värden. Riksrevisionen fann att automatiseringen hade gjort besluten snabbare och till viss del rättssäkrare.[2] Robodebt visar vad som kan hända när effektiviteten får gå först. Vilket värde som ska väga tyngst är en politisk fråga, och därför en fråga för demokratin.

Slutuppgift: granska makten över ett beslut

Välj ett av två sätt.

• En samhällsanalys av ett verkligt fall. Välj ett fall från den här texten eller från kapitel 10, till exempel skolplaceringen i Göteborg, Ernst i Trelleborg, Robodebt, Amazons lager i Frankrike, betygsalgoritmen i England eller Försäkringskassans modell. Du kan också välja ett eget fall som läraren godkänner. Analysera fallet med de fem frågorna nedan. Redovisa som en text på 400–600 ord eller muntligt i fyra till fem minuter.
• En debattartikel. Ska en svensk myndighet få använda AI för ett visst slags beslut? Välj själv vilket, till exempel vem som får försörjningsstöd, vilka deklarationer som ska kontrolleras eller vem som får en skolplats. Ta ställning redan i inledningen. Ge minst två argument med exempel ur verkligheten, bemöt minst ett motargument och avsluta med ett konkret förslag. Skriv 400–500 ord.

Fem frågor till ett beslut:

1. Aktörer. Vilka var inblandade, till exempel myndigheter, företag, politiker, de som berördes, journalister, fack och domstolar?
2. Makt. Vem fattade besluten, och vem byggde systemet? Vem fick mer makt och vem fick mindre?
3. Rättigheter. Vilka rättigheter berördes? Kunde de som berördes förstå beslutet och säga emot?
4. Konsekvenser. Vad blev följderna för enskilda människor och för samhället? Vem upptäckte felen, och vad hände sedan?
5. Förslag. Vad borde göras annorlunda, och vem har makt att göra det?

Använd minst två källor och skriv vilka de är. I debattartikeln är frågorna ett stöd för argumenten. Håll isär det som har hänt och det du tycker.