Sommaren 2020 ställdes proven in i England på grund av pandemin. I stället räknade en algoritm fram betygen. När eleverna öppnade sina resultat hade nästan fyra av tio betyg blivit lägre än lärarnas bedömning.
Modellen var ingen avancerad AI, utan en statistisk . Men frågan är densamma: vem får ett system bestämma åt, och vad händer när det blir fel? Frågan gäller allt från vem som får svara på dina meddelanden till lagar i hela EU. Och du kan påverka svaret.
Sex år senare rättar datorer elevers prov på riktigt, och det går att se vad som händer när människor kontrollerar dem.
Föreslå, fråga eller göra?
Mitt liv
Du låter din AI svara på vissa meddelanden när du tränar, pluggar eller bara inte orkar vara tillgänglig.
Den har dina gamla meddelanden att gå efter och svarar ungefär som du själv skulle ha gjort.
Du får mer tid för annat.
Var går din första gräns?
Tänk själv först. Skriv, prata med en kamrat eller anteckna på papper innan du öppnar fortsättningen.
Läs vad som händer nästa dag
Nästa dag skriver en kompis:
”Tack för igår. Jag har inte känt mig så förstådd på länge.”
Du har ingen aning om vad kompisen och din AI pratade om.
När du läser konversationen ser du att AI:n faktiskt svarade väldigt bra.
Vill du behålla samma tillåtelse?
Jämför med din första tanke. Du behöver inte ändra dig. Om du behåller gränsen, förklara varför den fortfarande fungerar.
En fråga att prata vidare om: berättar du för kompisen att det var AI:n som svarade? Spelar det någon roll att svaren var bra?
Pröva din gräns: vad ska assistenten få göra?
AI kan göra mer än att ge dig ett svar. En kan också utföra handlingar, till exempel skicka ett meddelande. Då behöver tjänsten styra vilka handlingar agenten har tillåtelse att utföra.
Här är tre möjliga inställningar i den påhittade tjänsten. De ändrar vem som kan trycka på skicka och när.
| Inställning | Vad händer med svaret? |
|---|---|
| Bara föreslå | AI skriver ett utkast. Du kan ändra det och skickar det själv. AI har ingen möjlighet att skicka. |
| Fråga först | AI visar det exakta meddelandet och mottagaren. Tjänsten låter AI skicka först när du har godkänt just det meddelandet. |
| Gör enligt regel | AI får skicka vissa slags svar utan att fråga varje gång, inom de gränser du har valt. |
Du kan också välja att inte ge assistenten tillgång till dina meddelanden alls.
Gör din gräns till en regel
Pröva din regel mot samtalet med kompisen. Tänk också på vad kompisen behöver få veta om vem som svarar.
Att skriva ”fråga mig först” i en prompt är inte samma sak som att tjänsten kräver ditt godkännande för att kunna skicka. En teknisk spärr begränsar vad agenten kan göra, även om den tolkar instruktionen fel.
Det är därför skillnaden mellan att fråga i prompten och att ha en teknisk spärr spelar roll. En instruktion kan tappas bort. En agent som inte har behörighet att radera kan inte radera. Hur långt agenterna har kommit, och varför många forskare följer dem noga, kan du läsa om i kapitel 12.
Ditt utrymme att välja kallas . Det kan växa när du slipper jobb som tar tid från annat. Det kan krympa när ett system gör val som är svåra att upptäcka eller ändra. Du behöver inte välja samma gräns för allt.
Bättre för vem?
Ett system behöver ett mål. Men målet kan bli uppfyllt medan det som betyder något blir sämre.
Tänk dig att en trafikplanerare låter ett AI-stöd föreslå hur bussarna kan användas bättre. Den sista bussen på kvällen har få resenärer. Om den tas bort stiger genomsnittet per buss.
När ett genomsnitt stiger
Samma påstigningar på de två kvarvarande avgångarna antas i båda rutorna. Ingen ersättningstur eller ny resa på den andra linjen ingår.
Genomsnittet per kvarvarande avgång ökar i räkneexemplet. Summan på de visade turerna minskar. Figuren säger inte om fler människor kan resa, om den sena hemresan fungerar på annat sätt eller om fordon och personal kan flyttas.
Vad visar siffrorna?
Kontrollera uträkningen i figuren. Fundera sedan på vad den sista meningen påstår.
Kvällsbussen · Påhittat exempel
Vem ansvarar längs vägen?
AI-stödet kan föreslå en ändring. Följ sedan frågorna från förslag till beslut.
- Förslag
AI-stödet föreslår
Ta bort avgången 21.10.
- Granskning
Vem kontrollerar underlaget?
Vilka resenärer och behov syns i siffrorna? Vad saknas?
- Beslut
Vem får säga ja eller nej?
Vem har ansvar för att behålla bussen, ändra förslaget eller genomföra det?
- Om det blir fel
Vem kan ändra beslutet?
Vart kan den som behöver kvällsbussen vända sig och få ett svar?
När systemet pekar ut någon
”En människa fattar beslutet” låter tryggt. Men det räcker inte om människan inte kan se varför systemet pekade ut någon. I Nederländerna anklagades tiotusentals föräldrar felaktigt för bidragsfusk. En riskmodell som bland annat tog hänsyn till om man var nederländsk medborgare pekade ut vilka som skulle granskas, och handläggarna fick inte veta varför en ansökan fick hög poäng.[5] Skandalen fick regeringen att avgå i januari 2021.
Vad behöver människan kunna göra?
Tänk dig att du ska granska det systemet har föreslagit innan beslutet går iväg.
Vad säger lagen?
EU:s delar in AI efter hur stor risk den innebär. En del är förbjudet, en del räknas som och får hårdare krav, och det mesta är tillåtet med vissa regler.[6]
| Sedan eller från | Regel |
|---|---|
| 2 februari 2025 | Förbjudet att använda AI som tolkar människors känslor i skolan, utom av medicinska skäl eller säkerhetsskäl. Förbjudet med AI som manipulerar eller utnyttjar att någon är ung. |
| 2 augusti 2026 | Du ska få veta när du pratar med en AI, om det inte är uppenbart. Den som gör deepfakes med AI i sitt arbete, till exempel ett företag, en tidning eller någon som tjänar pengar på sina klipp, ska tala om att de är AI-gjorda. |
| 2 december 2026 | Förbjudet med AI-tjänster som gör nakenbilder av verkliga personer utan deras samtycke. |
| 2 december 2027 | Hårdare krav på AI som används för antagning, bedömning av elever och övervakning av prov. Samma sak för AI som sorterar jobbansökningar. |
Tidsplan enligt IMY, september 2026. Kraven på högrisk-AI sköts upp 2026 från augusti 2026 till december 2027.
Kravet att märka deepfakes gäller inte det du gör helt privat.[7] Men att sprida en falsk bild av någon kan ändå vara ett brott, som du läste om i kapitel 6.
Det finns också regler i dataskyddsförordningen. Om ett viktigt beslut om dig fattas helt automatiskt har du rätt att få veta det, att få beslutet granskat av en människa och att invända mot det.[8]
Tillåtet, högrisk eller förbjudet?
Tänk dig att de här systemen används i en skola i Sverige hösten 2026.
En kamera i klassrummet läser av elevernas ansikten för att se vem som är uttråkad.
En chattbot på skolans webbplats svarar på frågor om matsedeln.
Ett AI-system bedömer elevernas uppsatser och föreslår betyg.
Ett AI-system övervakar eleverna under ett digitalt prov för att upptäcka fusk.
En elev använder AI för att få förklaringar när hen pluggar.
Pröva själv: skriv en regel
Unga har påverkat förut. Eleverna i England fick sina betyg ändrade efter fyra dagar av protester. Du kan också vara med och bestämma, till exempel om vilka regler som ska gälla för AI i din skola.
En regel för AI i din skola
Skriv ett förslag till regler som elevrådet skulle kunna ta med till rektorn. Pröva sedan förslaget mot ett fall: skolan vill börja använda ett AI-system som föreslår vilka elever som behöver extra stöd.
Testa dig själv
Svara utan att titta i texten. Det är när du plockar fram det du har läst som det fastnar. Ditt första svar räknas.
Fråga 1 av 5Du låter en AI-agent städa i din kalender och skriver i chatten: ”Ta aldrig bort något utan att fråga mig först.” Vad skyddar dig bäst mot att något försvinner?
Fråga 2 av 5En app för läxhjälp mäts på hur många uppgifter eleverna blir klara med. Efter en uppdatering visar appen svaret direkt, och antalet klara uppgifter fördubblas. Vad är rimligast att säga?
Fråga 3 av 5En kommun låter ett system föreslå vilka ansökningar om bidrag som ska kontrolleras extra. En handläggare godkänner listan varje morgon, men hinner bara några sekunder per namn och ser inte varför någon kom med. Vad är det största problemet?
Fråga 4 av 5Du söker ett sommarjobb och får ett nej efter två minuter. Du misstänker att ingen människa har läst din ansökan. Vad är rimligast att göra?
Fråga 5 av 5Ditt utrymme att själv välja och påverka kallas agens. När krymper din agens mest?
Tre saker att ta med
Att ett AI-svar blir bra betyder inte att du vill lämna över hela samtalet. Skilj mellan att AI föreslår, ber om godkännande och får agera på egen hand.
Ett mått kan bli bättre medan det som betyder något blir sämre. Fråga alltid: bättre för vem?
Lagen ger dig rättigheter: att få veta, att få en människa att granska och att klaga. Och unga har ändrat beslut förut.
Prata om det
I par eller i grupp. Det finns inga rätta svar, men ge skäl för det du tycker och lyssna på någon som tycker annorlunda.
- I Texas rättade både datorn och människorna fel. Vem skulle du helst vilja ska rätta ditt nationella prov: en dator, en lärare eller båda? Vad skulle få dig att lita på resultatet?
- Tänk dig ett system som hittar fler felaktiga utbetalningar än handläggarna, men som oftare pekar ut vissa grupper. Ska det få användas? Vad skulle i så fall behöva gälla?
- Vilka siffror styr din vardag, till exempel streaks, steg, likes eller betyg? Har du varit med om att en sådan siffra blev bättre medan det du egentligen ville blev sämre?
Vad ska AI aldrig få bestämma om mig, och vem ska jag kunna vända mig till?
Svara med en eller två meningar. Svaret sparas bara i den här webbläsaren och följer med till slutkapitlet Min AI-kompass.
Kapitel 10 i fler ämnen
Samma kapitel, längre in i ett ämne. Fördjupningarna är skrivna för åk 9 och gymnasiets första år, och varje fördjupning slutar med en uppgift som läraren bedömer i ämnet.
- SamhällskunskapMakten över besluten
Vem får makten när myndigheter, arbetsgivare och plattformar låter algoritmer bestämma?
Två till tre lektioner · Slutuppgift: samhällsanalys eller debattartikel - HistoriaVem äger maskinerna?
När ny teknik kommer: vem äger den, vem gör jobbet och vem får bestämma?
Två till tre lektioner · Slutuppgift: jämförande text eller muntligt inslag
Dina svar sparas bara i den här webbläsaren. Ladda ned dem eller skriv ut kapitlet om du vill ha dem kvar.
Ord i kapitlet
- Algoritm
- En bestämd följd av steg som en dator följer. All AI bygger på algoritmer, men alla algoritmer är inte AI.
- Agens
- Ditt utrymme att själv välja och påverka.
- AI-agent
- Ett AI-system som inte bara svarar utan också gör saker, till exempel ändrar i en kalender, skickar ett mejl eller beställer något.
- Högrisk
- I EU:s AI-förordning: AI som kan påverka människors liv mycket, till exempel betyg, antagning och jobb. Sådana system får hårdare krav.
- AI-förordningen
- EU:s lag om artificiell intelligens. Den förbjuder vissa sorters AI och ställer krav på andra.
Läs och se mer
- ArtikelEU:s AI-lag: första lagstiftningen om artificiell intelligens
Europaparlamentet: hur AI delas in efter risk och vad som är förbjudet. Tidsplanen ändrades delvis 2026.
- WebbplatsAI-förordningen
IMY med den aktuella tidsplanen för EU:s AI-förordning.
- WebbplatsDina rättigheter när beslut fattas automatiskt
IMY: rätten att få veta, få beslutet granskat av en människa och invända.
- ArtikelDSA ska stärka skyddet av barn på internet
Mediemyndigheten om EU:s regler för stora plattformar.
- ArtikelSweden: discriminatory AI systems used by welfare agency
Engelska. Amnesty om Försäkringskassans urvalsmodell, november 2024.
För lärare
Lektionsstart i Rummet · cirka 20 min
En kort genomgång om betygsalgoritmen i England och om när ”en människa fattar beslutet” inte räcker, ett vägval om vad en AI-assistent får göra, agenten som raderade mejl, proven i Texas och en fråga i Fyra hörn om ett system som pekar ut vissa grupper.
Visa storbilden på projektorn och stega med piltangenterna eller en clicker. Det du kan säga står i lärarpanelen. Eleverna ansluter med en kod och svarar på mobilen eller datorn, utan konto.
Starta lektionen i RummetSyfte
Eleven ska kunna skilja mellan att ett AI-system föreslår, frågar och agerar, granska hur ett mått kan dölja vem som förlorar på ett beslut, förstå varför mänsklig granskning behöver vara verklig och känna till de viktigaste reglerna i AI-förordningen och dataskyddsförordningen som berör unga.
Kort pass, cirka 20 minuter
Läs Ofqual-rutan högt. Gör sorteringen Tillåtet, högrisk eller förbjudet? i par. Avsluta med frågan om vem som ska få bestämma över betyg.
En lektion, cirka 55 minuter
Ofqual, Texas och öppningen (5 min), Mitt liv och tre tillåtelser (10 min), bussfiguren och genomsnittsuppgiften (10 min), Försäkringskassan, Nederländerna och uppgiften om människans roll (10 min), lagen med tabellen och sorteringen (10 min), en regel för AI i skolan (10 min). Regeluppgiften passar att ta vidare i elevrådet.
I Mitt liv: låt eleven formulera sin första gräns innan fortsättningen öppnas. Läs sedan kompisens meddelande och låt eleven motivera om gränsen flyttas eller ligger kvar. Öppna därefter de tre tillåtelserna och pröva en egen regel. Papper eller samtal fungerar lika bra som svarsfälten. Håll diskussionen kring den påhittade situationen; eleverna behöver inte visa egna meddelanden. Det finns inget gemensamt rätt val av tillåtelse. Skilj mellan värderingar som kan diskuteras och kontrollfrågan om tjänsten faktiskt kan upprätthålla den valda gränsen.
Lyssna efter
- Kan eleven motivera en gräns även när AI:s svar blev bra, och resonera om vad mottagaren behöver veta?
- Skiljer eleven mellan ett önskemål i en prompt och en behörighet som tjänsten kontrollerar?
- Kan eleven förklara hur ett genomsnitt kan stiga medan fler får det sämre?
- Förstår eleven varför ”en människa fattar beslutet” inte räcker i sig?
Om faktauppgifterna
Ofquals modell var en statistisk algoritm, inte maskininlärning. Siffran 39 procent gäller A-level i England. Siffrorna från Texas gäller skrivsvaren i läsning på STAAR-proven, enligt The Texas Tribune 7 oktober 2026. Försäkringskassan har inte medgett att modellen var diskriminerande, och IMY prövade aldrig frågan. Tidsplanen för AI-förordningen följer IMY:s sammanställning efter ändringsförordningen 2026. Kravet att redovisa deepfakes i artikel 50.4 gäller den som använder AI-systemet i sin verksamhet. Helt privat bruk faller utanför AI-förordningen enligt EU-kommissionens frågor och svar, men annan lag, till exempel om förtal, gäller ändå. MASAI-studiens siffror kommer från delanalyser publicerade 2025 och 2026.
Kopplingar
Samhällskunskap (demokrati, rättigheter, EU) och matematik (medelvärde, summa, statistik). AILit-domänerna Forma och Styra. I verkstaden passar Var går gränsen?
Källor
- Ofqual (2020). A level results 2020, infografik. Samt GOV.UK (17 augusti 2020): GCSE and A level students to receive centre assessment grades. www.gov.uk/government/news/gcse-and-a-level-students-to-receive-centre-assessment-grades
- The Texas Tribune (7 oktober 2026). Om omrättningar av skrivsvaren på STAAR-proven, återpublicerad av KSAT. www.ksat.com/news/texas/2026/10/07/staar-rescoring-requests-triple-after-more-texas-schools-question-computer-grading
- Lighthouse Reports och Svenska Dagbladet (27 november 2024). Sweden's Suspicion Machine. www.lighthousereports.com/investigation/swedens-suspicion-machine
- IMY (18 november 2025). Avslutad tillsyn efter att Försäkringskassan tagit AI-system ur bruk. www.imy.se/nyheter/avslutad-tillsyn-efter-att-forsakringskassan-tagit-ai-system-ur-bruk
- Amnesty International (oktober 2021). Xenophobic Machines. Om riskmodellen i det nederländska barnbidragssystemet. www.amnesty.org/en/documents/eur35/4686/2021/en
- Förordning (EU) 2024/1689 (AI-förordningen) och ändringsförordning (EU) 2026/1744. Tidsplan enligt IMY. www.imy.se/privatperson/ai/ai-forordningen
- Europeiska kommissionen. Frågor och svar om transparensskyldigheterna i artikel 50 i AI-förordningen, samt artikel 3.4 och 50.4 i förordning (EU) 2024/1689. Kontrollerad 15 oktober 2026. digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act
- IMY (uppdaterad 15 juni 2026). Dina rättigheter när beslut fattas automatiskt. www.imy.se/privatperson/dataskydd/dina-rattigheter/automatiserade-beslut
- The San Francisco Standard (25 februari 2026). OpenClaw goes rogue. sfstandard.com/2026/02/25/openclaw-goes-rogue
- Hernström m.fl. (2025), The Lancet Digital Health, och Gommers m.fl. (2026), The Lancet. MASAI-studien, Lunds universitet. www.lunduniversity.lu.se/article/ai-support-breast-cancer-screening-fewer-missed-cancer-cases
Hur mycket el drar en fråga till en chatt?