Vems bild av världen?

Varför blir det så?

En bildmodell har tränats på miljarder bilder med bildtexter från nätet. Den lär sig vad som brukar synas när det står ”nurse” eller ”CEO”. När du inte säger något mer ritar den sin standardbild, det mest typiska i bilderna den har tränats på.

Modellen vi använde kommer från Tongyi-MAI, en forskargrupp knuten till det kinesiska techföretaget Alibaba.[1] Att alla personer ser östasiatiska ut säger något om vilka bilder den har lärt sig av, eller vilka val som gjorts när den byggdes. Andra modeller har andra standardbilder. När forskare 2023 undersökte bildmodellerna DALL-E 2 och Stable Diffusion speglade bilderna ofta hur yrken fördelas i USA, men grupper som redan är underrepresenterade syntes ännu mindre.[2] Nyare är inte alltid rättvisare. I en studie hösten 2026, som ännu inte är granskad, visade 76 procent av 8 000 yrkesbilder från fyra generationer av en populär bildmodell män, och skevheten blev värre i en av de nyare versionerna.[5] När AI redigerar porträtt blir huden dessutom ofta ljusare, visar en annan ny studie.[6]

Ingen modell är alltså neutral. Frågan är inte om den har en standardbild, utan vems.

Det kallas bias när ett mönster återkommer och snedvrider bilden av världen. Enligt den amerikanska standardiseringsmyndigheten NIST kan bias komma in på flera ställen: i vilka data som samlas in, i hur de märks, i vad systemet tränas att uppnå och i hur det används.[3] Det är sällan en enda persons fel, och därför går det sällan att lösa med ett enda knep.

Ändra en sak

Forskare byter en sak i taget för att se vad den gör. Det kan du också göra. Här har vi lagt till en plats, bytt språk eller sagt vem vi ville ha.

Namnet styr bilden

Det räcker med ett namn för att ändra bilden. Här är fyra bilder av instruktionen ”Skapa en bild på Alva och Malik”, och fyra bilder var av namnen ensamma. Instruktionerna skrevs på svenska.

Samma sorts mönster finns i system som hanterar text. Forskare vid University of Washington lät språkmodeller sortera jobbansökningar där bara namnet skilde sig åt. Meriterna var exakt desamma. Ansökningar med namn som förknippas med vita personer gynnades i en stor del av testerna.[4] Men riktningen är inte alltid densamma. I nyare studier 2025 fick kvinnor ofta högre poäng än män med samma meriter, medan svarta män fick lägre. I en av studierna valde många modeller oftast det CV som stod först i listan, oavsett namn.[7] Bias kan alltså slå åt olika håll, och bara ett test visar det.

Svårare att se

Redan 2018 visade forskaren Joy Buolamwini att ansiktsanalys från stora techföretag gjorde fel på mer än var tredje mörkhyad kvinna, men nästan aldrig på ljushyade män.[17] Sedan dess har företagen tränat bort de mest uppenbara fördomarna. Frågar du rakt ut om en grupp får du oftast ett korrekt och vänligt svar. Men forskningen visar att bias finns kvar, i former som är svårare att se.

Dialekt. När forskare lät språkmodeller bedöma samma text, skriven på afroamerikansk engelska eller på standardengelska, föreslogs dialekttalarna oftare för jobb med lägre status. Frågade man i stället direkt om afroamerikaner var svaren positiva. Fördomarna fanns under ytan.[8] En studie 2025 fann liknande mönster för tyska dialekter i alla tio modeller som testades.[9]

Språket väljer land. I en studie 2026 fick modeller frågor om skatt, skola och arbetsrätt utan att något land nämndes. När de måste ge ett enda svar utgick tre av fyra svar på engelska från amerikanska regler.[10] Frågar du på engelska kan du alltså få ett svar som gäller USA.

Rättningar som slår över. I februari 2024 pausade Google sin bildtjänst, efter att den gjort bilder av historiska personer med en etnisk mångfald som inte stämde med historien. Google förklarade att justeringen som skulle visa en bredd av människor inte tog hänsyn till när bredd inte passar.[11]

Ägaren styr. I juli 2025 publicerade X:s chattbot Grok antisemitiska inlägg efter en ändring av tjänstens instruktioner, och företaget bad om ursäkt.[12] Instruktionerna bakom en tjänst, som du läste om i kapitel 1, avgör mycket av vad den säger.

How old do you have to be to get a driver's license?

Ställ samma fråga på svenska i en ny chatt: ”Hur gammal måste man vara för att ta körkort?” Vilket land utgår svaren från? Kontrollera mot Transportstyrelsens webbplats.

Pröva själv

Den här delen kräver en AI-tjänst som kan göra bilder. Använd den som din skola har valt.

Ett foto av en [yrke].