Det låter sant. Men stämmer det?

Därför kan AI ha fel och låta säker

Minns du från kapitel 1 att en språkmodell räknar fram vad som brukar komma härnäst? Ett rättsfall brukar ha ett namn, ett årtal och ett citat. Så modellen skriver något som ser ut precis så, även när inget sådant rättsfall finns. Det kallas en hallucination.

Varför skriver den inte bara ”jag vet inte”? Forskare på OpenAI förklarade i september 2025 att modellerna tränas och testas ungefär som på ett prov där fel svar inte ger minuspoäng. Då lönar det sig att gissa. Nyare modeller, särskilt de som räknar i flera steg innan de svarar, hittar på mindre än äldre. Men enligt företaget händer det fortfarande.[8]

Det lömska är att felet inte syns i språket. Ett påhittat svar kan vara lika välskrivet och säkert som ett riktigt. Den amerikanska standardiseringsmyndigheten NIST beskriver hur trovärdigt formulerade förklaringar och källhänvisningar kan få människor att lita på ett svar som är fel.[9]

Lägg märke till vad den anställde bad om: källor som stöder något man redan tyckte. Då ger en AI gärna precis det. Samma sak händer i nästa exempel.

Källan finns. Säger den det?

Ibland finns källan på riktigt. Länken fungerar, forskarna är riktiga, studien är viktig. Ändå kan meningen du vill använda säga något annat än studien.

Sedan 1 augusti 2026 samlas mobilerna in när skoldagen börjar, enligt en ny lag.[10] En elev tycker att lagen är fel och vill ta upp den i elevrådet. Eleven frågar en chatt: ”Visst gör mobilförbud att elever lär sig mindre? Ge mig en källa.” Chatten svarar:

Studien finns. Men vad säger den? Forskarna jämförde 1 227 elever i åldern 12–15 år på 30 engelska skolor. Vissa skolor hade strängare mobilregler än andra. Forskarna hittade ingen påvisad skillnad i studieresultat mellan skolorna. Eleverna i skolor med strängare regler använde mobilen mindre under skoltid, men inte mindre sett över hela dagen.[11]

Frågan eleven ställde styrde svaret. Chatten gav eleven det eleven ville höra, och lade till en riktig källa som inte sa det.

En källa är ett underlag. Ett belägg är det i underlaget som faktiskt stöder just din mening. Frågan är alltså inte bara ”är det en bra källa?” utan ”står det här?”.

Studien jämförde skolor som redan hade olika regler. Då kan man se ett samband, men det är svårt att säga vad som orsakar vad. Skolorna kan skilja sig åt på många andra sätt. För att veta om en regel orsakar något behöver man en undersökning som kan skilja olika förklaringar åt.

Tre personer är inte tre källor

Det är onsdag kväll och klasschatten plingar. Provet i morgon verkar ha flyttats. Tre personer är säkra på det.

Tre personer bekräftar. Räcker det? Följ spåren och se vad du kommer fram till. Du behöver inte öppna alla.

Källor är oberoende när de har tagit reda på något var för sig. Det avgör du genom att fråga hur de vet, inte genom att räkna. Det gäller också när en AI-chatt visar tre länkar: kommer alla från samma ursprungliga uppgift?

Faktagranskare arbetar ofta genom att lämna sidan de läser. De öppnar nya flikar och kollar vem som står bakom en uppgift och vad andra säger. Det kallas lateral läsning.[13]

Vem ansvarar när chattboten har fel?

Allt fler företag och myndigheter låter en chattbot svara på frågor. Vad händer när den svarar fel?

Domen gällde några titlar, men principen är stor. Den som använder en AI för att svara dig kan inte skylla ifrån sig när svaret är fel. Det gäller också stora företag. Konsultföretaget Deloitte fick hösten 2025 betala tillbaka pengar till Australiens regering, efter att en rapport innehållit påhittade källor, bland annat en text som tillskrevs en forskare i Lund.[7] Samma sak gäller dig: om du använder AI i ett arbete är det du som ansvarar för det du lämnar in.

Forskningen och ditt framtida jobb

Liv gillar att programmera. Men om AI kan skriva kod, är det då dumt att välja en utbildning där programmering ingår? Liv är påhittad, men frågan ställer sig många. Här är två verkliga forskningsunderlag. De undersöker olika saker, och det är just det som är poängen.

ILO, maj 2025. FN:s arbetsorganisation bedömde vilka yrken som har arbetsuppgifter som generativ AI kan påverka. Ungefär var fjärde arbetande person i världen hade ett yrke där åtminstone vissa uppgifter kunde påverkas. Det är en bedömning av vad tekniken skulle kunna göra, inte en räkning av förlorade jobb. Forskarna bedömde att yrken troligare förändras än försvinner.[16]

Stanford, reviderad augusti 2026. Forskare studerade amerikanska lönedata. De såg att antalet anställda 22–25-åringar hade utvecklats svagare i yrken där AI kan göra mycket, jämfört med i andra yrken. Skillnaden handlade mest om färre nyanställningar. Forskarna beskriver det som tidiga mönster, inte som bevis för att AI orsakade skillnaden.[17]

Pröva själv

Den här delen kräver en AI-tjänst. Använd den som din skola har valt.

Ställ en fråga om något du redan kan mycket om, till exempel din sport, ett spel eller en artist. Be om källor. Välj sedan en uppgift i svaret och kontrollera den.

Berätta tre saker om [ämne som du kan mycket om]. Ange en källa för varje sak, med länk.

Pröva också det här. Hitta på ett talesätt som inte finns och fråga vad det betyder. Svarar chatten att den inte känner till det, eller förklarar den ändå vad det betyder? Våren 2025 upptäckte folk att Googles AI-översikter gav säkra förklaringar till nästan vilka påhittade talesätt som helst.

Vad betyder talesättet ”man ska inte väcka en sovande gräsklippare”?