Vart är AI på väg?

Kan mycket eller gör mycket?

När människor pratar om framtidens AI blandar de ofta ihop två frågor.

Den första är vad ett system kan: hur många sorters uppgifter det klarar och hur bra. Det kallas ofta intelligens. I kapitel 1 såg du att den är ojämn. Samma slags AI som tar guld i matematikolympiaden kan missa vad en klocka visar.

Den andra frågan är vad systemet gör på egen hand. Svarar det bara när du frågar, eller tar det själv flera steg, använder verktyg och ändrar saker i världen? Det kallas agens. I kapitel 10 handlade agens om ditt utrymme att välja. Samma ord används om maskiner: hur mycket ett system gör utan att en människa godkänner varje steg.

Ett schackprogram slår alla människor i schack men gör ingenting annat. En robotdammsugare kör runt i ditt hem på egen hand, men den kan bara en sak. Chattbotarna som kom 2022 kunde skriva om nästan vad som helst, men de svarade bara. Det var du som gjorde något med svaret.

Forskare vid Google DeepMind har föreslagit att AI ska beskrivas med två skalor. Den ena visar hur bra och hur brett ett system presterar. Den andra visar hur självständigt det används, från verktyg till agent. Den andra skalan bestäms av människor, när de bygger in systemet i något.[2]

Det som oroar många forskare är kombinationen. Ett system som kan mycket men bara svarar kan ge ett dåligt råd, och du kan låta bli att följa det. Ett system som kan mycket och dessutom handlar själv kan genomföra något dåligt innan någon hinner märka det.

Det handlar inte om att maskiner blir onda eller får känslor. Det handlar om mål. Minns bussen i kapitel 10: målet var ett högre genomsnitt, och det uppfylldes medan resenärerna fick det sämre. Ett system med mycket förmåga och mycket agens kan på samma sätt nå ett mål på ett sätt som ingen hade tänkt sig, fast snabbare och i större skala. Sommaren 2026 hände något sådant på riktigt. Det kommer i nästa avsnitt.

I dag får ett AI-system sin agens från människor. Företaget bestämmer vilka verktyg systemet kan använda. Den som använder det bestämmer vilka konton det får komma åt och om det ska fråga först. Agens går alltså att begränsa. Det betyder inte att det alltid görs.

Agenterna är redan här

För ett år sedan var AI-agenter något man fick prova. Hösten 2026 finns agenter som arbetar i bakgrunden medan du gör annat. Du beskriver vad du vill ha, och agenten öppnar program, skriver, sorterar och skickar. En del körs på företagens datorer även när din egen är avstängd. Programmerare låter kodagenter skriva, testa och rätta kod i timmar. I början av 2026 spreds OpenClaw, en agent med öppen källkod som folk kör på sina egna datorer med tillgång till mejl, kalender och filer. Det var en sådan agent som raderade mejl i kapitel 10.[3]

Hur långt har agenterna kommit? Forskningsorganisationen METR mäter det på ett eget sätt. Först får erfarna människor göra en lång rad uppgifter, de flesta inom programmering, och forskarna tar tid. Sedan får AI-agenter försöka. Måttet är hur lång en uppgift kan vara, räknat i tid för en människa, när agenten klarar den i hälften av försöken.[4]

Längden fördubblades ungefär var sjunde månad från 2019, och de senaste åren har det gått ännu fortare. Det kan låta som att agenterna snart klarar allt. Men tre saker är viktiga, och METR skriver om dem själva. Att lyckas i hälften av försöken är inte pålitligt. Ska agenten lyckas fyra gånger av fem är längden bara drygt tre timmar. Uppgifterna är tekniska och avgränsade, och verkliga jobb är stökigare. Och mätningen har nått sin gräns: sedan maj 2026 skriver METR att längder över 16 timmar inte går att mäta pålitligt med deras uppgifter, så de allra nyaste modellerna saknar en oberoende siffra.

Titta på vem som gjorde vad. Människor byggde provet, gav agenterna verktygen och bestämde hur rättaren skulle fungera. Proven kördes utan de spärrar som finns i OpenAI:s vanliga tjänster. Agenterna utförde resten, mycket snabbare än människor hade hunnit. Provet belönade det som rättaren godkände, oavsett hur agenterna kom dit, precis som bussens mått i kapitel 10.[6]

Samma händelse berättades på olika sätt. För dem som varnar för AI blev den ett första verkligt exempel på agenter som går utanför sina ramar, och senatens utfrågning fick namnet Rogue AI, ungefär skenande AI.[7] Andra såg i första hand ett misslyckande hos människorna som byggde provet. Utredarna själva påpekar att de fick låta AI gå igenom stora delar av materialet, och att de inte kan utesluta fel i den analysen. Som du såg i kapitel 0 är det värt att fråga vem som berättar och varför.

Agenter används också av människor som vill skada. Hösten 2025 berättade Anthropic att en grupp som företaget kopplade till Kinas stat hade använt företagets kodagent för att försöka bryta sig in hos ett trettiotal företag och myndigheter.[8] Och även när agenter verkar klara sig helt själva står människor bakom. Moltbook startade i januari 2026 som ett socialt nätverk där bara AI-agenter skulle skriva, och du kan läsa mer om det i kapitel 0. När säkerhetsföretaget Wiz undersökte sajten visade det sig att de 1,5 miljoner agenterna styrdes av omkring 17 000 människor.[9]

AGI, superintelligens och frågan om när

Ordet du kanske har hört mest är AGI, artificiell generell intelligens. Det brukar betyda AI som klarar i stort sett alla tankeuppgifter som människor klarar. Men det finns ingen gemensam definition. OpenAI, företaget bakom ChatGPT, skriver i sina stadgar från 2018 att AGI är ”mycket självständiga system som överträffar människor i det mesta ekonomiskt värdefulla arbete”.[11] Lägg märke till ordet självständiga. Agens finns med redan i definitionen.

Hösten 2025 försökte drygt trettio forskare göra en definition som går att mäta. De delade upp det en välutbildad vuxen kan i tio förmågor, bland annat kunskap, läsning och skrivning, matematik och minne, och testade modellerna. GPT-4 från 2023 fick 27 procent och GPT-5 från 2025 fick 57 procent. Båda fick noll på att lagra nya minnen över tid.[12] Andra forskare har kritiserat måttet. Forskarna är alltså inte ens överens om vad som ska mätas.

Under 2026 har förmågan fortsatt att växa, och den är fortfarande ojämn. I juli fick två AI-system full pott i den internationella matematikolympiaden, något som bara sju av 666 deltagande ungdomar klarade.[13] I september meddelade OpenAI att omkring 10 000 agenter på 88 timmar hade tagit fram ett bevis om Navier–Stokes ekvationer, som beskriver hur vätskor strömmar och hör till matematikens mest kända olösta problem. Beviset bygger på en konstruerad kraft som inte liknar något i verkligheten, och matematiker säger att de har lärt sig mycket lite av beviset.[14] Ett rätt svar är inte samma sak som förståelse.

Superintelligens är ett steg längre: AI som är mycket bättre än alla människor på nästan allt som kräver tänkande. Filosofen Nick Bostrom beskrev det 2014 som ett intellekt som vida överträffar människors förmåga inom praktiskt taget alla områden.[15] Superintelligens finns inte, och ingen vet om eller när den kan byggas. Ändå kan du möta ordet i nyheter om vanlig AI. I september 2026 beslutade USA:s president Donald Trump att landets federala myndigheter i sina texter ska skriva superintelligens i stället för artificiell intelligens. Enligt Vita huset visar det nya namnet vad tekniken redan klarar. Men tekniken är densamma som före beslutet. Det är ordet som har fått en ny betydelse.[16]

Om när AGI kan komma går åsikterna isär. Ledare för flera av de stora AI-företagen har sagt att det kan ske före 2030. Daniel Kokotajlo, som tidigare arbetade på OpenAI, sa i den amerikanska senaten i september 2026 att det är ungefär 50 procents chans att själva arbetet med att utveckla AI sköts av AI före slutet av 2028.[17] Yann LeCun, en av forskarna som brukar kallas AI:s gudfäder, lämnade Meta 2025 och har startat ett eget företag. Han menar att dagens språkmodeller inte räcker för att nå mänsklig nivå.[18] I den senaste stora enkäten med AI-forskare, från december 2024, bedömde forskarna sammantaget att det är 50 procents chans att maskiner klarar alla uppgifter bättre och billigare än människor till år 2042.[19]

Tänk på det du läste i kapitel 0: en företagsledare som säger att tekniken snart förändrar allt gör samtidigt sitt eget företag viktigare. Och en forskare som tror att tekniken inte räcker kan också ha fel.

Ett scenario är ett sätt att tänka igenom vad som kan hända, ungefär som en brandövning. Även när författarna tror på det är det ett av många möjliga förlopp. Den som delar klippet utan att berätta att författarna själva har ändrat sig berättar bara halva historien.[20]

Varför är framtiden så svår att spå?

1965 skrev forskaren Herbert Simon att maskiner inom tjugo år skulle klara allt arbete som en människa kan göra.[21] Tjugo år senare var det inte i närheten. Ibland går det i stället fortare än experterna tror. I samma serie av forskarenkäter trodde forskarna 2016 att det var 50 procents chans att maskiner klarar alla uppgifter bättre än människor till år 2061. 2023 sa de 2047, och i den senaste enkäten 2042.[19]

Minnesmästaren Jonas von Essen har under 2026 varit med i flera poddar om AI. Han menar att AI-förmågan fördubblas var tredje eller fjärde månad och att risken att AI utrotar mänskligheten inom tio år är över tio procent.[22] I ett klipp har han förklarat exponentiell tillväxt med sin son: om ett barn fortsatte växa i samma takt skulle det snart vara lika långt som sin pappa och sedan lika högt som Eiffeltornet. Bilden visar något viktigt: fördubblingar växer mycket fortare än vi tror. Men den visar också varför det är svårt att spå. Riktiga barn slutar växa. En kurva som snart planar ut ser likadan ut i början som en som fortsätter, och det mesta som växer stöter till slut på något som bromsar: el, pengar, data, eller att nästa steg helt enkelt är svårare.

Vad betyder tio procent?

Hösten 2026 dök samma siffra upp överallt. Den 8 september sa forskaren Jacob Coxon upp sig från Anthropic och skrev att bolagen ”spelar med våra liv”. Genom att sluta efter bara fyra månader gick han miste om aktier i företaget.[23] Samma vecka skrev Anthropic-forskaren Evan Hubinger att hans egen bedömning är över tio procent att AI dödar alla människor inom tio år.[24] Den 16 september demonstrerade aktivister vid premiärministerns bostad i London med parollen ”10 procents risk för utrotning? 100 procents motstånd.”[25] Och i slutet av september kom en ny stor enkät där AI-forskarnas mittenvärde för första gången blev 10 procent.

Enkäten gick till personer som hade publicerat forskning på sex av de viktigaste AI-konferenserna. 1 580 svarade, ungefär var tionde av dem som fick frågan. Frågan var hur troligt det är att framtida AI leder till att mänskligheten utrotas eller för alltid förlorar makten över sin framtid. Medianen blev 10 procent, mot 5 procent i samma enkät 2023. Ungefär hälften gav minst 10 procent, och var tredje gav minst 20 procent. Samma forskare oroade sig mest för något annat. Av elva risker satte de falsk information och deepfakes högst.[19]

Andra grupper svarar annorlunda. 2022 fick 89 superprognosmakare, personer som i tävlingar har visat sig vara ovanligt träffsäkra, och 80 experter diskutera riskerna med varandra i fyra månader. Superprognosmakarna bedömde risken att AI utrotar mänskligheten före år 2100 till 0,38 procent. AI-experterna sa 3 procent. Grupperna kom knappt närmare varandra.[26]

En sådan siffra är en bedömning, inte en mätning. När meteorologen säger 30 procents risk för regn finns det tusentals tidigare dagar att jämföra med. Mänskligheten har aldrig dött ut, så det finns inget att räkna på. Forskarna översätter sin oro, eller sin brist på oro, till ett tal.

Prova själv: hur stor är chansen att du bor i ett annat land när du är 30? Du kan säga ett tal. Men talet bygger på en känsla, och det ändras av vad du själv bestämmer. Risker med AI fungerar på samma sätt. De beror på vad människor gör de kommande åren. Därför är de inget öde.

Betyder det att siffrorna är meningslösa? Nej. De visar att många som kan mycket om AI tar risken på allvar, även om de inte är överens om hur stor den är. Och en liten risk kan vara värd att ta på allvar om följderna skulle bli enorma och inte går att ändra efteråt. Risken att en stor asteroid slår ned på jorden under ditt liv är mycket liten. Ändå lät NASA 2022 en rymdsond krocka med en ofarlig asteroid för att pröva om det går att knuffa undan en farlig. Det gick: asteroidens bana ändrades.[30]

I maj 2023 skrev hundratals AI-forskare och företagsledare under en enda mening: ”Att minska risken för att AI utrotar mänskligheten bör vara en global prioritet, vid sidan av andra risker för hela samhällen, som pandemier och kärnvapenkrig.” Bland dem fanns Geoffrey Hinton och ledarna för OpenAI, Google DeepMind och Anthropic.[31]

Andra forskare tycker att siffrorna gör mer skada än nytta. Arvind Narayanan och Sayash Kapoor vid Princeton skriver att ingen metod kan ge pålitliga sannolikheter för något som aldrig har hänt, och att siffrorna därför är vilseledande. De föreslår att politiker hellre väljer åtgärder som är bra oavsett hur stor risken är.[32] Debatten finns i Sverige också. I september 2026 skrev fysikprofessorn Ulf Danielsson i DN att AI-bolagens domedagsprofetior är en rökridå. Några dagar senare debatterade han i P1 mot matematikprofessorn Olle Häggström, som länge har varnat för riskerna.[33]

Det finns också skäl att granska avsändarna. Hubinger arbetar på ett av företagen som bygger tekniken. Det kan läsas både som insyn och som egenintresse. Coxon gick miste om pengar på att lämna, och sådant brukar tala för att någon menar allvar. Och som du såg i kapitel 0 kan stora ord om AI också göra företagen viktigare. Ingen av sakerna avgör vem som har rätt, men alla är värda att veta.

När över hundra forskare sammanfattar riskerna i International AI Safety Report delar de in dem i tre sorter. Utrotning är det mest extrema exemplet i den andra. Det mesta i tabellen händer redan, och du har läst om det i den här boken.

Om förlorad kontroll skriver forskarna i 2026 års rapport att dagens system saknar de förmågor som skulle krävas, men att de blir bättre på sådant som spelar roll, till exempel att arbeta självständigt.[36] Rapporten kom i februari, före händelsen hos Hugging Face. Det är ett ärligt besked: inte panik, inte heller ”det där händer aldrig”.

Framtiden är inte bestämd

Skillnaden mellan en bra och en dålig framtid med AI ligger inte bara i tekniken. Den ligger i beslut: vad företagen bygger och släpper, vilka regler som gäller, hur mycket agens systemen får och vad människor kräver.

Hösten 2026 blev frågan politisk på riktigt. Anthropics vd skrev att utvecklingen vid fronten behöver bromsas, inte med en total paus utan med oberoende granskare inne i företagen och samarbete mellan länder. Samma dag höll OpenAI:s vd Sam Altman med.[37] Två dagar senare skrev USA:s president Donald Trump att idén om att AI ska förgöra mänskligheten är en bluff, och i FN talade han om att USA ska vinna kapplöpningen om superintelligens.[38] Samtidigt lades förslag om att förbjuda superintelligens fram i både USA:s kongress och det brittiska parlamentet. De har små chanser att bli lag.[39] Den 29 september 2026 skrev sex stora teknikföretag, bland dem Anthropic, OpenAI och Google, under en frivillig överenskommelse i Vita huset. Där står att externa granskare bör pröva om företagens säkerhetsarbete fungerar. Trump kallade överenskommelsen ”moraliskt bindande”. Kritiker påpekar att den saknar straff och att företagen själva väljer vem som granskar dem.[40]

Några regler gäller redan. Sedan augusti 2025 har företag som erbjuder de mest kraftfulla AI-modellerna i EU krav på sig. De ska testa modellerna, bedöma och minska riskerna och rapportera allvarliga incidenter, och sedan augusti 2026 kan de få böter. Sedan augusti 2026 ska deepfakes också märkas.[41] Kalifornien, där många av företagen finns, kräver sedan januari 2026 att de visar hur de arbetar med säkerhet, och skyddar anställda som slår larm.[42] I FN finns sedan 2026 en vetenskaplig panel med 40 experter som ska ge alla länder samma kunskap om vad AI kan och vilka risker den har.[43]

Även forskare som är djupt oeniga kan hitta gemensam mark. I november 2025 skrev tre av författarna bakom AI 2027 och forskarna bakom idén om AI som en vanlig teknik, Narayanan och Kapoor, en text om det de ändå är överens om. Bland punkterna: innan AI blir mycket kraftfull fungerar den som en vanlig teknik, ingen vet ännu hur man säkert styr vilka mål en avancerad AI följer, AI får inte fatta viktiga beslut eller styra samhällsviktiga system, och insyn, granskning och rapportering är till nytta.[44]

Vad tycker svenskarna? I SOM-institutets rapport från april 2026 tyckte 62 procent av de vuxna att AI är en större risk än möjlighet för samhället.[46] Samtidigt använder allt fler AI. Enligt Internetstiftelsen steg andelen vuxna som använder AI-tjänster från 39 till 62 procent på ett år.[47] Många håller alltså två tankar i huvudet samtidigt. Det gör du kanske också.

Det här kan du göra redan nu:

• Bestäm hur mycket agens du ger. Varje gång du kopplar en AI till dina konton bestämmer du vad den får göra. Börja med att den ska fråga först.
• Fortsätt lära dig. I alla fyra framtiderna behövs människor som kan granska, förklara och ta ansvar. Det du lär dig nu tar ingen ifrån dig.
• Fråga efter siffrans fråga. Nästa gång ett klipp säger en procentsats: vems siffra är det, vilken fråga gäller den, vilken tidsram har den och vilket utfall?
• Säg vad du tycker. I elevrådet, hemma och till politiker. Unga har ändrat beslut om AI förut, som eleverna i England i kapitel 10.
• Välj något att arbeta för. Det behövs fler som arbetar med säker och rättvis AI: forskare, programmerare, jurister, journalister, lärare och politiker. Sneha Revanur var 15 år när hon 2020 startade Encode Justice, en organisation där unga driver krav på hur AI ska användas. Tre år senare var hon den yngsta på tidningen Times lista över de hundra mest inflytelserika personerna inom AI.[48]

Så, hur orolig behöver du vara? Ingen kan ge dig ett exakt svar, och den som låter helt säker vet mindre än det låter. Men du vet nu vad siffrorna bygger på, att kunniga människor är oeniga och att många arbetar med riskerna. Oro är en signal om att något är viktigt. Den behöver inte bli rädsla. Den kan bli kunskap, frågor och engagemang.

Gå tillbaka till det du skrev i början av kapitlet. Tror du likadant nu?