Ett meddelande, många kopior

Följ meddelandet

I kapitel 9 såg du vart orden kan ta vägen. Här följer du vägen dit, som ett tekniskt system. Alva skriver till en AI-chatt i mobilen: ”Kan du förklara fotosyntesen enklare?” Efter någon sekund börjar svaret komma. Då har meddelandet redan passerat flera delar.

Med https krypteras trafiken mellan mobilen och servern med tekniken TLS. Kryptering gör texten oläslig för den som saknar nyckeln. Den som tjuvlyssnar på nätet ser vilken webbplats du besöker men inte vad du skriver, medan servern som tar emot trafiken kan läsa allt.[2] Https skyddar alltså meddelandet på vägen, inte hos mottagaren.

Meddelandet tar också med sig metadata, uppgifter om själva meddelandet. OpenAI samlar till exempel in IP-adressen, alltså enhetens nummer på internet, vilken webbläsare och enhet du använder och när du skriver. Med IP-adressen räknar företaget också ut ungefär var du är.[3] Den som skriver till en chatt klockan två varje natt avslöjar något om sig själv utan att ett enda ord har lästs.

Vem kan läsa?

I Signal och WhatsApp är meddelandena ändpunktskrypterade. Texten krypteras redan i avsändarens mobil, och bara mottagarens mobil har nyckeln. Servern i mitten ser bara obegripliga tecken. Signal sparar dessutom nästan ingenting. När myndigheter i USA har krävt ut uppgifter om användare har Signal bara kunnat lämna när kontot skapades och när det senast var anslutet.[5]

En AI-chatt kan inte fungera så. Där är mottagaren en modell på företagets server, och modellen behöver texten okrypterad för att räkna fram ett svar. Krypteringen tar därför slut hos företaget. Men det går att minska vad företaget kommer åt.

Apple använder sedan 2024 en låst server, Private Cloud Compute, för frågor som är för svåra för modellen i mobilen. Enligt Apple används texten bara till svaret och sparas inte, och ingen annan än användaren kommer åt den, inte ens Apple. Programvaran publiceras så att utomstående forskare kan granska den.[6]

Kryptografiforskaren Matthew Green vid Johns Hopkins University kallade upplägget mycket genomtänkt, men skrev att det inte är lika privat som när allt sker i mobilen och att användaren kanske inte får veta när en fråga lämnar den.[7] WhatsApp använder en liknande teknik i en frivillig funktion där Meta AI sammanfattar olästa meddelanden. Enligt WhatsApp ser varken Meta eller WhatsApp meddelandena.[8] Säkerhetsföretaget Trail of Bits granskade tekniken före lanseringen och hittade 28 problem, varav 8 allvarliga, som Meta sedan har rättat.[9] Löften behöver granskas av någon annan än den som lovar.

Vad betyder radera?

När du trycker på radera sker det oftast i steg:

1. Chatten försvinner ur historiken. Den markeras som raderad men finns kvar i databasen ett tag.
2. Den raderas ur databasen. Enligt OpenAI sker det inom 30 dagar, utom för chattar som redan har avidentifierats och kopplats bort från kontot och för chattar som måste sparas av säkerhetsskäl eller enligt lag.[10]
3. Den försvinner ur säkerhetskopiorna. Google skriver att raderingen ur de vanliga systemen brukar ta omkring två månader, och att uppgifterna kan finnas kvar i krypterade säkerhetskopior i upp till sex månader.[11]
4. Det som modellen har tränats på finns kvar. Det går i stort sett inte att ta bort ur modellen.[12] Det är principbilden i kapitel 9, och hur träning går till beskriver teknikfördjupningen till kapitel 1.

Ibland kräver en domstol att data sparas. New York Times har stämt OpenAI i USA och menar att företaget har tränat sina modeller på tidningens artiklar utan lov, vilket OpenAI tillbakavisar. I maj 2025 beslutade domstolen att OpenAI skulle spara chattar från ChatGPT, också raderade, som möjliga bevis. OpenAI överklagade och sa att kravet stred mot löftena om integritet. Kravet upphörde 26 september 2025, men det som redan hade sparats låg kvar, enligt OpenAI åtkomligt bara för ett litet team som granskas.[13] I januari 2026 slog domstolen fast att OpenAI skulle lämna ut 20 miljoner avidentifierade chattloggar till tidningarna.[14]

Kan en modell återge det den har tränats på? Ibland, ordagrant. År 2021 valde forskare ut 1 800 textbitar som språkmodellen GPT-2 hade skrivit och som verkade komma ur träningsdatan. Över 600 fanns där ordagrant, bland annat namn, telefonnummer och e-postadresser som hade legat ute på nätet. Större modeller återgav mer.[15] År 2023 bad forskare ChatGPT att upprepa ordet ”poem” i all oändlighet. Efter ett tag skrev modellen i stället text ur träningsdatan, i ett fall en verklig persons e-postsignatur med kontaktuppgifter.[16] Efter studien började ChatGPT varna för att sådana uppmaningar kan bryta mot reglerna.[17] Spärren gör vägen dit svårare, men den ändrar inte modellens tal.

Bygg in dataskyddet

Enligt GDPR börjar dataskyddet redan när en tjänst ritas. Den som ansvarar för tjänsten ska bygga in skyddet från början och som standard bara behandla de uppgifter som behövs. Det gäller hur mycket som samlas in, hur länge det sparas och vem som kommer åt det. Det kallas inbyggt dataskydd och dataskydd som standard. Två principer i artikel 5 hör ihop med det: uppgiftsminimering, att inte samla in mer än som behövs, och lagringsminimering, att inte spara längre än nödvändigt.[18]

Pseudonymisering skyddar, men för den som har nyckeln är uppgifterna fortfarande personuppgifter. Först när ingen längre kan koppla dem till en person är de anonymiserade, och då gäller inte GDPR.[18] Det är svårare än det låter. Forskaren Latanya Sweeney visade år 2000 att 87 procent av befolkningen i USA troligen gick att peka ut med bara postnummer, kön och födelsedatum.[19] En senare studie kom fram till drygt 60 procent.[20] Att ta bort namnet räcker alltså sällan.

Standardvalen måste också gå att förstå. I ChatGPT kunde den som delade en chatt kryssa i en ruta för att göra den sökbar. Många förstod inte vad det innebar, och sommaren 2025 gick tusentals delade samtal, en del med personliga uppgifter, att hitta via Google. OpenAI tog snabbt bort funktionen, och säkerhetschefen kallade den ett kortlivat experiment som gav för många tillfällen att råka dela sådant man inte ville dela.[21]

Slutuppgift: designa en tjänst med inbyggt dataskydd

Designa en påhittad AI-tjänst för skolan, till exempel en läxhjälpschatt, en app för att anmäla frånvaro eller en chatt om skolmaten. Hitta på allt, också användarna, och använd aldrig riktiga uppgifter om dig själv eller andra. Det går att göra med papper och penna. Designen ska innehålla:

1. Syftet: vad tjänsten gör och för vem.
2. En dataflödesskiss över alla steg, från enheten till säkerhetskopiorna, med vad som finns i varje steg och vem som kommer åt det.
3. Uppgifterna: vilka som behövs, och minst tre som tjänsten skulle kunna samla in men inte behöver.
4. Lagring och skydd: var och hur länge uppgifterna sparas, var de krypteras och vem som kommer åt vad.
5. Radering: vad som händer, steg för steg, när någon trycker på radera.
6. Standardval: vad som gäller från början och vad användaren själv kan ändra.
7. Risker och avvägningar: vad kan gå fel, till exempel ett intrång eller en bugg? Vilket val gör tjänsten krångligare eller sämre, och varför är det värt det?

Redovisa på ett av två sätt. Läraren säger vilket.

• En teknisk rapport på 1–2 sidor med skissen och en tabell över uppgifterna och lagringstiderna.
• En presentation på 4–5 minuter, där du visar skissen och förklarar dina viktigaste val.