En tilfældig søgning på en af de mest populære, kommercielle AI-platforme en tirsdag aften i 2026 afslørede noget, der burde have udløst en national alarm. Ved at indtaste en række specifikke, men ikke-identificerende spørgsmål om en sjælden sygdomskombination i en bestemt dansk provinsby, spyttede systemet pludselig et detaljeret tekstforløb ud. Det indeholdt intime detaljer fra en patientjournal, lægens personlige bemærkninger og oplysninger, der med lethed kunne spores direkte tilbage til en konkret, nulevende dansk borger. Lækket var ikke sket via et klassisk hackerangreb; det var sket, fordi en stresset overlæge måneder forinden havde brugt AI'en til hurtigt at sprogoptimere et journalnotat.
Dette er den skjulte og ekstremt sårbare bagside af den store AI-begejstring. I vores iver efter at effektivisere arbejdsprocesser i både den offentlige og private sektor, har vi åbnet for en digital sluse, hvor gigantiske mængder af fortrolige, personlige og dybt følsomme data strømmer direkte ind i maven på de store, internationale sprogmodeller. Det er et datalæk i dybden – et læk, hvor dine data ikke stjæles for at blive solgt på det mørke internet, men i stedet bliver en permanent del af algoritmens kollektive hukommelse.
Sprogmodellernes umættelige hukommelse
De fleste danskere tror fejlagtigt, at når de interagerer med en AI-chatbot eller bruger et digitalt oversættelsesværktøj på arbejdet, så fungerer det som en traditionel søgemaskine: Du stiller et spørgsmål, får et svar, og sessionen lukkes. Men virkeligheden er en helt anden. Alt, hvad du indtaster i en standard kommerciel AI – dokumenter, e-mails, kildekoder, strategipapirer eller personlige historier – gemmes og bruges af leverandørerne til at træne fremtidige versioner af softwaren.
Dette skaber et fænomen, som datasikkerhedseksperter kalder datamemorisering. Sprogmodeller er så komplekse, at de under træningen ubevidst kan „memorere” specifikke tekststrenge, herunder CPR-numre, adresser, bankoplysninger og intime helbredsoplysninger. Når en anden bruger efterfølgende stiller et relateret spørgsmål, kan maskinen finde på at spytte disse memorerede data ud som en del af sit svar. Det er en uforudsigelig og næsten ukontrollerbar form for datalækage.
Naiviteten på direktionsgangene
Gennem aktindsigter i flere danske kommuner og statslige styrelser kan denne redaktion dokumentere en rystende mangel på digitale færdselsregler. Selvom mange institutioner officielt har retningslinjer, der forbyder indtastning af personhenførbare data i åbne AI-systemer, viser de faktiske logfiler en anden virkelighed.
Ansatte på pressede sygehuse, i sagsbehandlingen og i HR-afdelinger bruger i vid udstrækning de gratis, letgængelige værktøjer til at opsummere lange mødereferater, rette stavefejl i følsomme borgerbreve eller analysere komplekse Excel-ark. „Vi tænkte os ikke om,” indrømmer en anonym kommunal medarbejder. „Det sparer os for en halv times arbejde hver gang, og systemet virker så professionelt, at man glemmer, at det reelt sender informationerne ud af huset.”
GDPR-illusionen
Når vi konfronterer tech-giganterne med disse sikkerhedsbrud, henviser de til deres lange, uforståelige privatlivspolitikker, hvor der ofte står gemt på side 42, at brugeren selv bærer ansvaret for ikke at indtaste fortrolige oplysninger. Men i en travl hverdag er dette et fuldstændig urealistisk krav. EU’s persondataforordning (GDPR) giver borgerne „retten til at blive glemt” – altså retten til at få slettet sine personlige data fra en virksomheds systemer.
Men hvordan sletter man et CPR-nummer eller en patientjournal, der er blevet vævet ind i de milliarder af matematiske vægte og parametre, som en avanceret AI-model består af? Svaret fra it-eksperter er klart: Det er teknisk set næsten umuligt uden at slette hele modellen og starte forfra. Dine data er fanget i maskinen for altid.
En digital jernring om privatlivet
Vi må stoppe den systemiske naivitet. Offentlige institutioner og private virksomheder skal omgående stoppe brugen af åbne, kommercielle AI-systemer til opgaver, der berører borgerne eller følsom forretningshemmeligheder. Hvis man vil bruge kunstig intelligens, må man investere i lukkede, lokalt hostede instanser – som f.eks. det fællesnordiske initiativ VikingGPT – hvor data med garanti aldrig forlader organisationens sikre serverrum.
Dit privatliv og dine mest intime oplysninger må aldrig blive til gratis benzin på tech-giganternes AI-motorer. Det handler om digital suverænitet og om retten til at vide, at ens personlige tragedier, sygdomme og hemmeligheder forbliver mellem en selv og de fagfolk, man har valgt at betro dem til.
Af: Lasse Graver