„Tak for din ansøgning. Desværre har vi valgt at gå videre med andre kandidater, der matcher vores profil bedre.”

Svaret kom præcis fire minutter efter, at „Amira” (navnet er ændret, red.) havde trykket „send” på rekrutteringsportalen hos en af Danmarks største finansvirksomheder. Hun havde den rette kandidatgrad, relevante studiejobs og topkarakterer. Alligevel fik hun aldrig chancen for at præsentere sig selv over for et levende menneske. Hendes ansøgning, CV og digitale profil var blevet scannet, analyseret og kasseret i løbet af sekunder af et automatiseret HR-system.

Hvad Amira ikke vidste, var, at det AI-system, virksomheden brugte, var trænet til at finde „kandidater med høj succesrate” baseret på data fra firmaets nuværende medarbejdere. Og i en mandsdomineret finansverden betød det ubevidst én ting: Systemet ledte efter profiler, der lignede de mænd, der i forvejen sad i direktionsgangene. Amiras køn, hendes postnummer på den københavnske vestegn og hendes minoritetsbaggrund passede ikke ind i algoritmens matematiske definition af en succes.

Den usynlige dørmand

I løbet af de seneste to-tre år har kunstig intelligens i al stilhed overtaget rollen som den primære dørmand på det danske arbejdsmarked. Store koncerner, konsulenthuse og selv offentlige instanser bruger i stigende grad såkaldt Applicant Tracking Systems (ATS) og avancerede AI-modeller til at grovsortere i de enorme bunker af ansøgninger. Løftet fra softwareudviklerne er altid det samme: AI fjerner de menneskelige fordomme. Maskinen er jo ligeglad med hudfarve, udseende eller køn – den kigger kun på rå kvalifikationer, ikke?

Det er en smuk teori, men i praksis er det en katastrofal fejlslutning. En algoritme har ingen medfødt moral; den er et spejl af fortiden. Hvis en virksomhed historisk set mest har ansat og forfremmet mænd fra bestemte universitetssnobbede netværk, vil den kunstige intelligens lynhurtigt spotte dette mønster. Den vil konkludere, at disse træk er lig med kvalitet, og derefter systematisk frasortere kvinder, ældre ansøgere eller folk med etniske minoritetsnavne – helt uden at der eksplicit står i koden, at den skal gøre det. Den diskriminerer i effektivitetens navn.

Sprogets skjulte fælder

Eksperimenter i regi af uafhængige tænketanke har vist, hvor subtil denne diskrimination er. Hvis man sender to identiske CV'er igennem et AI-rekrutteringssystem, hvor det eneste, der adskiller dem, er sprogbrugen, kan resultatet være chokerende.

Systemerne foretrækker ofte aggressive, handlingsorienterede ord som „eksekvere”, „dominere” og „konkurrencedrevet” – ord, der statistisk set oftere optræder i mænds ansøgninger. Mere kollaborative vendinger som „opbygge relationer”, „understøtte teamet” eller „trives i fællesskab”, som historisk set oftere bruges af kvindelige ansøgere, bliver straffet af algoritmens scoringssystem.

Dertil kommer udbredelsen af videointerviews, hvor kandidater skal optage sig selv svare på spørgsmål foran et webkamera. Her analyserer AI-softwaren ansigtsmimik, stemmeleje og tonefald. Men disse systemer er næsten altid udviklet i USA og trænet på amerikanske testpersoner. Når de møder en dansk kandidat, der måske taler med accent, udviser skandinavisk tilbageholdenhed eller har et andet kropssprog på grund af kulturel baggrund eller neurodivergens, tolker algoritmen det som „mangel på engagement” eller „usikkerhed”.

Den tabte mavefornemmelse

Når vi automatiserer HR-processen, mister vi det, der ofte skaber de bedste arbejdspladser: den skæve profil, det uventede talent og den menneskelige intuition. En erfaren HR-chef kan læse mellem linjerne i et CV. Vedkommende kan se potentialet i en person, der har haft et par huller i arbejdslivet på grund af sygdom eller stress, men som besidder en unik gejst.

Algoritmen kender ikke til barmhjertighed eller langsigtede chancer. For maskinen er et hul i CV'et en rød lampe, der betyder fejl. Dermed skaber vi et hyper-strømlinet arbejdsmarked, hvor der kun er plads til de fejlfri robot-mennesker, mens de kreative, de anderledes og de, der har måttet kæmpe for succesen, bliver efterladt på perronen.

Bevisbyrden, der forsvandt

Den helt store udfordring ved den algoritmiske diskrimination er den totale mangel på sporbarhed. Hvis en menneskelig chef fravælger en kandidat på grund af racisme eller kønsdiskrimination, er det ulovligt, og i visse tilfælde kan det bevises via Ligebehandlingsnævnet. Men når det sker i en lukket sky-løsning ejet af en amerikansk tech-gigant, er der ingen at drage til ansvar. Virksomheden kan vaske sine hænder og sige: „Det var systemets objektive vurdering.”

Vi står over for en usynlig mur, hvor tusindvis af kvalificerede danskere hver dag sorteres fra af koder, de ikke må få indsigt i. Hvis vi vil bevare et retfærdigt og mangfoldigt arbejdsmarked, må vi kræve, at rekruttering aldrig må overlades til en lukket maskine. Mennesker skal ansættes af mennesker. For en kode kan måske nok regne ud, hvem der passer bedst ind i fortidens kasser, men den vil aldrig kunne se, hvem der kan forme fremtiden.

Af: Lasse Graver