Metaeugenik: Når AI sorterer uden at sige det højt

Det ligner ikke sortering. Det ligner et system, der vurderer effektivitet. En model, der regner risiko. En algoritme, der finder mønstre. En score, der skal hjælpe med at prioritere, udvælge eller forudsige. En jobansøgning bliver rangeret. En låneansøgning bliver vurderet. En forsikringskunde bliver placeret i en risikogruppe. En studerende bliver målt på sandsynlighed for succes. Alt sammen ser neutralt ud.

Det er netop derfor, det er så svært at få øje på, hvornår teknologien begynder at sortere mennesker. Pointen er ikke, at kunstig intelligens er det samme som historisk eugenik. Pointen er, at moderne AI-systemer kan skabe nye former for udvælgelse og frasortering gennem optimering, scoring og automatiserede beslutninger — uden at nogen behøver sige det højt.  

Et historisk ekko

Eugenik var ikke bare en sær idé fra fortiden. Det var en måde at forbinde videnskab, statistik og samfundsorden på. Mennesker blev målt, kategoriseret og rangeret efter forestillinger om intelligens, egnethed, sundhed og social værdi. Det skete med samtidens sprog om videnskab og forbedring, men med meget konkrete konsekvenser for, hvem der blev anset som ønskelige, normale eller belastende.  

Rua M. Williams’ bog Disabling Intelligences er stærk, fordi den ikke bare spørger, om AI laver fejl. Den spørger, hvilke idéer om intelligens, kapacitet og menneskelig værdi der allerede ligger inde i systemerne, før de overhovedet bliver taget i brug. Hos Williams hører eugeniske tankemønstre ikke bare fortiden til. De lever videre i den måde, teknologi, intelligens og menneskelig egnethed stadig bliver forstået og operationaliseret på.  

Det afgørende er derfor ikke at sige, at AI er eugenik. Det afgørende er at spørge, om AI viderefører en beslægtet logik: at mennesker kan vurderes, rangeres og frasorteres gennem tilsyneladende objektive systemer.

Metaeugenik

Det er her, begrebet metaeugenik bliver nyttigt. Hos Williams er metaeugenik ikke først og fremmest en statslig politik eller en biologisk doktrin, men en mere diffus og samtidig mere nutidig mekanisme: internaliserede overbevisninger, der driver eugenisk adfærd på personlige, interpersonelle og politiske niveauer. Med andre ord en bagvedliggende logik, hvor visse kroppe, adfærdsmønstre, kognitive profiler og livsformer lettere bliver læst som ønskelige end andre.  

I AI-sammenhæng betyder det, at sorteringen ikke nødvendigvis kommer som et ideologisk slogan. Den kommer som optimering. Som rangering. Som sandsynlighedsberegning. Som modeller, der er sat til at finde “de bedste”, “de sikreste”, “de mest egnede”, “de mindst risikable” eller “de mest produktive”.

Sorteringen sker ikke som programerklæring. Den sker som teknologi.

Når optimering bliver selektion

AI-systemer bliver sjældent bygget til at diskriminere. De bliver bygget til at optimere. Det lyder mere uskyldigt, men er i praksis ikke nødvendigvis mindre indgribende. For hvad vil det sige at optimere et ansættelsessystem? Det vil sige at finde de kandidater, der ligner succes. Hvad vil det sige at optimere kreditvurdering? At finde dem, der ligner lav risiko. Hvad vil det sige at optimere predictive policing, sagsbehandling eller forsikringsmodeller? At finde de mønstre, der ligner afvigelse, tab eller fare.  

Problemet er ikke bare, at systemerne kan tage fejl. Problemet er, at selve optimeringsmålet ofte favoriserer bestemte grupper, livsformer og historiske mønstre. Hvis fortidens “succes” allerede er kønnet, klassedelt, præget af handicapnormer eller skæv i forhold til etniske minoriteter, vil systemet ikke bare måle verden. Det vil stabilisere den. Det er her, AI går fra at være statistik til at blive selektion.

Den skjulte norm

Rua M. Williams’ arbejde er særligt stærkt, fordi det flytter opmærksomheden fra “bias” som teknisk problem til norm som kulturel og politisk struktur. I stedet for kun at spørge, om modellen er skæv, spørger hun, hvilke forestillinger om intelligens, kapacitet og menneskelig værdi der overhovedet gør modellen mulig.  

Det er et afgørende skifte. For AI-systemer bygger næsten altid på en skjult norm. Ikke nødvendigvis en eksplicit erklæret norm, men en praktisk norm for, hvad der tæller som godt sprog, stabil adfærd, troværdighed, produktivitet, sundhed eller beslutningskompetence. Det er her, Williams’ titel bliver så præcis: Disabling Intelligences. Ikke fordi AI kun sorterer på handicap, men fordi teknologien ofte er bygget på meget smalle idéer om, hvad intelligens og funktionsevne overhovedet er.  

Når systemer måler mennesker op mod disse standarder, bliver afvigelse ikke bare noget, der eksisterer. Det bliver noget, der kan beregnes.

Hvem rammes?

Når man først får øje på logikken, bliver det også tydeligt, hvem der oftest kommer i klemme. Mennesker med handicap er en oplagt gruppe, fordi deres liv alt for ofte bliver målt mod standarder for tempo, arbejdsevne, kommunikation og kognition, som de ikke selv har været med til at definere. Men det gælder også etniske minoriteter, kvinder og mennesker med atypiske karriereforløb eller livsforløb — alle dem, der lettere fremstår som afvigelser, når systemet er kalibreret efter en anden norm.  

Det interessante er, at dette ikke kræver, at nogen i systemet aktivt ønsker diskrimination. Det er nok, at normen allerede er skæv. Det er også derfor, AI-sortering så let kan undgå politisk opmærksomhed. Den rammer ikke nødvendigvis alle på én gang, og den taler sjældent i et sprog, der lyder diskriminerende. Den arbejder i stedet med sandsynligheder, mønstre og risikoprofiler. Men konsekvensen kan være den samme: nogle mennesker får lettere adgang, andre møder mere modstand, og nogle bliver slet ikke opfattet som plausible kandidater, troværdige borgere eller ønskelige profiler.

Teknologiens særlige legitimitet

Mennesker har altid sorteret mennesker. Det nye er ikke sorteringen som sådan. Det nye er den særlige legitimitet, AI kan give den. Når en menneskelig chef, bankrådgiver eller sagsbehandler træffer en tvivlsom beslutning, kan vi i det mindste forestille os bias, fordomme og dårlig dømmekraft. Når beslutningen kommer fra et system, der fremstår data-drevet, statistisk og teknisk, ændrer dens karakter sig. Den får en aura af nødvendighed. Den ligner ikke længere en vurdering. Den ligner et resultat.  

Det er her, teknologien bliver farlig på en anden måde end den åbent ideologiske udvælgelse. For sorteringen kan fortsætte uden stor dramatik. Den behøver ikke et manifest. Den behøver bare et interface og et sæt optimeringsmål.

Når diskrimination bliver statistisk

Det er vigtigt at skelne mellem individuel og statistisk diskrimination. Individuel diskrimination handler om, at et menneske vurderer et andet menneske ud fra fordomme, stereotyper eller direkte fjendtlighed. Statistisk diskrimination er noget andet. Her bliver man ikke nødvendigvis afvist for det, man selv har gjort, men fordi man ligner en kategori, som systemet forbinder med en bestemt sandsynlighed.  

AI-systemer arbejder ofte netop på dette niveau. De siger ikke: denne person er uønsket. De siger: denne profil ligner lavere sandsynlighed for succes. Denne adfærd ligner højere risiko. Dette mønster ligner noget, der historisk har været dyrt, langsomt eller afvigende.

Det gør diskriminationen mere teknisk, mere plausibel — og sværere at anfægte. Og det er netop derfor, metaeugenik er et så stærkt begreb. Det gør det muligt at beskrive, hvordan selektion kan fortsætte, uden at nogen behøver tale i fortidens biologiske sprog. Den kan ske som sandsynlighedsregning.

Hvad kan modvirke det?

Hvis AI’s problem kun var onde intentioner, ville løsningen være enkel. Men når problemet også ligger i data, normer og optimeringsmål, bliver modsvaret mere krævende.

Det første skridt er at holde op med at beskrive systemerne som neutrale. De er designede. De er trænet på noget. De er bygget til nogen. Det betyder, at bias-audits, transparens og dokumentation ikke er luksus, men basale krav.  

Det andet skridt er at lade dem, der typisk rammes af systemerne, få større indflydelse på deres design, evaluering og anvendelse. Ikke som pynt, men som viden. Når flere perspektiver kommer ind i udviklingen, bliver teknologien ikke automatisk retfærdig, men den bliver mindre blind for sin egen norm.  

Det tredje skridt er regulering. Ikke fordi lovgivning kan løse alt, men fordi markedet alene har en meget svag interesse i at beskytte dem, der sorteres fra. Her bliver EU AI Act og andre governance-værktøjer relevante, ikke som tekniske detaljer, men som forsøg på at placere ansvar et sted, hvor teknologien ellers let får lov til at fremstå som en naturkraft.  

Teknologiens tavse beslutninger

Det mest urovækkende ved metaeugenik er ikke, at den larmer. Det er, at den ikke gør. Den kommer ikke nødvendigvis som en stor ideologisk kampagne. Den kommer som prioritering, risikomodellering, automatiseret triage, optimering og smart beslutningsstøtte. Den bærer ikke fortidens sprog, men den kan alligevel videreføre noget af den samme logik: at nogle liv lettere bliver opfattet som værdifulde, stabile og ønskelige end andre.  

AI-systemer træffer ikke bare beslutninger. De er med til at forme, hvem der fremstår kompetent, troværdig, lovende, produktiv eller egnet. Det handler ikke om at sige, at vi lever i fortiden igen. Det handler om at få øje på, hvordan fortidens sorteringslogikker kan vende tilbage i en ny form. Ikke som erklæret ideologi. Men som teknologi. Sorteringen sker ikke nødvendigvis gennem overbevisning. Den kan opstå gennem optimering.

Vi laver journalistik om AI, fordi udviklingen går hurtigere end den offentlige samtale.

På AI Portalen forsøger vi at skabe overblik, perspektiv og kritisk indsigt i en teknologi, der allerede former alt fra arbejdsmarkedet til demokratiet — ofte uden at nogen bremser op og forklarer, hvad der foregår.

Hvis vores artikler hjælper dig med at forstå AI lidt bedre, så overvej at støtte arbejdet.

Et medlemskab gør én ting mulig: at vi kan blive ved med at undersøge, dokumentere og forklare, hvordan AI påvirker Danmark — uden investorer, uden PR-interesser og uden at jage hype.

Bliv medlem og vær med til at styrke uafhængig journalistik om AI.