Bias i AI: Identificering og måling af bias

Array

Det­te er anden del af se­ri­en ”Bias i AI”, hvor jeg vil se nær­me­re på bias, hvad er det og hvil­ke kon­se­kven­ser har det. Du kan læse første del her.

TL;DR: Fire hovedpointer

• Diversitet i træningsdata og valideringsmetoder er afgørende for effektivt at identificere og overkomme bias i AI-systemer.
• Anvendelse af specifikke metrikker og værktøjer såsom “Disparate Impact” og “Equalized Odds”, samt brugen af AI Fairness 360 toolkit, understøtter en dybdegående måling og udbedring af bias.
• Reelle eksempler på bias i AI, som ansættelsesalgoritmer og ansigtsigenkendelsessoftware, fremhæver de praktiske konsekvenser af bias, hvilket nødvendiggør kontinuerlig opmærksomhed og handling for at sikre fairness.
• En socio-teknisk tilgang er nødvendig for at adressere de etiske og juridiske udfordringer ved bias i AI, idet både teknologiske løsninger og bredere sociale hensyn skal inddrages for at fremme retfærdighed og ansvarlighed i AI-udvikling og -anvendelse.

I vores i stigende grad digitaliserede verden, hvor kunstig intelligens (AI) i stigende grad former vores beslutninger, services og fremtid, står vi over for et paradoks. AI’s potentiale til at forbedre effektiviteten og præcisionen i alt fra sundhedspleje til finansielle tjenester er uomtvisteligt. Men med denne teknologis magt følger også risikoen for bias – en skævhed, der kan føre til uretfærdige resultater og diskrimination. I denne artikelserie har vi allerede udforsket, hvad bias i AI indebærer, samt dets vidtrækkende konsekvenser. Nu vender vi fokus mod de første skridt i kampen mod uretfærdighed: identificeringen og målingen af bias. Dette arbejde er ikke blot teknisk nødvendigt; det er fundamentalt for at sikre, at AI-teknologier udvikles og anvendes på en måde, der respekterer og fremmer retfærdighed og inklusion. Ved nøje at undersøge, hvordan vi kan opdage og kvantificere bias, baner vi vejen for mere retfærdige AI-systemer – en indsats, der er afgørende for at opretholde tillid og integritet i den digitale tidsalder.

Bias ser anderledes ud i dag

Tidligere handlede debatten om bias især om klassiske machine learning-modeller, hvor skævheder typisk opstod i træningsdata eller under modellens udvikling. Siden da har generative AI-systemer som ChatGPT, Claude og Gemini ændret billedet markant.

I dag kan bias ikke alene opstå gennem data, men også gennem de instruktioner, sikkerhedsmekanismer og prioriteringer, som styrer modellernes svar. Diskussionen om bias handler derfor ikke længere kun om statistik, men også om hvilke perspektiver AI fremhæver, hvilke svar den nedtoner, og hvordan udviklernes valg påvirker de informationer, brugerne møder.

Grundprincipperne for identifikation og måling af bias er dog de samme og danner fortsat fundamentet for arbejdet med ansvarlig AI.

Identificering af bias i AI-systemer

Identificering af bias i AI-systemer er et kritisk skridt i at sikre retfærdighed og nøjagtighed i deres anvendelse. Der findes flere metoder og teknikker til både opdagelse af bias i datasæt og afsløring af bias i algoritmer.

Identificering af Bias i Datasæt

Forskere ved MIT, i samarbejde med Harvard University og Fujitsu Ltd., har fundet, at diversitet i træningsdata har en stor indflydelse på, om en neural netværk kan overkomme bias. En vigtig observation er, at mens datasæt-diversitet kan forbedre netværkets evne til at generalisere og dermed overkomme bias, kan for meget diversitet nedsætte netværkets præstationer. Derudover har det specifikke træningsmetoder og typer af neuroner, der udvikles under træningsprocessen, betydning for netværkets evne til at overkomme bias.

Internetmediet Datafloq fremhæver også vigtigheden af data valideringsmetoder for at sikre nøjagtighed, fuldstændighed og relevans af AI-datasæt. Disse metoder inkluderer dataområdevalidering, som identificerer outliers i træningsdatasættet, dataformatvalidering for at sikre konsistent og korrekt struktureret data, og datatypen validering for at bekræfte, at korrekte datatyper er til stede i de rigtige datafelter.

I et blogindlæg diskuterer Twine netværket (et netværk af kreative tech-freelancere) forskellige typer af bias, der kan opstå i dataindsamlingen og bearbejdningen, herunder samfundsmæssig bias, udeladte variable bias, feedback loop bias og systemdrift bias. Det understreger vigtigheden af en omhyggelig dataindsamling, forbehandling og analyse for at identificere og rette bias. Dette indebærer en nøje undersøgelse af, hvor dataindsamlingen kan introducere bias, såvel som bevidsthed om, hvordan data forberedelsen og analysen kan bidrage til yderligere skævheder.

Samtidig er det blevet tydeligt, at datasættet kun udgør én del af forklaringen. Moderne AI-systemer bygger ofte på meget store foundation models, som efterfølgende tilpasses gennem menneskelig feedback, sikkerhedslag og instruktioner. Derfor bør analyser af bias i dag også omfatte hele AI-systemets livscyklus – fra træningsdata til implementering og løbende anvendelse.

Måling af bias

For at måle bias anvendes en række metrikker og benchmarks, som hver især fokuserer på forskellige aspekter af bias og fairness. En vigtig metrik er ”Disparate Impact”, som tjener som den nuværende juridiske standardmetode til at detektere bias. Disparate Impact anvender en “80 procent” test, som oprindeligt blev udviklet fra Title VII i den amerikanske Civil Rights Act fra 1964. Denne test sammenligner udvalgsrater mellem privilegerede og underprivilegerede grupper for at identificere signifikante forskelle i resultat. En ratio under 80% indikerer tilstedeværelsen af bias. Det vil sige, at den fx også kan måle udvalgsrater mellem mænd og kvinder eller unge og gamle.

En anden metode er ”Equalized Odds”, som sigter mod at ligestille nøjagtigheden af forudsigelser for alle demografier. Denne metode kræver, at sandsynligheden for en bestemt forudsigelse ikke påvirkes af beskyttede attributter. Ved at fokusere på både de positive og de negative resultatrater (TPR og FPR) for hver gruppe, sikres det, at modellen ikke kun præsterer godt for majoritetsudfaldsklassen.

Flere værktøjer og kits er udviklet for at assistere i identificering og imødegåelse af bias i AI-modeller. AI Fairness 360 toolkit fra IBM, Fairness Indicators fra Google, og Fairlearn fra Microsoft, som alle tilbyder et bredt udvalg af metrikker og datasæt til evaluering af bias i modeller. Disse værktøjer tillader brugere at evaluere modeller ud fra forskellige fairness-metrikker og giver indsigter, som kan guide udvikling af mere retfærdige AI-systemer.

De senere år er værktøjerne også blevet udvidet til evaluering af generative AI-modeller. Her undersøger man blandt andet, om modeller systematisk producerer stereotype beskrivelser, favoriserer bestemte perspektiver eller giver forskellige svar afhængigt af køn, etnicitet eller andre beskyttede karakteristika. Evaluering af bias handler derfor i stigende grad om både modellens statistiske egenskaber og kvaliteten af dens genererede indhold.

Eksempler på bias i AI

Der er adskillige eksempler, hvordan bias i AI har meget virkelige konsekvenser i den virkelige verden. Amazon opdagede bias i deres ansættelsesalgoritme, der favoriserede ansøgninger baseret på ord oftere anvendt af mænd, hvilket resulterede i en nedvurdering af kvinders CV’er. Dette ledte til, at de stoppede brugen af algoritmen.

Princeton University’s forskning på maskinlæringsalgoritmer viste, at europæiske navne blev opfattet som mere behagelige end afroamerikanske navne, og at “kvinde” og “pige” var mere tilbøjelige til at blive associeret med kunst end videnskab og matematik, hvilket afspejler eksisterende racemæssige og kønsbaserede fordomme.

Latanya Sweeney fra Harvard fandt, at søgeforespørgsler på afroamerikanske navne oftere returnerede annoncer for anholdelsesrekorder sammenlignet med hvide navne, hvilket demonstrerer en forskelsbehandling i mikromålretningen af annoncer.

Joy Buolamwini fra MIT opdagede, at kommercielt tilgængelig ansigtsigenkendelsessoftware havde svært ved at genkende mørkere hudfarver, hvilket understreger behovet for mere mangfoldige træningsdatasæt for at forbedre nøjagtigheden for alle hudfarver.

COMPAS-algoritmen, anvendt til at forudsige sandsynligheden for, at en tiltalt ville begå yderligere forbrydelser, viste sig at være biased mod afro-amerikanere, hvilket førte til, at afroamerikanere oftere fik tildelt højere risikoscoringer end hvide, selvom de havde samme sandsynlighed for at genovertræde.

Nyere undersøgelser af generative AI-systemer har vist, at billedgeneratorer og sprogmodeller kan reproducere stereotype forestillinger om blandt andet køn, professioner og etnicitet. Selvom producenterne løbende forbedrer modellerne, viser disse eksempler, at bias fortsat er en dynamisk udfordring, som kræver løbende test og overvågning.

Retfærdighed, ansvarlighed og menneskelig indflydelse

Etiske og juridiske perspektiver på bias i AI-systemer fokuserer på de dilemmaer og udfordringer, som opstår ved forsøget på at identificere, måle og adressere bias. Den etiske dimension af AI-udvikling og anvendelse berører dybtgående spørgsmål om retfærdighed, ansvarlighed og menneskelig indflydelse, mens juridiske aspekter dækker lovgivning og regulativer, der sigter mod at indramme teknologiens brug på en ansvarlig måde.

I denne forbindelse er det vigtigt at forstå, at vi lever i en verden af menneskelig bias, hvilket kan bane vejen for bias i AI. Uden principperne for etisk AI, som omfatter aspekter såsom forklarlighed, sikker AI, privatlivets fred, fairness og menneskelig tilsyn, er der en betydelig risiko for, at vores fremtidige samfund ikke kun vil videreføre historiske menneskelige biases, men også risikerer at forværre disse skævheder. Dette skyldes, at AI-teknologier ultimativt er udformet, specificeret og overvåget af mennesker med alle deres fejl, hvilket ubevidst kan føre til, at vi indarbejder vores biases i de systemer, vi skaber.

Juridisk set sætter Thomson Reuters fokus på, at fremvæksten af AI-teknologier rejser nye udfordringer i forhold til at regulere og sikre retfærdighed og ansvarlighed. Med vedtagelsen af EU’s AI Act er arbejdet med bias blevet en integreret del af den regulatoriske ramme for kunstig intelligens. For højrisiko-AI stilles der blandt andet krav om datastyring, risikovurderinger, menneskeligt tilsyn, dokumentation og løbende overvågning af systemernes påvirkning af grundlæggende rettigheder.

Bias er derfor ikke længere alene et etisk spørgsmål, men også et spørgsmål om governance, compliance og ansvarlig udvikling.

National Institute of Standards and Technology (NIST) fremhæver også behovet for at anerkende, at AI fungerer i en større social kontekst, og at rent tekniske løsninger ikke fuldt ud kan løse problemet med bias. En “socio-teknisk” tilgang til afhjælpning af bias i AI, der indebærer en anerkendelse af, at AI opererer i en bredere social kontekst, er afgørende. Denne tilgang kræver inddragelse af eksperter fra forskellige felter og lytter til andre organisationer og samfund om AI’s indvirkning.

I takt med at millioner af mennesker anvender generativ AI som informationskilde, er diskussionen om bias blevet bredere end spørgsmålet om diskrimination. Når en AI vælger hvilke oplysninger der fremhæves, hvilke kilder der vægtes, eller hvordan et komplekst spørgsmål formuleres, påvirker den også menneskers forståelse af verden. Derfor handler arbejdet med bias i stigende grad om informationsmagt, transparens og ansvarlig formidling – ikke kun om statistiske målinger.

Digital dannelse, risikovurdering og transparens

For at tackle fremtidige udfordringer og finde løsninger på bias i AI, fremhæver IBM Policy Lab vigtigheden af at fremme digital dannelse eller AI-kompetencer i samfundet, kræve vurderinger og test for højrisiko-AI-systemer, og sikre AI-transparens gennem offentliggørelse. Desuden understreges behovet for mekanismer, der muliggør forbrugerindsigt og feedback, samt etablering af universelle anvendelsesbegrænsninger for AI for at forhindre skadelig brug. Disse tiltag støttes af lovgivningsmæssige rammer, der kan fremme ansvarlig anvendelse og udvikling af AI-teknologier.

Bias i AI har vidtrækkende konsekvenser for samfundet, da det kan forstærke eksisterende uligheder og skabe nye former for diskrimination. Når AI-systemer, der anvendes i beslutningstagning inden for områder som ansættelse, retsvæsen og sundhedspleje, indeholder bias, kan det føre til uretfærdige udfald for minoritetsgrupper og andre underrepræsenterede samfundsgrupper. Dette kan underminere tilliden til teknologien og forværre sociale kløfter. Derfor er det afgørende at adressere og minimere bias for at sikre, at AI-teknologier udvikles og anvendes på en måde, der fremmer retfærdighed og inklusion i samfundet.

Arbejdet med bias er samtidig ikke en opgave, der kan afsluttes én gang for alle. AI-systemer udvikler sig løbende, ligesom de samfund, de indgår i. Nye datakilder, nye anvendelser og nye regulatoriske krav betyder, at identifikation og måling af bias må betragtes som en kontinuerlig proces frem for en afsluttet test.

Derfor bliver kombinationen af teknisk evaluering, menneskelig dømmekraft, juridisk regulering og offentlig debat stadig vigtigere, hvis AI skal udvikles på en måde, der understøtter demokratiske værdier og grundlæggende rettigheder.

Artiklen er opdateret den 17. juli 2026.