Bias i AI er ikke det, du tror

Bias er blevet et af de ord, som næsten automatisk dukker op, når man taler om kunstig intelligens. Hvis en chatbot svarer stereotypt, hvis en billedgenerator fremstiller mennesker på mærkelige måder, eller hvis et system tilsyneladende favoriserer bestemte kilder, perspektiver eller konklusioner, så siger vi hurtigt, at der er bias i systemet. Ordet bruges efterhånden så ofte, at det næsten lyder selvforklarende. Men det er det ikke.

For hvad betyder det egentlig, når vi kalder noget bias? Umiddelbart lyder svaret enkelt. Bias kommer fra det græske ord for skævhed. Noget der hælder i en bestemt retning. Noget er ikke neutralt. Men allerede her opstår det første problem. Hvis du siger, at noget er skævt, så må du vel også have en forestilling om, hvordan det ville se ud, hvis det ikke var skævt. Når vi på godt nydansk kalder et svar, en udvælgelse eller en vurdering biased, så sammenligner vi det, bevidst eller ubevidst, med en idé om noget mere retvisende, mere balanceret eller mere korrekt.

Det gør bias til et mere filosofisk begreb, end det ofte får lov til at være. For måske siger ordet noget grundlæggende om din egen forståelse af viden og virkelighed. Hvornår giver det mening at tale om bias? Og hvornår gør det ikke? Hvis du undersøger noget, hvor der faktisk findes en ekstern virkelighed, som vi kan ramme mere eller mindre præcist, så giver bias-begrebet umiddelbart god mening. Hvis du derimod bevæger os ind på spørgsmål om politik, moral eller det gode liv, bliver sagen mere uklar. Her er der sjældent en neutral facitliste, som en algoritme eller et menneske bare kan afvige fra. I sådanne tilfælde er det måske mere ærligt at tale om perspektiv, værdier og ståsted end om bias.

Det er netop denne sondring, der gør diskussionen interessant. I debatten om AI bruges bias ofte, som om ordet dækker det hele. Nogle gange handler det om fejl i forhold til en målbar virkelighed. Andre gange handler det om skæv udvælgelse. Og i andre tilfælde bruges ordet om noget, der snarere burde beskrives som en normativ eller politisk uenighed om, hvordan verden bør forstås. Når vi diskuterer bias i AI, diskuterer vi derfor hvad vi selv mener, at god viden er.

Hvad bias normalt betyder

Bias er bestemt ikke noget, som kun findes i kunstig intelligens. Tværtimod er det en kendt udfordring i al analyse, forskning og beslutningstagning. Hvis du interviewer tre af dine egne venner om et emne og bagefter siger, at du nu ved, hvad “folk” mener, så vil de fleste straks kunne se problemet. Det er ikke nødvendigvis fordi dine venner lyver, og heller ikke fordi dine spørgsmål er meningsløse. Problemet er, at udvælgelsen af respondenter allerede hælder i en bestemt retning. Din viden er blevet formet af, hvem du har spurgt og hvem de er for dig.

Det samme gælder måden, du spørger på. Hvis du stiller forskellige mennesker forskellige spørgsmål, eller hvis dine spørgsmål er ledende, uklare eller bygget op på en måde, der inviterer til bestemte svar, så opstår der også en skævhed. Her ligger bias altså ikke i personerne, men i selve metoden. På samme måde kan bias opstå i fortolkningen. To personer kan godt sidde med det samme materiale og alligevel lægge vægt på forskellige dele af det. Den ene hæfter sig ved mønstre, der bekræfter en forventning. Den anden ser noget andet. Dermed bliver bias ikke kun et spørgsmål om data, men også om udvælgelse, spørgsmål, metode og læsning.

Det er netop derfor, bias er et så nyttigt begreb i mange sammenhænge. Det hjælper dig med at få øje på, at viden ikke bare opstår af sig selv. Den bliver frembragt gennem en proces, og den proces kan hælde. Nogle gange sker det helt åbenlyst. Andre gange er det langt mere subtilt. Et datasæt kan være systematisk skævt, uden at nogen bevidst har ønsket det. En interviewer kan påvirke svarene, uden at det er meningen. En analytiker kan se det, der passer bedst til en eksisterende antagelse, uden selv at opdage det. Bias er bestemt ikke det samme som ond vilje, men ofte bare et tegn på, at menneskelig erkendelse og vidensproduktion altid foregår gennem valg.

Når begrebet alligevel bliver mere vanskeligt, er det fordi forskellige typer skævhed ofte blandes sammen. Nogle former for bias handler om repræsentation. Har du spurgt de rigtige mennesker, eller kun dem, der ligner dig selv? Andre handler om måling. Har du målt det, du tror, du måler, eller har din metode skubbet resultatet i en bestemt retning? Andre igen handler om fortolkning. Ser du faktisk materialet, eller ser du mest det, du på forhånd forventede at finde? I den forstand er bias ikke én ting, men en samlebetegnelse for flere beslægtede problemer i produktionen af viden.

Når man taler om bias i AI, handler det sjældent kun om, at en model siger noget “forkert”. Det kan lige så godt handle om, hvilke data modellen er trænet på, hvilke mønstre den derfor har lært, hvilke kilder den typisk fremhæver, og hvilke typer svar den lettere falder tilbage på. Som jeg bemærker i min guide til prompting, bliver varians ofte overset eller misforstået af nye brugere af kunstig intelligens. Men netop fordi AI både kan være variabel og skæv, bliver det vigtigt at skelne mellem forskellige typer problemer. Ikke alt, hvad der virker mærkeligt, er nødvendigvis bias. Og ikke al bias er af samme slags.

Men her opstår et mere grundlæggende spørgsmål. Når du siger, at noget er skævt, hvad er det så skævt i forhold til? Hvad er det normale, det neutrale eller det mere rigtige, som skævheden afviger fra? Det spørgsmål kan man ikke besvare alene ved at pege på dårlige data, upræcise spørgsmål eller uheldige prompts. Man er også nødt til at stoppe op og spørge, hvad viden egentlig er, og hvordan mennesker overhovedet kommer frem til den. Her støder man hurtigt på to meget forskellige måder at forstå viden på. Den ene tager udgangspunkt i, at der findes en verden derude, som vi kan beskrive mere eller mindre korrekt. Den anden tager udgangspunkt i, at vores viden altid vil være præget af sprog, perspektiv og den sammenhæng, vi befinder os i. De to måder at tænke på kaldes normalt positivisme og konstruktivisme, og de er relevante her, fordi de giver to forskellige svar på, hvornår det giver mening at tale om bias.

Når virkeligheden har et facit 

Positivismen bygger på forestillingen om, at der findes en virkelighed uden for os selv, og at vi i princippet kan beskrive den mere eller mindre præcist. Verden er der, også når vi misforstår den. Fakta afhænger ikke af vores følelser. Temperaturen udenfor er den temperatur, den er. Antallet af mennesker i et lokale er det antal, det er. Hvis du måler forkert, har du ikke skabt en ny virkelighed. Du har bare målt dårligt.

Det er en måde at tænke på, som giver god mening i mange sammenhænge. Hvis du vil vide, hvor mange kunder der faktisk købte et produkt, hvor høj arbejdsløsheden er, eller om et lægemiddel virker bedre end et andet, så er det svært at komme uden om tanken om, at der findes en virkelighed, som analysen skal forsøge at ramme så godt som muligt. Det samme gælder i ingeniørvidenskab. Hvis en bro kræver en bestemt mængde stål for at kunne bære belastningen, så hjælper det ikke, at nogen har en anden oplevelse eller et andet perspektiv. Hvis der ikke er nok stål i konstruktionen, kan broen brase sammen. Her er virkeligheden ligeglad med vores fortolkninger. Materialer har egenskaber, belastninger har konsekvenser, og nogle beregninger er simpelthen mere korrekte end andre.

I den forstand ligger positivisme også tæt på den almindelige forståelse, mange mennesker har om viden. Der er noget derude, og nogle beskrivelser af det er bedre end andre. Når en læge måler blodtryk, når en økonom opgør inflation, eller når en ingeniør beregner bæreevnen i en konstruktion, arbejder de ud fra en forestilling om, at virkeligheden har et facit.

Når man tænker sådan, bliver bias også et meget meningsfuldt begreb. Bias er i denne forståelse en skævhed, der bringer dig længere væk fra en mere korrekt beskrivelse. Hvis du kun interviewer dine egne venner, får du sandsynligvis et mindre retvisende billede af, hvad folk generelt mener. Hvis dit datasæt underrepræsenterer bestemte grupper, er der en risiko for, at dine resultater bliver systematisk skæve. Hvis en AI-model konsekvent giver forkerte svar om noget, der faktisk kan undersøges og måles, så er det nærliggende at sige, at modellen er biased eller i hvert fald producerer biased output.

Det er netop derfor, positivismen er så relevant for AI-debatten. En stor del af de kritikpunkter, der rettes mod kunstig intelligens, giver kun rigtig mening, hvis man samtidig antager, at systemet burde kunne komme tættere på noget mere korrekt. Hvis en model svarer forkert på, hvor mange ben et insekt har, hvis den gengiver statistiske forhold skævt, eller hvis den systematisk overser bestemte typer af kilder i en opgave, så ligger der bag kritikken en forestilling om, at der fandtes et bedre og mere retvisende svar. Bias bliver her et ord for afstanden mellem det svar, systemet giver, og det svar, vi mener, det burde give.

Positivismen har også en anden styrke. Den giver os et sprog for kvalitetssikring. Hvis man tror på, at nogle svar er mere korrekte end andre, giver det mening at teste, sammenligne, kontrollere og forbedre. Så bliver det relevant at spørge, om datasættet er repræsentativt, om målingen er valid, om modellen over- eller underfremhæver bestemte mønstre, og om resultatet kan reproduceres. Det er også derfor, så meget AI-forskning og så mange diskussioner om fairness, benchmark og evaluering i praksis hviler på en positivistisk grundtanke, også når folk ikke selv bruger ordet.

Det betyder ikke, at positivismen løser alle problemer. Men den forklarer, hvorfor bias-begrebet føles så intuitivt. Hvis du mener, at verden i princippet kan beskrives mere korrekt, så giver det også mening at tale om skævheder, fejl og forvrængninger. På den måde er positivismen den tænkemåde, der gør bias til et stærkt og logisk brugbart ord.

Samtidig er det også her, begrænsningen viser sig. For ikke alle spørgsmål ligner temperaturmålinger, kundeantal, medicinske forsøg eller broberegninger. Ikke alle emner har en ydre facitliste, som vi bare kan ramme mere eller mindre præcist. Og når vi bevæger os over i spørgsmål om mening, værdier, politik og fortolkning, begynder det at blive mere uklart, om bias stadig er det rigtige ord. Det er netop derfor, vi også er nødt til at se på den anden måde at forstå viden på.

Når verden skal fortolkes

Konstruktivismen tager udgangspunkt i, at menneskers viden om verden altid er præget af deres individuelle sprog, erfaring, kultur og perspektiv. Når mennesker prøver at forstå sociale fænomener, værdier, mening eller politiske spørgsmål, så gør de det altid fra et bestemt udgangspunkt.

Hvis du spørger, hvad der er det gode liv, hvad retfærdig fordelingspolitik er, eller hvad der gør et samfund frit, så står du sjældent med en situation, der ligner en broberegning. Her er der ikke nødvendigvis én ydre facitliste, som alle bare burde nå frem til, hvis de regnede rigtigt. Mennesker vil vægte forskellige hensyn forskelligt. De vil bruge forskellige begreber. De vil lægge mærke til forskellige ting. I sådanne tilfælde er det ofte mere rimeligt at sige, at folk har forskellige perspektiver, end at den ene uden videre er biased og den anden neutral.

Konstruktivismen minder os om, at meget viden ikke kun handler om at registrere verden, men også om at fortolke den. To mennesker kan godt se på den samme situation og nå frem til forskellige forståelser, ikke nødvendigvis fordi den ene har set forkert, men fordi de kommer med forskellige erfaringer, værdier og sprog. Den indsigt er særlig relevant, når man beskæftiger sig med samfund, kultur, politik, køn og moral. Her er uenighed ikke altid et tegn på fejl. Det kan også være et tegn på, at emnet i sig selv rummer flere legitime måder at forstå verden på.

Hvis man tager den tanke alvorligt, ændrer det også betydningen af bias. I en konstruktivistisk optik bliver det langt sværere at bruge bias som et enkelt ord for afvigelse fra neutralitet. For der er jo ikke et neutralt udgangspunkt, men kun dit og mit. En engelsk journalist præsenterede sidste år en chatbot, der kunne gennemlæse en tekst og forslå alternativer til ord, som der kunne opfattes som kønnede, racistiske eller heteronormative. Dette mente den gode journalist ville ”fjerne bias”. Men en konstruktivist ville påpege, at man her kun erstatter det ene bias med et andet. I spørgsmål om politik eller det gode liv giver det ofte mere mening at være åben om sit eget udgangspunkt end at lade som om, man taler fra et fuldstændig neutralt sted. Her bliver udfordringen ikke først og fremmest at fjerne bias, men at gøre perspektiver synlige og diskutable.

Det betyder ikke, at alt bliver lige gyldigt. Konstruktivisme er ikke relativistisk dovenskab, hvor alle påstande er lige gode. Nogle fortolkninger kan stadig være bedre begrundede, mere gennemtænkte og mere åbne om deres egne forudsætninger end andre. Men målestokken er en anden end i positivismen. Spørgsmålet er ikke kun, om en beskrivelse rammer en ydre virkelighed præcist. Det er også, om den fortolker en kompleks virkelighed på en redelig og reflekteret måde.

Meget af det, der i offentlig debat kaldes bias, handler ikke om målbare fejl på samme måde som for lidt stål i en bro eller et forkert opgjort kundetal. Det handler i stedet om normer, værdier, politiske prioriteringer og sociale perspektiver. Og her bliver det efter min vurdering misvisende at tale, som om der altid fandtes et neutralt facit, som systemet bare burde have leveret. I sådanne tilfælde er det mere præcist at spørge, hvilket perspektiv systemet afspejler, hvilke værdier der er bygget ind i det, og hvem der har defineret dem.

Det er også her, forskellen mellem de to måder at forstå viden på bliver virkelig vigtig. Positivismen giver god mening, når virkeligheden har et facit. Konstruktivismen giver god mening, når verden i højere grad skal fortolkes. 

<Figur – To måder at forstå viden på>

Fra målbare fejl til skjulte værdier

Jeg håber, at min opstilling af positivisme og konstruktivisme, viser hvorfor jeg synes at meget af snakken om bias i AI er rodet. I nogle tilfælde bruges ordet præcist. I andre tilfælde bruges det mest som en lidt finere måde at sige, at man ikke bryder sig om et svar.

Hvis der findes en virkelighed, som i princippet kan beskrives mere korrekt, så giver bias god mening. Hvis en model svarer forkert på et målbart spørgsmål, hvis den bygger på skæve data, eller hvis den systematisk overser relevant information, så er der tale om en reel skævhed. Her er bias et brugbart ord, fordi der faktisk er noget at måle afvigelsen op imod. Det er også derfor, så meget AI-kritik virker intuitivt overbevisende. Den bygger på forestillingen om, at systemet burde kunne komme tættere på et mere korrekt svar.

Som jeg også bemærker i min guide til prompting, kan sådan en skævhed opstå flere steder. Den kan ligge i træningsdataene, altså i hvilke kilder, sprog og udsnit af virkeligheden modellen overhovedet har lært fra. Den kan ligge i træningsmetoden, hvor mennesker og systemer undervejs har vurderet, hvilke svar der skal opfattes som gode, hjælpsomme eller acceptable. Den kan ligge i systemprompten, altså i de skjulte instrukser om tone, grænser og prioriteringer, som brugeren sjældent ser. Og den kan ligge i historikken, hvor tidligere spørgsmål og tidligere interaktioner farver de næste svar. Selv hvis man holder fast i en positivistisk idé om, at et bedre svar findes, er det altså ikke nok bare at pege på “AI’en” som én samlet kilde til problemet. Skævheden kan være bygget ind flere steder på én gang.

Problemet opstår, når man forsøger at bruge det samme ord på spørgsmål, der ikke har et tilsvarende facit. Hvis emnet er politik, moral, køn eller det gode liv, så er situationen en anden. Her findes der sjældent et neutralt udgangspunkt, som alle burde lande på, hvis bare data var gode nok og modellen var lidt bedre trænet. Her handler uenigheden ofte ikke om fejl, men om værdier, prioriteringer og perspektiver. Og så bliver bias et farligt dovent ord. For så kommer det let til at betyde: dette svar afspejler ikke mit eget synspunkt, og derfor kalder jeg det biased.

Det er efter min vurdering en del af forklaringen på, at AI-debatten så ofte taler forbi sig selv. Nogle mennesker kritiserer AI, som om problemet altid er, at systemet endnu ikke er korrekt nok. Andre kritiserer AI, som om problemet først og fremmest er, at systemet afspejler bestemte normer og værdier. Begge dele kan være rigtige, men det er ikke det samme problem. Det første handler om afstanden til en mere korrekt beskrivelse. Det andet handler om, hvilke perspektiver der bliver gjort usynlige ved at blive præsenteret som neutrale.

Derfor er det heller ikke nok bare at sige, at AI har bias. Man er nødt til at spørge: 

• Bias i forhold til hvad? 
• Er der tale om en målbar skævhed i forhold til noget, der faktisk kan afgøres mere præcist? 
• Eller er der tale om et svar, der bygger på bestemte værdier og antagelser, som man burde være mere åben om? 

Hvis du ikke stiller de spørgsmål, risikerer du at blande to helt forskellige diskussioner sammen. For så kommer ordet bias til at dække over alt fra fejl i data og metode til almindelig politisk eller moralsk uenighed. Resultatet bliver, at vi mister evnen til at skelne mellem svar, der faktisk er dårlige, fordi de beskriver verden forkert, og svar, der opleves som problematiske, fordi de hviler på et andet perspektiv end dit eget. Og i det øjeblik bliver bias ikke længere et opklarende begreb, men et slørende. Noget der lyder præcist, men som i virkeligheden gør os mindre præcise. 

Den indiske filosofi Krishnamurti skrev i sin tid at ”observatøren er det observerede”, hvormed han mente at ethvert udsagn siger mere om afsenderen end hvad der bliver talt om. For ham ville vi først kunne nå til gode erkendelser, hvis vi var selvbevidste om de valg, som vi tog undervejs – og heri ligger min opfordring til dig, at du skal tage et valg, om hvorvidt det som du undersøger har et facit. Hvis du mener, at det har, så bør du prøve at eliminere bias, men hvis svaret svinger mellem nej og nok ikke, så bør du i stedet for prøve at forstå forskellige perspektiver.

Vi laver journalistik om AI, fordi udviklingen går hurtigere end den offentlige samtale.

På AI Portalen forsøger vi at skabe overblik, perspektiv og kritisk indsigt i en teknologi, der allerede former alt fra arbejdsmarkedet til demokratiet — ofte uden at nogen bremser op og forklarer, hvad der foregår.

Hvis vores artikler hjælper dig med at forstå AI lidt bedre, så overvej at støtte arbejdet.

Et medlemskab gør én ting mulig: at vi kan blive ved med at undersøge, dokumentere og forklare, hvordan AI påvirker Danmark — uden investorer, uden PR-interesser og uden at jage hype.

Bliv medlem og vær med til at styrke uafhængig journalistik om AI.