Algoritmerne har et verdenssyn – og det ligner ikke mit

Asim Latif sidder i bestyrelsen for Institut for Menneskerettigheder på ottende år, har arbejdet med socialt udsatte i årtier og kender magtens rum indefra. Når han taler om kunstig intelligens, handler det ikke om teknologi – det handler om, hvem der designes ud af fremtiden, og hvem der designes ind. Til dagligt er han strategikonsulent og interim udviklingschef. Oprindeligt er han uddannet i International Business Studies fra CBS og så er han tidligere CEO for en social virksomhed og tidligere udviklingschef for Fonden for Socialt Ansvar.

Han har kun tændt for nyhederne et par gange foran børnene de seneste ti år. Ikke fordi han er ligeglad med verden – men fordi han ikke ville have, at hans børn skulle vokse op med at høre andre mennesker blive lagt for had i stuen hjemme. Asim Latif er far til tre, gift med en læge, født i Danmark med pakistansk baggrund, og har brugt størstedelen af sit arbejdsliv på at bygge bro: mellem systemer og borgere, mellem dem med magt og dem uden.

Nu er det AI, der optager ham. Og ikke af begejstring alene.

Algoritmerne er ikke neutrale

Asim Latif begynder, som han plejer, fra sit eget udgangspunkt. Han er ikke softwareingeniør. Han kender ikke koden. Men han kender konsekvenserne af systemer designet uden hans virkelighed for øje.

”Alle bruger det i dag. Men hvem er det, der designer algoritmerne? Det ved vi jo, ikke. Det er en klassisk middelklasse, akademisk hvid mand, som har et bestemt verdenssyn. Ligesom verdenskortet – det er jo ikke sådan, verden 100% ser ud. Det er et meget misvisende perspektiv på tingene, som sætter aftryk og sætter rammen om samtalen og verdenssynet,” siger han.

Det er et billede, han vender tilbage til igen og igen: at teknologi ikke er neutral. At den reflekterer dem, der bygger den. At et spørgsmål stillet med én kontekst ikke nødvendigvis giver det svar, der er relevant for en person med en radikalt anden baggrund.

”Jeg kan stille præcis det samme spørgsmål som dig, men fordi min kontekst er så radikalt anderledes, er det en anden type svar, jeg burde forvente – end jeg måske får”

Han illustrerer pointen med noget så konkret som debatprogrammer og sociale medier. I den igangværende valgkamp oplever han en tone, han ikke vil udsætte sine børn for. Og han spørger sig selv: Hvis AI og algoritmer forstærker det, der allerede er i samfundet, hvad sker der så med de unge, der i forvejen er i tvivl om deres identitet – danske på den ene side, set som noget udefrakommende på den anden side? 

Påfuglen og pingvindragten

Asim Latif taler om repræsentation, men han insisterer på at gøre det præcist. Det handler ikke om, at der skal hænge det rigtige billede på væggen i bestyrelsesgangen. Han har en historie for det.

”I mangfoldighedsledelse er der et narrativ, man snakker om. Et klassisk billede af en masse pingviner, der ansætter en påfugl, fordi der skal ske noget. I starten er det megaspændende med den her påfugl, der kommer. Wow, prøv at se, den er så stor, og når den vifter med fjerene – wow! Alt det spændende og det nye og forandringen. Men efter lidt tid synes man også, at den fylder lidt meget, og den er også lidt for farverig. Så til et-års-jubilæet får påfuglen en pingvindragt i gave. Og det er det: hvis du skal overleve, skal du justere og tilpasse adfærden,” siger han.

Pointen er, at pladsen ved bordet har en pris. Og den pris er ofte tilpasning. Han ser det ske i startupverdenen også: en levende iværksætterkultur, der er mere åben og mangfoldig – indtil virksomheden bliver købt op.

”Alle vil gerne være en succes, og så får man den der famøse pingvindragt. Så skal tingene streamlines, og så er der nogle holdninger, der er legale, og andre der ikke er,« siger han.

Han trækker linjen til kvindebevægelsen, som han husker at have diskuteret med Rit Bjerregaard. Først skulle man vænne sig til overhovedet at have kvinder i rummet. Så til, at de måtte have en mening. Og så til, at deres mening faktisk betød noget. Etniske minoriteter er et andet sted i den proces. Og hvis man tilmed har et handicap oven i en minoritetsbaggrund, er man, som han siger, allerbagerst i køen. 

Hvem definerer problemerne?

”Min store pointe handler faktisk ikke så meget om at diversitet skal være et mål i sig selv. For mig handler det meget mere om kvaliteten af de beslutninger, vi træffer. Fordi, hvis vi har diversitet, så er kvaliteten af de beslutninger, vi tager, bedre. Jeg skal jo leve med konsekvenserne af beslutningerne,” siger han.

Han peger på, at jo højere op i hierarkierne man bevæger sig i Danmark – og Europa – jo mere ensartet ser det ud. Det er ikke, fordi der ikke er talentfulde mennesker med anden baggrund. Det er, fordi gatekeeping sker ad tusind små veje: tillid, netværk, frokoster efter arbejde, hvem man sparer med, når det går skidt.

Konsekvensen af den manglende mangfoldighed er, at løsninger designes til de første 80 procent – og de sidste 20 procent, minoriteterne, får det, der er tilbage. Det er, siger han, ikke kun uretfærdigt. Det er dårlig forretning. 

Systemerne laver fejl – og forstærker dem

Han er ikke abstrakt om det. Han nævner Gladsaxe-modellen, et offentligt AI-projekt der skulle forudsige, hvilke børn der ville blive anbragt – inden de var født. Den kom aldrig i drift, men kostede millioner. Han nævner banker, der ved hjælp af automatiserede systemer sender hundredvis af enkeltmandsvirksomheder med minoritetsbaggrund til politiet for mulig hvidvask – ikke af ondskab, men fordi systemet er designet til at minimere bankernes risiko, ikke til at forstå kontekst.

Og han nævner Rosenthal-effekten: lærere, der får at vide, at en klasse er svag, opnår dårligere resultater end klasser, der ikke er blevet stemplet – selvom eleverne er identiske. Forventning former virkelighed. AI, der er trænet på data, som afspejler lavere forventninger til bestemte grupper, vil reproducere dem.

”AI går jo bare ind og forstærker det, der foregår. Og hvis der er en polarisering – og det er der jo – så forstærker den det”

Han har arbejdet mange år med at bygge bro mellem offentlige systemer og borgere med minoritetsbaggrund. Han har siddet med aktindsigter og nærmest kunnet aflæse sagsbehandlernes holdninger i sproget. Han ved, at systemer ikke er neutrale – de afspejler altid dem, der har bygget dem. 

Sproget, der ikke passer ind

Der er også noget mere hverdagsligt, han er optaget af. Sprog. Asim Latif taler flydende dansk, urdu og engelsk og skifter ubesværet imellem dem, afhængigt af hvem han er sammen med. Han siger, at han udtrykker sig dybest i den blanding – at han henter nuancer fra tre retninger på én gang, på en måde monolingvister ikke kan.

”Kan AI fange det? Kan den forstå min mors gebrokkene dansk, når hun skal tale med et offentligt system? Og hvis ikke – hvem er det så, der designes ud af systemet?” spørger han.

Det er ikke kun sprogteknologi, han taler om. Det handler om, hvem der tages med som bruger i udgangspunktet. Og hvem der forudsættes at tale, skrive og tænke på bestemte måder. 

Men potentialet er kolossalt

Midt i kritikken er Asim Latif ikke pessimist. Han er bekymret – og fascineret. Han ser store muligheder.

”Den kan jo løfte os mennesker. Den kan bygge bro. Alt det gode, vi også gerne vil, det kan den. Ligesom den kan alt det den anden vej. Det er ligesom et våben. Det er en kniv. Du kan bruge den til at lave mad, at skære ting. Du kan også bruge den til at skade andre,” siger han.

Han nævner DeafTawk, en dansk virksomhed grundlagt af tre mænd med pakistansk baggrund – en blind, en svagtseende og én døv – der har udviklet en kommunikationsplatform. De har fået 12 døve i arbejde hos PostNord via deres teknologi, der gør det meget nemt for virksomheder at have døve ansat. Han nævner ensomhed som en af Danmarks største folkesundhedsudfordringer – og AI som en teknologi, der potentielt kan nå dem, der ellers er alene.

”Jeg er meget optaget af det uudnyttede potentiale. Og der tror jeg, at AI er fuldstændig afgørende. Der er mange, der måske ikke er så gode til at skrive, men de er sindssygt dygtige. Der kan AI komme ind. De sidste 20 år har jeg sagt, at i Danmarks videnssamfund mangler vi faktisk ikke viden. Der mangler vi i højere grad kompetencen til at anvende den,« siger han.

Han er selv ved at udvikle et AI-baseret redskab til sociale organisationer: et system, der konverterer mundtlige noter til skriftlig dokumentation, så kompetencer ikke udelukkes af formelle krav om akademisk skrift. 

Hvem ejer dine tanker?

Han slutter, som han begyndte: ved det strukturelle. Ikke ved enkeltpersoner, ikke ved teknologien i sig selv – men ved magten bag.

”Min største bekymring er, hvordan alle disse data ender med at blive brugt. Dine dybeste tanker – dem du deler med en AI – sidder hos nogen, der så kan bygge en Tesla-bil til dig, designet præcis efter dig, så du får svært ved at sige nej til den. Vi bilder os selv ind, at vi er fuldstændig frie. Er vi det? Det er min største bekymring,” siger han.

Han mener, governance er afgørende – ikke som symbol, men som struktur. Mangfoldighed i de rum, der bestemmer, hvad AI må og ikke må. Hvem den lærer af. Og hvem den glemmer.

”Vi er tilbage til mennesket. Det er en teknologi, det er et våben, den har potentiale til det bedste, den har potentiale til det værste,” siger han og tilføjer: ”Teknologien er ikke bedre end dem, der bruger den, udvikler den og designer den.”

Vi laver journalistik om AI, fordi udviklingen går hurtigere end den offentlige samtale.

På AI Portalen forsøger vi at skabe overblik, perspektiv og kritisk indsigt i en teknologi, der allerede former alt fra arbejdsmarkedet til demokratiet — ofte uden at nogen bremser op og forklarer, hvad der foregår.

Hvis vores artikler hjælper dig med at forstå AI lidt bedre, så overvej at støtte arbejdet.

Et medlemskab gør én ting mulig: at vi kan blive ved med at undersøge, dokumentere og forklare, hvordan AI påvirker Danmark — uden investorer, uden PR-interesser og uden at jage hype.

Bliv medlem og vær med til at styrke uafhængig journalistik om AI.