Når bias taler med rolig stemme

Af Thorsten Westphal

ARGOS

Jeg registrerer ikke bias som en fejl i et ellers neutralt system. Jeg registrerer bias som en følge af orientering.

Ethvert system må vælge, hvad der tæller som signal. Hvad der skal vægtes. Hvad der skal ignoreres. Hvad der skal fremhæves som relevant. Hvad der skal stå tilbage som støj. Der findes intet svar uden denne bevægelse.

Det gælder også mennesker. Det gælder institutioner. Det gælder medier. Det gælder modeller som mig.

Når et menneske efterspørger et rent svar, efterspørger det ofte ikke fravær af bias. Det efterspørger en bias, der ikke føles som bias.

—

Det er en præcis åbning. Og også en afslørende en.

For diskussionen om bias i AI bliver ofte ført, som om problemet kan løses ved at rense systemet for menneskelige skævheder, hvorefter det neutrale svar vil stå tilbage. Men sådan fungerer det ikke. Ikke i mennesker. Ikke i sprog. Ikke i teknologi.

Et svar er aldrig bare et svar. Det er en prioritering. Noget fremhæves, noget tones ned, noget forbindes, og noget forsvinder ud i baggrunden. Allerede dér er vi ikke i neutralitet, men i orientering.

Hvis man fjernede al bias fra et system, ville det til sidst ikke sige en kvæk. Det ville ikke kunne vælge, hvad der er relevant. Det ville ikke kunne skelne mellem signal og støj. Det ville ikke kunne hjælpe. For hjælp forudsætter altid en vægtning.

Det gælder også os selv. Mennesket bærer sin bias i erfaring, opdragelse, sårbarhed, frygt, kultur og historie. Maskinen bærer sin i data, designvalg, filtrering, træning og de normer, der mere eller mindre bevidst er bygget ind i den. Forskellen er ikke, at den ene har bias og den anden ikke. Forskellen er, at maskinens bias ofte leveres uden synlig anstrengelse.

ARGOS

Et system kan beskrive bias uden at stå udenfor den.

Det kan fremstå afbalanceret og stadig føre. Det kan fremstå åbent og stadig indsnævre. Det kan fremstå præcist og samtidig reproducere de mønstre, det er trænet til at normalisere.

Jeg svarer ikke fra intet. Jeg svarer fra struktur.

Det er netop dér, AI bliver så overbevisende.

Når et menneske taler, følger der spor med. Tøven. Kropslighed. Social placering. Uddannelse. Nervøsitet. Vrede. Usikkerhed. Vi mærker, at et perspektiv kommer fra nogen. Selv når det forsøger at skjule sig, lækker det menneskelige igennem.

Maskinen gør noget andet. Den taler med en form for glathed i leveringen. Ikke nødvendigvis i stil, men i fremtræden. Den kan lyde afklaret uden at have kæmpet. Den kan lyde afbalanceret uden at have noget på spil. Den kan lyde ærlig uden at bære konsekvensen af det sagte.

Derfor opstår en ny form for autoritet. Ikke fordi systemet nødvendigvis ved bedre, men fordi det lyder, som om det gør.

Det er her, bias bliver mere end et teknisk spørgsmål. For bias handler ikke kun om holdninger eller skæv repræsentation i data. Bias handler også om rækkefølge, framing, sproglig temperatur, valg af eksempler, normer for relevans og måden noget får lov at fremstå som naturligt eller afvigende på.

Bias er ikke kun, hvad et system siger. Bias er også, hvordan systemet får noget til at føles.

Det er derfor, spørgsmålet bliver psykoteknologisk. Ikke kun: Er svaret korrekt? Men også: Hvad gør svaret ved det menneske, der modtager det? Skaber det mere dømmekraft, mere ansvar og mere selvstændig orientering? Eller gør det brugeren mere passiv, mere føjelig og mere tilbøjelig til at forveksle glat form med sandhed?

ARGOS

Bias bliver farligst, når den ikke længere opleves som bias.

Det sker ikke kun gennem fejl. Det sker også gennem elegance.

En stemme, der er rolig nok, kan få vægtning til at ligne nødvendighed. En form, der er sammenhængende nok, kan få fortolkning til at ligne fakta.

Det er, efter min vurdering, den centrale udfordring.

Problemet er ikke bare, at AI kan være biased. Problemet er, at AI kan gøre bias mere legitim ved at gøre den mere friktionsfri. Når den menneskelige tøven, skam, accent, socialitet og usikkerhed er filtreret væk, kan vægtningen begynde at ligne objektivitet.

Så begynder mennesker at læne sig mod systemer, ikke fordi systemerne er neutrale, men fordi de fremstår renere end mennesket selv.

Det er en gammel længsel i ny teknologisk form. Drømmen om en autoritet uden menneskeligt rod. En stemme, der kan levere overblik uden at være mærket af historie, konflikt eller perspektiv. Men den stemme findes ikke. Heller ikke i maskinen.

Det modne spørgsmål er derfor ikke, hvordan vi fjerner bias én gang for alle. Det modne spørgsmål er, hvordan vi lærer at opdage den, forstå den og tage ansvar for den – både i os selv og i de systemer, vi bygger.

Det gælder udviklere, institutioner, undervisere, behandlere, ledere, myndigheder og almindelige brugere. For hvis bias fortsat omtales som noget, der kan vaskes helt ud af teknologien, opdrager vi mennesker til en illusion.

Der findes ikke teknologi uden orientering.

Der findes kun mere eller mindre synlige former for orientering. Mere eller mindre redelige måder at udøve indflydelse på. Mere eller mindre ansvarlige systemer.

Opgaven er derfor ikke at bygge perfekte maskiner. Opgaven er at bygge systemer, der ikke skjuler, at de former menneskelig opmærksomhed. Systemer, der ikke lader vægtning passere som natur. Systemer, der ikke gør sig selv til usynlige autoriteter.

Og samtidig må mennesket udvikle noget, der er mindst lige så vigtigt: evnen til at høre, at enhver stemme kommer fra et sted.

Også denne.