I lyset af det netop overståede kommunalvalg er spørgsmålet om hvordan AI påvirker demokratiet fået aktualitet. Der findes efterhånden en del forskning på området, hver med deres egen tilgang. Aarhus Universitet arbejder med Algorithms, Data and Democracy, andre med AI for Democracy Action Lab, og listen vokser. Der er altså mennesker derude, som kan se mulighederne. Men med muligheder følger der selvfølgelig også risici.
Nogen forsøger at beskytte demokratiet mod AI. Andre forsøger at bruge AI i demokratiets tjeneste.Og andre igen prøver begge dele samtidig.
Der er rigeligt at tage fat på. Risikoen for at dele af en demokratiske praksis ryger over i en black box af ukendt oprindelse banker på. Det er i sig selv noget, vi bør forholde os til.
Men hvad er demokratiet? For at tale om AI’s potentielle påvirkning af demokratiet, så er det givtigt at genbesøge selve demokratiets idéhistorie. Her kan folk som Hannah Arendt, Robert A. Dahl og Cass R. Sunstein, der repræsenterer tre forskellige, men gensidigt udfordrende måder at tænke demokrati på, hjælpe os på vej.
Arendt, der med The Human Condition udviklede en teori om det politiske som et rum af fælles handling, så demokrati som noget, der kun kan eksistere, hvis mennesker træder frem i et fælles lys, hvor deres forskelle bliver synlige. Demokratiets kerne er ikke en institutionel mekanisme, men et levende rum af pluralitet, uforudsigelighed og gensidig tilstedeværelse. Enhver teknologi, der reducerer synligheden af menneskelig forskellighed eller forskyder handling fra den offentlige sfære til tekniske infrastrukturer, udfordrer for Arendt selve muligheden for politisk liv.
Dahl repræsenterer en anden tradition. Som en af det 20. århundredes mest indflydelsesrige demokratiteoretikere formulerede han et begreb om demokrati som en styreform, der er kendetegnet ved politisk lighed, effektiv deltagelse og adgang til information. Demokratiets legitimitet afhænger i dette perspektiv af, at borgere kan træffe oplyste valg, og at minoriteter ikke reelt ekskluderes fra processen. Hvor Arendt ser det politiske som en eksistentiel praksis, ser Dahl det som et institutionaliseret sæt procedurer, der skal udjævne magt og sikre deltagelse. Det gør hans teori særlig sensitiv over for asymmetrier i informationsadgang, hvilket er et centralt punkt i diskussionen om algoritmisk personalisering og datadrevet segmentering.
Sunstein, der skriver i forlængelse af både retsfilosofi og nyere kommunikationsforskning, placerer spørgsmålet om demokrati i det digitale offentlige rum. For ham er demokratiets udfordring ikke blot uvidenhed, men tendensen til gruppepolarisering, hvor mennesker i homogene netværk selvforstærker deres synspunkter. Demokratiet kræver en offentlighed, hvor uenighed og modstrid ikke blot tolereres, men aktivt cirkuleres. Set fra dette perspektiv kan sprogmodeller risikere at skabe en glattere, mere friktionsfri offentlighed, hvor algoritmer — i deres forsøg på at levere relevante svar — reducerer eksponeringen for alternative stemmer.
Når disse tre traditioner lægges ved siden af hinanden, fremstår forskellen mellem flertallets ret til at bestemme og individets ret til at sige nej i et nyt lys. Hos Dahl er konflikten et spørgsmål om institutionel balance, hos Sunstein et spørgsmål om offentlighedens tilstand, og hos Arendt et spørgsmål om selve betingelsen for menneskelig sameksistens. AI påvirker alle tre niveauer samtidig, hvilket gør teknologien svær at regulere efter en enkelt demokratiforståelse.
Nedenstående tabel opsummerer forskellene mellem de tre positioner og indkredser de specifikke udfordringer, AI rejser i hver tradition.
| Tænkeren | Hovedidé om demokrati | Forståelse af spændingen mellem flertal og individ | Hvordan AI udfordrer dette |
| Hannah Arendt | Demokrati som et fælles offentligt rum, hvor mennesker kan handle og træde frem for hinanden i pluralitet | Individets ret til at sige nej er en forudsætning for et politisk rum, hvor forskelle kan blive synlige; flertallet er sekundært | AI kan usynliggøre forskelle, reducere fælles offentlighed og erstatte dømmekraft med procesautomatisering, hvilket truer det politiske rum som menneskelig fremtræden |
| Robert A. Dahl | Demokrati som institutionel proces med fokus på lighed, deltagelse og adgang til information | Flertallets ret er legitim, når individet har reel deltagelses- og informationsmulighed | AI kan skabe asymmetrisk informationsadgang og personaliserede sfærer, der underminerer informeret deltagelse og lighed |
| Cass R. Sunstein | Demokrati som en kommunikationsorden, der modvirker polarisering og understøtter mødet med uenighed | Individets ret beskytter mod gruppedynamikker; flertallets stabilitet afhænger af pluralitet i offentligheden | AI kan forstærke ekkokamre gennem personalisering og optimere efter engagement frem for pluralitet, hvilket øger polarisering |
AI udfordrer ikke blot demokratiet på et enkelt niveau, men åbner for forskellige brudflader, alt efter hvad man egentlig synes at demokrati er.
For Arendt udgør AI’s indtog i den politiske sfære en forskydning fra menneskelig handling til teknologisk beregning. Hun ville næppe fokusere på fejlrater eller præcision, men på den mere grundlæggende risiko for, at borgerne ikke længere træder frem i et fælles offentligt rum, men interagerer gennem lag af digitale mellemled, som ingen helt kan gennemskue. Når AI udarbejder tekster, opsummerer politiske debatter eller filtrerer borgerhenvendelser, bliver offentligheden mindre et sted, hvor mennesker viser sig for hinanden, og mere et sted, hvor synligheden er kurateret gennem teknologiske infrastrukturer. Dette reducerer den pluralitet, der for Arendt er selve demokratiets livsform, og erstatter spontanitet og fremtræden med et sæt forudsigelige sproglige mønstre genereret af modeller, der hverken deltager eller handler.
Hos Dahl bliver problemstillingen en anden. Her er det ikke det politiske rum som menneskelig praksis, men den demokratiske proces som institutionel orden, der kommer under pres. Hvis demokratiet forudsætter informeret deltagelse, bliver enhver teknologisk mekanisme, der selekterer eller personaliserer information, en potentiel kilde til ulighed. For Dahl er demokratiets legitimitet afhængig af, at borgerne modtager sammenlignelig og tilstrækkelig information, og at minoriteter ikke ekskluderes på grund af manglende adgang eller dataprofiler, der frasorteres. AI’s evne til at fastholde brugere i bestemte informationsøkologier eller præsentere nyheder på måder, der optimeres efter engagement snarere end oplysning, skaber asymmetrier, som svækker grundlaget for oplyste valg. Det betyder ikke, at AI nødvendigvis skader processen, men at teknologien risikerer at fungere som en slags informationsmæssig topografi, hvor vejene ikke længere er de samme for alle, og hvor flertallet ikke længere repræsenterer et fælles grundlag, men et sæt parallelle oplevelser af virkeligheden.
Sunstein repræsenterer et tredje niveau, hvor fokus ligger på offentlighedens kvalitet som et rum for uenighed og modstrid. AI’s største udfordring i dette perspektiv er ikke dens fejlmargin, men dens succes: dens evne til at tilpasse sig brugeren skaber en glat og friktionsfri informationsstrøm, der i højere grad bekræfter end udfordrer. Det åbner for polarisering, ikke gennem konfrontation, men gennem fraværet af den pluralitet, som demokratiet kræver. Når sprogmodeller forsøger at levere relevante, sammenhængende og høfligt formulerede svar, kan de utilsigtet udviske de konflikter og skarpheder, der i Sunsteins optik er nødvendige for, at borgerne ikke kun møder sig selv. Den demokratiske samtale risikerer at blive en form for stiliseret udgave af uenighed, hvor de svære spørgsmål glider ud til fordel for et harmoniseret udtryk.
I alle tre traditioner er pointen dermed ikke, at AI i sig selv udgør en trussel, men at teknologien ændrer de betingelser, hvorunder demokrati udfolder sig. Den ændrer måden, vi træder frem på, måden vi informeres på, og måden vi møder modstand og uenighed på. Spørgsmålet om, hvorvidt demokratiet er til salg, bør derfor ikke forstås som en simpel kritik af kommercialisering, men som en påmindelse om, at demokratiet bygger på en række sårbare mekanismer, der alle kan forrykkes af teknologier, der hverken er demokratiske eller udemokratiske, men som opererer efter logikker, der ikke behøver at stemme overens med nogen af de tre demokratiforståelser. Det kræver, at vi ikke kun tænker i regulering, men også i politisk teori, hvis vi vil forstå, hvad der reelt er på spil.
—
Kilder
Arendt, H. (1958). The Human Condition. University of Chicago Press.
Dahl, R. A. (1998). On Democracy. Yale University Press.
Sunstein, C. R. (2017). #Republic: Divided Democracy in the Age of Social Media. Princeton University Press.
