Det amerikanske primærvalg frem mod præsidentvalget i 2024 er skudt i gang og en række valg er på vej i europæiske lande. Det har skabt bekymring omkring misinformation særligt i form af DeepFakes på baggrund af udviklingen af kraftige generative AI-systemer.
Det har OpenAI annonceret at de vil gør noget ved. I et blogindlæg skriver de bla.:
“At beskytte integriteten af valg kræver samarbejde fra alle dele af den demokratiske proces og vi vil sikre os, at vores teknologi ikke bliver brugt på en måde, der kan underminere denne proces”
OpenAI arbejder, siger de, primært på to fronter: udvikling og brugen af deres systemet.
På Udviklingssiden arbejder man (som de fleste AI-virksomheder) med red-teaming. Det vil sige, at udover udviklingsteamet, så har man et team, der udelukkende søger efter svagheder i systemet og måder at misbruge det på. Samtidigt involverer man brugere og andre eksterne i processen.
På brugssiden arbejder man med udvikling af vilkårene for brug. Her skriver OpenAI bla.:
“Vi arbejder forsat på, at forstå hvor effektivt vores værktøjer muligvis er til at overbevise individer. Indtil vi ved mere, tillader vi ikke folk at bygge applikationer til brug for politiske kampagner og lobbyvirksomhed.”
DeepFakes og masseproduceret og -distribueret materiale er en af de største trusler mod demokratiske valg i dag.
Kathleen M. Carley, professor ved Carnegie Mellon University mener, at sociale medie-virksomheder er forpligtet til at udvikle politikker for at forhindre påvirkning af brugerne af AI-generet materiale, siger hun til online mediet Computerworld.
OpenAI’s udmelding følger i kølvandet på lignende udmeldinger fra Google og Meta (Facebook), det skal imødegå udefrakommende indblanding i valghandlinger.
Medlem
80 kr./måned
Bliv medlem på PatreonStøt AI-Portalens uafhængige journalistik om AI, magt og samfund.
Inkluderet i medlemskabet:
- Månedligt nyhedsbrev
- Invitationer til online og fysiske events om AI
- Adgang til optagelser og opsamlinger fra møder og foredrag
- Rabat på events
- Invitation til månedligt online redaktionsmøde
Medlemskab administreres via Patreon.
Vi laver journalistik om AI, fordi udviklingen går hurtigere end den offentlige samtale.
På AI Portalen forsøger vi at skabe overblik, perspektiv og kritisk indsigt i en teknologi, der allerede former alt fra arbejdsmarkedet til demokratiet — ofte uden at nogen bremser op og forklarer, hvad der foregår.
Hvis vores artikler hjælper dig med at forstå AI lidt bedre, så overvej at støtte arbejdet.
Et medlemskab gør én ting mulig: at vi kan blive ved med at undersøge, dokumentere og forklare, hvordan AI påvirker Danmark — uden investorer, uden PR-interesser og uden at jage hype.
Bliv medlem og vær med til at styrke uafhængig journalistik om AI.
Follow Me