OpenAI

OpenAI skærper sikkerheden op til valg


En illustration, der viser forskellige figurer, der repræsenterer samfundet, teknologivirksomheder og politikere, som arbejder sammen omkring en stor digital skærm med en fortolkning af OpenAI's logo.

   Læsetid 1 minut
Array

Det amerikanske primærvalg frem mod præsidentvalget i 2024 er skudt i gang og en række valg er på vej i europæiske lande. Det har skabt bekymring omkring misinformation særligt i form af DeepFakes på baggrund af udviklingen af kraftige generative AI-systemer.

Det har OpenAI annonceret at de vil gør noget ved. I et blogindlæg skriver de bla.:

“At beskytte integriteten af valg kræver samarbejde fra alle dele af den demokratiske proces og vi vil sikre os, at vores teknologi ikke bliver brugt på en måde, der kan underminere denne proces”

OpenAI arbejder, siger de, primært på to fronter: udvikling og brugen af deres systemet.

På Udviklingssiden arbejder man (som de fleste AI-virksomheder) med red-teaming. Det vil sige, at udover udviklingsteamet, så har man et team, der udelukkende søger efter svagheder i systemet og måder at misbruge det på. Samtidigt involverer man brugere og andre eksterne i processen.

På brugssiden arbejder man med udvikling af vilkårene for brug. Her skriver OpenAI bla.:

“Vi  arbejder forsat på, at forstå hvor effektivt vores værktøjer muligvis er til at overbevise individer. Indtil vi ved mere, tillader vi ikke folk at bygge applikationer til brug for politiske kampagner og lobbyvirksomhed.”

DeepFakes og masseproduceret og -distribueret materiale er en af de største trusler mod demokratiske valg i dag. 

Kathleen M. Carley,  professor ved Carnegie Mellon University mener, at sociale medie-virksomheder er forpligtet til at udvikle politikker for at forhindre påvirkning af brugerne af AI-generet materiale, siger hun til online mediet Computerworld.

OpenAI’s udmelding følger i kølvandet på lignende udmeldinger fra Google og Meta (Facebook), det skal imødegå udefrakommende indblanding i valghandlinger.

0 notes
44 views

Write a comment...

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *