TEMA: Lovgivning om AI

Menneskerettigheder i en AI-tidsalder


Foto: Europarådet

TL;DR: Fire hovedpointer:

  • Den internationale AI-traktat skal sikre, at AI-systemer respekterer menneskerettigheder, demokrati og retsstatsprincipper i alle faser af deres livscyklus, fra design til afvikling.
  • Traktaten kræver gennemsigtighed, ansvarlighed og tilsyn, hvor virksomheder skal dokumentere, hvordan deres AI-modeller fungerer, samt sikre, at brugere kan identificere AI-genereret indhold.
  • Udfordringer omfatter risikoen for, at reguleringen kan hæmme innovation, især i sektorer, der er afhængige af AI. Samtidig er der bekymringer om, hvordan ensartet håndhævelse skal sikres på tværs af forskellige retssystemer.
  • Traktaten kan potentielt mindske forskellene mellem teknologisk førende lande og mindre udviklede nationer ved at tilbyde en internationalt anerkendt ramme for AI-regulering.

Den 5. september 2024 blev verdens første juridisk bindende traktat om kunstig intelligens (AI) åbnet for underskrifter i Vilnius, Litauen. Traktaten, officielt kaldet ”Europarådets rammekonvention om kunstig intelligens (AI), menneskerettigheder, demokrati og retsstatsprincipper” har til formål at sikre, at AI-systemer overholder menneskerettigheder, demokrati og retsstatsprincipper i deres design, udvikling, brug og afvikling.

Indtil videre har flere lande underskrevet traktaten, herunder USA, Storbritannien, EU, Israel, Andorra, Georgien, Island, Norge, Moldova og San Marino. Derudover er lande som Argentina, Australien, Canada, Costa Rica, Japan, Mexico, Peru, Uruguay og Den Hellige Stol involveret i forhandlingerne og forventes også at skrive under.

Traktaten markerer et globalt gennembrud for AI-regulering og forventes at træde i kraft, når fem underskrivende stater har ratificeret den, herunder mindst tre medlemmer af Europarådet.

Europarådet er en international organisation, der blev grundlagt i 1949 med det formål at fremme menneskerettigheder, demokrati og retsstatsprincipper i Europa. Organisationen har 46 medlemslande, herunder alle EU-medlemslande, men er ikke en del af Den Europæiske Union. Europarådet arbejder med juridisk bindende konventioner, såsom Den Europæiske Menneskerettighedskonvention, og fører tilsyn med implementeringen gennem institutioner som Den Europæiske Menneskerettighedsdomstol.

Baggrund for traktaten

Forløbet frem mod den første internationale traktat om kunstig intelligens (AI) begyndte som et forsøg på at skabe en global juridisk ramme, der kunne imødegå de stigende risici ved AI-systemers indflydelse på menneskerettigheder, demokrati og retsstatsprincipper. Traktaten, der blev initieret af Europarådet, blev vedtaget i maj 2024 efter 18 måneders intense forhandlinger. Denne rammeaftale involverede ikke blot de 46 medlemslande i Europarådet, men også store internationale aktører som USA, Japan, Israel og flere andre ikke-europæiske lande. Samtidig deltog repræsentanter fra civilsamfundet og industrien som observatører, hvilket sikrede en bred konsensus omkring indholdet.

Formålet med traktaten er at regulere AI på tværs af livscyklussen – fra design til afvikling – og sikre, at teknologien ikke undergraver grundlæggende rettigheder. Den bygger på centrale principper om gennemsigtighed, ansvarlighed, lighed og ikke-diskrimination. Forløbet har også involveret et samarbejde med internationale organisationer som FN og OECD for at sikre, at traktaten bliver globalt relevant og kan anvendes på tværs af landegrænser.

Traktaten blev formelt åbnet for underskrift den 5. september 2024, og den forventes at træde i kraft tre måneder efter, at fem lande, heraf tre fra Europarådet, har ratificeret den.

Centrale principper for menneskerettigheder

Den første internationale traktat om kunstig intelligens (AI), der er udformet af Europarådet, indeholder en række centrale principper, der skal sikre, at AI-teknologier anvendes på en måde, der respekterer menneskerettigheder, demokrati og retsstatsprincipper. Traktaten indeholder en række centrale elementer: 

1. Menneskerettigheder og individuel autonomi: Traktaten kræver, at AI-systemer ikke må føre til dehumanisering eller kompromittere individers frihed. Mennesker skal have kontrol over, hvordan AI påvirker deres liv, uden at deres autonomi mindskes.

2. Gennemsigtighed og tilsyn: AI-systemer skal være transparente. Dette inkluderer krav om at kunne identificere AI-genereret indhold, dokumentere data og metoder, der bruges i AI-modeller, og sikre menneskeligt tilsyn gennem hele AI-systemets livscyklus.

3. Ansvarlighed: Parterne skal etablere mekanismer, der holder dem, som udvikler og anvender AI-systemer, ansvarlige for eventuelle negative konsekvenser for menneskerettighederne. Dette kan omfatte juridiske og administrative foranstaltninger.

4. Ikke-diskrimination og lighed: AI-systemer skal designes og implementeres på en måde, der respekterer lighedsprincipper, herunder kønsligestilling og forbud mod diskrimination baseret på sociale eller økonomiske faktorer.

5. Privatlivsbeskyttelse: Traktaten fastslår, at AI-systemer skal beskytte individers privatliv og personlige data gennem effektive garantier og sikkerhedsforanstaltninger.

6. Pålidelighed og sikker innovation: AI-systemer skal være robuste og pålidelige. Traktaten opfordrer til innovation, men understreger, at det skal ske på en måde, der overholder retsstatsprincipperne og beskytter menneskerettighederne.

7. Ret til klage: Der skal være tilgængelige retsmidler for personer, hvis rettigheder krænkes som følge af brugen af AI, herunder krav om menneskelig kontrol og mulighed for at få klager behandlet i relevante systemer.

Udfordringer og kritik af AI-traktaten

En af de største udfordringer ved traktaten er at finde balancen mellem at regulere AI og samtidig fremme innovation. Kritikere frygter, at for stramme reguleringer kan hæmme den teknologiske udvikling og kvæle innovation i sektorer, der er afhængige af AI. Teknologivirksomheder og nogle eksperter har advaret om, at overdreven regulering kan skabe et miljø, hvor innovation bremser, og virksomheder flytter deres udviklingsaktiviteter til regioner med mindre restriktive regler.

Selvom traktaten fastsætter klare principper for gennemsigtighed, ansvarlighed og tilsyn, er der bekymringer om, hvordan disse regler vil blive håndhævet effektivt på tværs af forskellige jurisdiktioner. De forskellige retssystemer og regulatoriske tilgange blandt traktatens medlemslande kan føre til inkonsistens i implementeringen. Dette skaber usikkerhed om, hvorvidt traktaten vil kunne håndhæves ensartet og effektivt.

En anden udfordring er at få landene til at vedtage traktatens bestemmelser på tværs af forskellige retssystemer og kulturelle normer. Mens traktaten sigter mod at skabe et universelt regelsæt for AI, vil der være forskelle i, hvordan landene fortolker og implementerer disse regler i praksis. Nogle lande kan vælge at indføre mere lempelige eller mere strenge reguleringer baseret på deres nationale interesser, hvilket kan skabe udfordringer for traktatens samlede effektivitet.

Selvom traktaten lægger stor vægt på at beskytte menneskerettigheder og privatliv, er der kritik af, at den ikke går langt nok i at håndtere nogle af de mest presserende problemer, såsom AI-systemers overvågningskapacitet og potentiale for diskrimination. Nogle frygter, at traktaten ikke tilstrækkeligt forhindrer regeringer og virksomheder i at misbruge AI til masseovervågning eller ulovlig brug af persondata.

Selvom traktaten er juridisk bindende, er der stadig usikkerhed om, hvordan håndhævelsen vil foregå, især i private sektorer. Nogle kritikere mener, at traktatens bestemmelser kunne have været mere restriktive og præcise, da mange dele af traktaten overlader implementeringen til nationale lovgivninger, hvilket kan resultere i, at nogle lande ikke fuldt ud lever op til traktatens intentioner.

Forskelle og ligheder mellem traktaten og EU’s AI forordning

Både Europarådets AI-traktat og EU’s AI-forordning har som centralt mål at beskytte menneskerettigheder, demokrati og retsstatsprincipper. De fokuserer begge på at sikre, at AI-systemer ikke underminerer individuelle friheder, privatliv eller retssikkerhed. 

Samtidigt har traktaten og forordningen har den risiko-baserede tilgang til reguleringen af AI til fælles. Dette betyder, at de indfører strengere krav for AI-systemer, der udgør større risici, såsom systemer, der anvendes i overvågning eller retshåndhævelse, sammenlignet med lavrisiko-applikationer. 

Begge regelværker indeholder krav om gennemsigtighed, ansvarlighed og dokumentation for AI-systemer. Dette inkluderer krav om, at virksomheder skal kunne forklare, hvordan deres AI-modeller fungerer, og hvem der er ansvarlig for deres udvikling og brug.

En vigtig forskel mellem de to er, at EU’s AI-forordning er en regional regulering, der gælder for alle EU-medlemslande og har direkte virkning i hele EU. Europarådets AI-traktat er derimod en international traktat, der omfatter både europæiske og ikke-europæiske lande, og den kræver, at de deltagende lande ratificerer og implementerer den gennem deres nationale lovgivning. 

EU’s AI-forordning er en lovgivning med direkte bindende effekt i alle EU-medlemslande, mens Europarådets traktat skal ratificeres af de enkelte lande, før den får juridisk effekt. Dette betyder, at mens EU-forordningen straks gælder i hele EU, vil traktaten blive indført med forskellig hastighed og tilpasning afhængig af de enkelte landes interne processer.

Europarådets traktat lægger stor vægt på at være teknologineutral, hvilket betyder, at den ikke fokuserer på specifikke teknologier, men snarere på principper, der kan tilpasses fremtidige teknologiske fremskridt. EU’s AI-forordning er derimod mere præskriptiv og specificerer, hvilke typer AI-applikationer der er underlagt bestemte risikoniveauer, såsom biometrisk overvågning eller predictive policing.

EU’s AI-forordning lægger vægt på specifikke sektorer, såsom sundhed, transport og offentlig sikkerhed, hvor visse typer AI-systemer anses for højrisiko. Europarådets traktat er bredere og fokuserer på den overordnede beskyttelse af menneskerettigheder, hvilket betyder, at den gælder for alle sektorer uden specifik opdeling af anvendelsesområder.

Konsekvenserne af traktaten

Europarådets AI-traktat vil sandsynligvis have en betydelig indflydelse på den globale udvikling og implementering af kunstig intelligens (AI). Traktaten, som er verdens første juridisk bindende aftale om AI, sætter en international standard for ansvarlig brug af teknologien og kræver, at AI-systemer overholder menneskerettigheder, demokrati og retsstatsprincipper. Denne globale ramme kan potentielt ændre dynamikken i AI-udvikling på flere niveauer.

Traktaten sigter mod at skabe en fælles platform for AI-reguleringer, som landene kan tilpasse deres egne lovgivninger efter. Dette kan mindske forskellene i, hvordan AI bliver reguleret mellem regioner som USA, EU og mindre udviklede lande. Når flere lande følger de samme standarder for AI-transparens, ansvar og risiko, kan dette lette samarbejde og handel med AI-teknologi på tværs af grænser. En globalt anerkendt ramme som denne kunne også skabe en mere forudsigelig og stabil reguleringsstruktur for virksomheder, der opererer internationalt, hvilket ville gavne innovation.

USA har allerede underskrevet traktaten, hvilket viser en vilje til at tilpasse sig de internationale standarder. Kinas tilgang til AI er derimod mere domineret af statsledede initiativer, og Kina har endnu ikke tilsluttet sig denne traktat. Hvis Kina vælger at stå udenfor, kan det skabe en opdeling i AI-regulering, hvor vestlige lande fokuserer på regulering med fokus på menneskerettigheder og demokrati, mens Kina fortsætter med en mere statskontrolleret model. Det kan dog også lægge pres på Kina for at tilpasse sig, hvis landets handelspartnere og globale konkurrenter overholder traktaten, hvilket kunne mindske forskellen mellem Kinas tilgang og resten af verden.

For mange mindre og mellemstore lande kan traktaten fungere som en rettesnor for at udvikle AI-politikker, der er i tråd med internationale standarder. Dette kan give disse lande en større chance for at tiltrække investeringer i AI-udvikling, da internationale virksomheder måske foretrækker at operere i markeder, hvor reglerne er klare og ensartede. Derudover kan traktaten hjælpe med at styrke AI-kompetencer i disse lande ved at tilbyde rammer for ansvarlig innovation og AI-etik.

En udfordring ved traktaten er, hvordan den vil påvirke innovation, især for store techvirksomheder. Stramme krav om gennemsigtighed, ansvarlighed og risikostyring kan potentielt hæmme den hurtige udvikling af AI, især hvis virksomheder skal bruge betydelige ressourcer på at sikre overholdelse af reglerne. Dog kan klare rammer også styrke tilliden til AI-systemer globalt, hvilket i sidste ende kan fremme adoption og innovation på længere sigt.

En af de potentielt største fordele ved traktaten er, at den kan hjælpe med at reducere forskellene i AI-udvikling mellem de teknologisk førende lande (som USA, Kina og EU) og mindre udviklede lande. Ved at tilbyde en internationalt anerkendt ramme for regulering kan traktaten lette vidensdeling, kapacitetsopbygning og adgang til teknologi for lande, der endnu ikke har en stærk AI-infrastruktur.

Kilder:

https://www.crowell.com/en/insights/client-alerts/council-of-europes-first-legally-binding-international-treaty-on-ai-to-be-signed-in-september

https://www.coe.int/en/web/portal/-/council-of-europe-adopts-first-international-treaty-on-artificial-intelligence

https://www.eeas.europa.eu/delegations/council-europe/text-first-legally-binding-global-instrument-address-risks-posed-artificial-intelligence-finalised_en?s=51

https://aimagazine.com/articles/what-does-the-worlds-first-international-ai-treaty-include

https://www.computerworld.com/article/3506942/european-ai-treaty-adds-uncertainty-for-cios-but-few-specifics.html

https://www.theverge.com/2024/9/5/24236980/us-signs-legally-enforceable-ai-treaty

https://siliconangle.com/2024/09/05/us-uk-eu-others-sign-landmark-ai-safety-treaty

https://www.brusselstimes.com/1212100/eu-signs-first-legally-binding-international-treaty-on-ai

https://petapixel.com/2024/09/06/legally-enforceable-ai-treaty-signed-by-host-of-countries-including-us

0 notes
37 views

Write a comment...

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *