EU opretter AI kontor

EU’s nye AI-kontor er oprettet som en del af implementeringen af EU’s AI-lovgivning, kendt som EU AI-Act. Dette kontor, der er organisatorisk placeret under Kommissionen, er designet til at overvåge de mest avancerede AI-modeller, bidrage til udvikling af nye standarder og testpraksisser, samt sikre håndhævelse af fælles regler i alle EU-medlemsstater. Kommissionen beskriver selv, at kontoret vil fremme udviklingen af troværdig AI og beskytte mod AI risici. Kontoret skal:

• bidrage til ensartet implementering af AI forordningen på tværs af medlemsstater.
• udvikle redskaber, metoder og etablere en retningslinje for at evaluere kapaciteter og konsekvenser af general purpose AI-modeller (AI-modeller, der kan mere end blot tekst- eller billedgenering) og klassificere dem ud fra AI forordningens risikobaserede-klassifikation.
• lave up-to-date standarder og udarbejde regler på AI-området i samarbejde med industrien, det videnskabelige miljø og andre eksperter.
• efterforske overtrædelser af lovgivningen, herunder at vurdere model kapaciteter og pålægge udbydere at foretage ændringer i modellerne.
• udarbejde retningslinjer og vejledninger for fremme effektiv implementering af AI Forordningen og overvåge overholdelse af forordningen.

AI-kontoret vil arbejde tæt sammen med en række andre enheder og initiativer for at sikre en omfattende og effektiv implementering af AI-Act. Dette inkluderer et videnskabeligt panel af uafhængige eksperter, som vil rådgive AI-kontoret om GPAI-modeller og overvåge potentielle materielle sikkerhedsrisici relateret til fundamentmodeller. Derudover vil et AI-råd, bestående af repræsentanter fra EU-medlemslandene, fungere som en koordinationsplatform og et rådgivende organ for Kommissionen. Et rådgivende forum for interessenter vil også blive oprettet for at levere teknisk ekspertise til AI-rådet.

Blandt de specifikke krav indført af loven er forpligtelserne for udviklere og distributører af AI-systemer til at udføre en vurdering af indvirkningen på de grundlæggende rettigheder før brug, sikre høj kvalitet af datasæt, logge aktivitet, og sikre menneskelig tilsyn og et højt niveau af robusthed, nøjagtighed og cybersikkerhed. Dette understøttes af fremme af “regulatoriske sandkasser” og “real-world testing” for at udvikle og træne innovative AI-systemer før markedsføring, hvilket er et nøgleelement i loven for at sikre en pro-innovations- og støttende lovgivningsramme for AI’s udvikling inden for EU.

Straffen for ikke at overholde lovens krav kan variere betydeligt, med bøder op til 35 millioner euro eller 7%af den globale omsætning, afhængigt af overtrædelsens art og virksomhedens størrelse. Dette indikerer EU’s alvor i forsøget på at sikre ansvarlig anvendelse og udvikling af AI-teknologier.