AI Basics del 10: Generativ AI i myndigheder – hvad virker og hvad skal væk?

Skrevet af Kåre Bjørn Jensen assisteret af AI

Generativ AI er allerede rykket ind i mange offentlige organisationer, ofte via velkendte værktøjer som Microsoft Copilot og ChatGPT. Potentialet er stort, men konsekvensen af fejl er også større end i mange private sammenhænge: borgernes retssikkerhed, tillid til myndigheden og håndtering af følsomme data. Derfor er den nyttige tommelfingerregel ikke “kan vi?”, men kan vi – må vi – bør vi? [2].

Hvad der typisk giver værdi (når det gøres rigtigt)

Der er tre mønstre, der går igen, når Generativ AI skaber værdi uden at skabe uro:

1) Tekstarbejde med menneske som redaktør

Udkast, omskrivning, opsummering og oversættelse, hvor en fagperson altid gennemgår, retter og godkender før noget sendes ud [2].

2) “Kontrolleret AI” på egne kilder (spørg jeres dokumenter – med kilder)

Når AI’en primært svarer ud fra jeres egne, godkendte dokumenter, og det tydeligt fremgår, hvad svaret bygger på, så AI’en ikke finder på paragraffer eller “opfundne” kilder.

3) Møde- og notatstøtte med klare spilleregler

Transskription og resumé kan spare tid, men kræver faste retningslinjer for, hvad der må indtastes, og hvordan output må bruges. KL fremhæver bl.a. gennemsigtighed (“vær åben om brugen”) og løbende opdatering af retningslinjer [2].

Hvad der bør ud af drift (eller aldrig ind)

To faldgruber går igen i den offentlige sektor:

A) Ukontrolleret brug af åbne tjenester med følsomt indhold

KL er meget direkte: personoplysninger må ikke deles i offentligt tilgængelige AI-løsninger, medmindre værktøjet er vurderet og godkendt til den type behandling [2].

B) Brug der er i konflikt med AI-forordningens forbud

Digitaliseringsstyrelsen har (20/10-2025) udgivet en pakke med seks vejledninger om forbudt brug af AI – bl.a. skadelig manipulation/vildledning, udnyttelse af sårbarheder, social bedømmelse, ikke-målrettet indsamling af ansigtsbilleder til databaser og følelsesgenkendelse på arbejdspladser/uddannelsesinstitutioner [1].

Sandkassen: hvad kan man teste i praksis?

Et konkret dansk holdepunkt er den regulatoriske AI-sandkasse. Datatilsynet/Digitaliseringsstyrelsen offentliggjorde (22/10-2025) slutrapporter fra to projekter: Trygs “Dokumentassistent” og kommunernes / Systematics “Talt” (støtte til dokumentation i omsorgsjournal) [3]. Læringen kredser om retligt grundlag, test på rigtige data, udvælgelse af cases, risikovurdering og rolle-/ansvarsfordeling i samarbejder [3].

Governance og måltal, der faktisk hjælper

En praktisk minimumsmodel i myndigheder:

• Systemejer (faglig værdi samt beslutning om, hvad løsningen omfatter – og ikke omfatter)
• Jura/DPO (GDPR, hjemmel, logning, leverandørvilkår)
• IT-sikkerhed (adgang, datatab, integrationer)
• Faglig reviewer (kvalitet, bias, fejlretning)
• Drift/controlling (KPI’er + auditspor)

KPI’er der ofte virker: andel output med menneskelig godkendelse, fejltype-frekvens (fx at AI’en henviser til en forkert regel eller bestemmelse), tid sparet pr. proces, samt antal “stop-hændelser” (hvor brugeren afbryder pga. usikkerhed).

Case-skabelon (kan copy-pastes til kommunen / styrelsen)

1. Formål + afgrænsning (hvad må AI aldrig gøre?)
2. Datatyper (persondata? fortrolige oplysninger?)
3. Værktøj (åben/lukket, hvor data behandles, og hvilke opbevaringsperioder der gælder for data og logfiler)
4. Brugspolitik (input-regler + krav til transparens) [2]
5. Testdesign (repræsentative cases, acceptkriterier, “red flags”)
6. Drift (logning, reviewflow, incident-proces)
7. Revision (kvartalsvis: hvad virker, hvad skal strammes?)

Kilder

[1] Digitaliseringsstyrelsen-Nye vejledninger om forbudt brug af AI (20.10.2025). (digst.dk)

[2] KL-Guide om brug af generativ AI til kommunerne, Version 2.0 (December 2025). (KL)

[3] Datatilsynet-Slutrapporter fra første runde af den regulatoriske sandkasse om AI (22.10.2025). (Datatilsynet)

[4] Dataetisk Råd-Myndighederne har ikke taget stilling til centrale spørgsmål om kunstig intelligens (udgivelse hos Dataetisk Råd, 2026).

Vi laver journalistik om AI, fordi udviklingen går hurtigere end den offentlige samtale.

På AI Portalen forsøger vi at skabe overblik, perspektiv og kritisk indsigt i en teknologi, der allerede former alt fra arbejdsmarkedet til demokratiet — ofte uden at nogen bremser op og forklarer, hvad der foregår.

Hvis vores artikler hjælper dig med at forstå AI lidt bedre, så overvej at støtte arbejdet.

Et medlemskab gør én ting mulig: at vi kan blive ved med at undersøge, dokumentere og forklare, hvordan AI påvirker Danmark — uden investorer, uden PR-interesser og uden at jage hype.

Bliv medlem og vær med til at styrke uafhængig journalistik om AI.