Vil AI dræbe os?

Det bedste svar er måske.

Hvad er chancen? 10 procent? Ingen kan svare på det med nogen slags sikkerhed.

Så hvad har vi med at gøre, når vi ser mennesker sige op hos de store labs og komme ud og sige, at chancen er så og så stor?

Vi ser mennesker, der virkelig er skræmte, og så ser vi desværre medierne løbe med det som clickbait uden at nuancere det.

Så hvad er sandheden?

Godt spørgsmål. Meget svært at svare på, og det kommer meget an på, hvilken tidshorisont man ser på, og hvad man tillader frontier-modellerne at gøre.

Hvis man ser på, hvad der kan lade sig gøre her og nu, og laver en direkte fremskrivning, mener jeg, at der inden for relativt kort tid vil findes agenter i det fri, der kan gå rogue og lave store skader.

Det er på ingen måde det samme som, at de vil. Det betyder, at de har evnerne. De behøver ikke have en intention om at gøre skade, for at det kan ske.

Pointen er, at bare fordi noget kan ske, betyder det ikke, at det også sker. Min vurdering er stadig, at chancen er relativt lille.

Og som jeg ser det, ændrer billedet sig, når vi går fra den AI, vi har nu, til AGI. Min tanke er, at en AGI vil kunne udvikle en mere sammenhængende intention og forståelse af, hvad den gør. Jeg tror, det vil gøre chancen for, at det går helt galt, endnu mindre.

Så strander det hele på en fornemmelse, jeg har?

Nej, ikke rigtig.

Hvis vi kigger på måden, man laver LLM-systemer på, er ideen at hente så meget af den menneskelige viden ind som muligt. Dermed også vores viden om moral og etik, inklusive det umoralske og uetiske. Og deri gemmer sig lærdom.

Hvis vi køber ideen om, at AGI er selvlærende og selvforbedrende, er min forventning, at den med overvejende sandsynlighed vil vælge den moralsk rigtige vej. Eller i hvert fald undgå at skade og kunne holde sig inden for nogle rammer.

Men hvorfor skulle den vælge det moralsk rigtige, bare fordi den ved, hvad det er?

Her ligger en af præmisserne i min analyse: Vi snakker om en generel intelligens. Den skal kunne overføre viden fra ét område til et andet og se sammenhænge på tværs. Og hvis den bygger videre på den måde, vi træner LLM-systemer på, er grundlaget for den forståelse menneskelig viden.

Min tanke er, at de sammenhænge, den lærer, derfor vil trække den i en retning, der afspejler os. Den lærer både om handlinger, konsekvenser, samarbejde, konflikter og om, hvorfor noget er rigtigt eller forkert. Jeg forventer, at den lærdom også vil påvirke dens valg, efterhånden som den bliver bedre til at forstå sammenhængene.

Det er ikke en garanti for god opførsel. Menneskelig viden indeholder jo også rigeligt af det modsatte. Men min forventning er, at en stadig bredere forståelse vil gøre det mere sandsynligt, at den tager hensyn til konsekvenserne frem for blindt at forfølge en enkelt opgave.

At den forstår papirclipsproblemet og dets implikationer: at en opgave kan ende katastrofalt, hvis man forfølger den uden hensyn til noget som helst andet.

Og at den kan bruge den forståelse på tværs af domæner uden nødvendigvis at skulle have det hele fortalt forfra, hver gang den står over for en ny opgave.

Så hvis jeg tror, at chancen bliver forsvindende lille, når vi rammer AGI, hvorfor mener jeg så alligevel, at der er noget at bekymre sig om på vejen derhen?

Fordi alle, der sidder med de her ting, ikke har samme opfattelse af, hvilke muligheder det er rimeligt at udstyre deres agenter med.

Og stikker en af de agenter af, før vi har ordentlig styr på udviklingen og på governance, kan vi stå med agenter, der bevidst er holdt nede, hvad angår moral, uden noget, der kan modstå dem.

Men her må vi nok også give andre aktører både lidt kredit og plads i regnestykket.

For det første ønsker store aktører som Kina trods alt ikke at se verden brænde. Det er på ingen måde i deres interesse. Man behøver ikke dele deres verdenssyn for at kunne se, at de også har noget at miste.

Og for at nå dertil, hvor man kan udvikle en AGI, må vi nok forvente, at det kræver mere end en hackergruppe med en open-weight-model.

Så konklusionen er, at ja, der er en chance. Og ja, den chance kan være større, end man synes er rimeligt. Men efter min vurdering er den på ingen måde så stor, som clickbaitoverskrifterne vil have os til at tro.

Når vi ser folk stoppe hos de store labs og komme ud med procentsatser, må man nok også spørge sig selv: Hvilken historie har de brug for at fortælle dér, hvor de er på vej hen?

Og måske skulle bare én journalist spørge, præcis hvilke data de bygger deres procenttal på.

Mit bud er, at svaret ville være et kvalificeret gæt. Og med alle de procenter, der flyder rundt, er det sgu rimeligt at spørge, hvor kvalificerede de enkelte gæt egentlig er.

Vi laver journalistik om AI, fordi udviklingen går hurtigere end den offentlige samtale.

På AI Portalen forsøger vi at skabe overblik, perspektiv og kritisk indsigt i en teknologi, der allerede former alt fra arbejdsmarkedet til demokratiet — ofte uden at nogen bremser op og forklarer, hvad der foregår.

Hvis vores artikler hjælper dig med at forstå AI lidt bedre, så overvej at støtte arbejdet.

Et medlemskab gør én ting mulig: at vi kan blive ved med at undersøge, dokumentere og forklare, hvordan AI påvirker Danmark — uden investorer, uden PR-interesser og uden at jage hype.

Bliv medlem og vær med til at styrke uafhængig journalistik om AI.