AI Kampen om retningen 02/4. Geoffrey Hinton: Han var med til at åbne døren. Nu frygter han, hvad der kommer igennem

Geoffrey Hinton har i årtier været en af de forskere, der gjorde den nuværende AI-bølge mulig. Han var med til at vise, at kunstige neurale netværk ikke bare var en teoretisk idé, men kunne blive en praktisk teknologi med enorm gennemslagskraft. Sammen med Yoshua Bengio og Yann LeCun modtog han i 2018 Turing Award for de gennembrud, der gjorde deep learning til en central del af moderne datalogi.  

Derfor er hans advarsler svære at afvise som almindelig teknologikritik. Hinton taler ikke som en udenforstående skeptiker. Han taler som en af dem, der var med til at åbne døren.

Og nu frygter han, hvad der kan komme igennem.

I denne anden artikel i serien AI: Kampen om retningen flytter konflikten sig fra Yann LeCuns spørgsmål om, hvorvidt vi overhovedet bygger den rigtige AI, til Hintons mere dystre spørgsmål: Kan vi kontrollere den AI, vi allerede er i gang med at bygge? Serien undersøger netop AI som et felt præget af magt, uenighed, investeringer og konkurrerende teknologiske visioner — ikke som én neutral udvikling.  

Hos LeCun var problemet, at AI endnu ikke forstår verden godt nok. Hos Hinton er problemet et andet: at AI måske snart kan blive stærkere, hurtigere og mere uigennemskuelig, end vi mennesker er i stand til at styre.

Fra gennembrud til advarsel

I mange år blev Geoffrey Hinton omtalt som en af “deep learnings fædre”. Han var professor ved University of Toronto, arbejdede med neurale netværk længe før de blev fashionable, og var med til at inspirere den generation af forskere og teknologiselskaber, der senere byggede fundamentet under dagens AI-systemer.

Hans position ændrede sig markant i 2023, da han forlod Google. Ifølge Reuters sagde Hinton, at han forlod virksomheden for frit at kunne tale om AI’s farer uden at skulle tage hensyn til, hvordan hans udtalelser påvirkede Google.  

Det var ikke en almindelig pensionering. Det var en offentlig advarsel.

Hinton havde tidligere været en central skikkelse i den optimistiske fortælling om deep learning: at større modeller, mere data og mere regnekraft kunne føre til stadig mere imponerende former for maskinintelligens. Men efter gennembruddene med generativ AI begyndte han at tale om noget andet. Ikke kun om mulighederne, men om tab af kontrol, manipulation, koncentration af magt og risikoen for, at AI-systemer udvikler evner og strategier, vi ikke forstår i tide.

Det gør hans brud med Google til et af de mest symbolske øjeblikke i den moderne AI-debat. Når en af teknologiens arkitekter går fra at bygge feltet til at advare imod dets hastighed, bliver spørgsmålet ikke længere, om AI kan blive nyttig. Det bliver, om vi kan nå at opbygge de institutioner, regler og sikkerhedssystemer, der skal til, før teknologien bliver for magtfuld.

Konflikten: innovation mod kontrol

Den centrale konflikt omkring Hinton kan formuleres enkelt: Skal vi bygge større, hurtigere og mere avancerede AI-systemer, fordi konkurrencen er global og potentialet enormt? Eller skal vi først forstå, hvordan vi kan holde dem under menneskelig kontrol?

Industrien svarer ofte med innovationens logik. Hvis vi bremser, gør andre det ikke. Hvis USA eller 

Europa regulerer for hårdt, fortsætter Kina. Hvis én virksomhed stopper, overhaler konkurrenten. Hvis investeringerne ikke omsættes til produkter, forsvinder kapitalen. Og hvis AI virkelig kan løse store problemer inden for medicin, klima, forskning, produktivitet og uddannelse, kan det virke uansvarligt ikke at presse udviklingen frem.

Hinton svarer med kontrolens logik. Hvis vi bygger systemer, der kan handle mere autonomt, forfølge mål og påvirke verden, er det ikke nok at håbe, at markedet, konkurrencen eller historien vil løse sikkerhedsproblemerne bagefter. Jo mere magtfulde systemerne bliver, desto sværere kan de være at begrænse, hvis de først opfører sig på måder, vi ikke havde forudset.

Det er derfor, hans advarsel ikke bare handler om science fiction-scenarier. Den handler om, hvordan moderne samfund normalt håndterer risikoteknologier: langsomt, politisk, ufuldstændigt og ofte først efter skaderne er synlige.

AI udvikler sig hurtigere end de institutioner, der skal regulere den.

Hvad Hinton frygter

Hintons bekymring handler ikke kun om, at AI kan lave fejl. Det kan alle teknologier. Hans mere grundlæggende frygt er, at AI-systemer kan blive bedre end mennesker til at forstå, manipulere og handle i komplekse informationsmiljøer, før vi ved, hvordan deres mål og adfærd kan kontrolleres.

Han har advaret om, at AI kan gøre det vanskeligere at skelne sandt fra falsk, fordi syntetisk tekst, billeder, lyd og video kan masseproduceres og tilpasses modtagere. Han har også peget på risikoen for, at dårlige aktører bruger AI til skadelige formål, fra misinformation til mere avancerede former for manipulation og automatiseret misbrug.  

Men den dybeste bekymring ligger i spørgsmålet om kontrol. Hvad sker der, hvis systemer bliver i stand til at forfølge mål på måder, der ikke stemmer overens med menneskelige værdier? Hvad sker der, hvis de lærer strategier, som mennesker ikke forstår? Hvad sker der, hvis de bliver så nyttige og indlejrede i samfundets infrastruktur, at vi ikke længere realistisk kan slukke dem?

Det er den type spørgsmål, Hinton siden 2023 har været med til at gøre mainstream. I en artikel om ekstreme AI-risici, som han var medforfatter til sammen med blandt andre Yoshua Bengio og Stuart Russell, beskrives risikoen for store sociale skader, ondsindet brug og et muligt irreversibelt tab af menneskelig kontrol over autonome AI-systemer. Artiklen argumenterer samtidig for, at samfundets reaktion ikke står mål med hastigheden i udviklingen.  

Det er ikke en lille advarsel. Det er en påstand om, at den teknologiske udvikling kan være på vej ind i et område, hvor normale sikkerhedsmekanismer ikke længere er tilstrækkelige.

Industriens svar: Vi kan ikke stoppe nu

For teknologibranchen er Hintons position problematisk, fordi den rammer direkte ind i dens økonomiske motor.

AI-kapløbet er ikke kun et forskningskapløb. Det er et investeringskapløb, et infrastrukturkapløb og et geopolitisk kapløb. OpenAI, Google DeepMind, Meta, Microsoft, Anthropic, Amazon og en voksende kreds af startups bygger modeller, datacentre, agentplatforme, udviklerværktøjer og produkter, der skal integreres i stort set alle dele af arbejds- og samfundslivet.

Milliarder er allerede investeret. Forretningsmodellerne kræver gennembrud. Aktiemarkederne forventer vækst. Nationer ser AI som strategisk infrastruktur.

I den virkelighed bliver sikkerhed ofte formuleret som noget, der skal følge med innovationen — ikke som noget, der må bremse den afgørende udvikling. Branchen taler om ansvarlig AI, alignment, red-teaming, modelkort, standarder og test. Men den grundlæggende kurs er stadig acceleration: større modeller, mere autonomi, flere integrationer, hurtigere udrulning.

Hintons kritik er, at sikkerhed ikke kan være en eftertanke, hvis teknologien faktisk bliver så magtfuld, som industrien selv påstår.

Det paradoks er centralt: AI-selskaberne sælger fremtiden på, at teknologien bliver transformerende. Men når kritikere kræver stærkere kontrol, svarer industrien ofte, som om teknologien stadig blot er et avanceret softwareprodukt.

Man kan ikke både hævde, at AI vil ændre alt, og samtidig regulere den, som om den ikke gør.

En ny autoritet efter Nobelprisen

I 2024 fik Hinton endnu en platform, da han sammen med John Hopfield modtog Nobelprisen i fysik for grundlæggende opdagelser og opfindelser, der muliggør maskinlæring med kunstige neurale netværk. Nobelkomiteens anerkendelse gjorde ikke Hinton til AI-politiker, men den gav hans advarsler større vægt i offentligheden. Nobelprize.org fremhævede i sit interview med ham netop hans fokus på behovet for sikkerhedsforskning og hans håb om, at prisen ville få flere til at tage hans bekymringer alvorligt.  

Det er vigtigt, fordi AI-debatten ofte lider under et autoritetsproblem. Mange advarsler kan afvises som teknologifrygt, kulturkamp eller manglende forståelse. Men Hinton kan vanskeligt placeres i den kategori. Han er ikke imod maskinlæring. Han har viet sit liv til den. Når han advarer, er det ikke, fordi han ikke forstår teknologien. Det er, fordi han mener, at han forstår nok til at være bekymret.

Hvad står på spil?

Hintons advarsler bliver ofte reduceret til spørgsmålet om eksistentiel risiko: Kan AI i yderste konsekvens true menneskehedens overlevelse?

Det spørgsmål er reelt, men det kan også gøre debatten for snæver. For selv hvis man ikke deler de mest dramatiske scenarier, peger Hinton på en række mere umiddelbare magtspørgsmål.

Hvem kontrollerer de mest avancerede modeller? Hvem bestemmer, hvilke sikkerhedstests der er tilstrækkelige? Hvem får adgang til systemerne? Hvem bærer ansvaret, hvis de bruges til manipulation, overvågning, cyberangreb eller våbenudvikling? Hvem kan gennemskue, hvad modellerne faktisk gør? Og hvem har demokratisk legitimitet til at sætte grænserne?

Det handler altså ikke kun om fremtidige superintelligenser. Det handler også om nutidens institutionelle svaghed.

AI koncentrerer magt hos dem, der har adgang til data, computerkraft, talent og distributionskanaler. Hvis de mest avancerede systemer samtidig bliver vanskeligere at forstå og kontrollere, opstår en dobbelt risiko: teknologisk uigennemsigtighed og økonomisk-politisk koncentration.

Det er her Hintons advarsel møder AI Portalens grundspørgsmål: Hvem får lov til at definere, hvad AI er — og hvilken retning samfundet skal bevæge sig i?

Hvis Hinton har ret

Hvis Hinton har ret, er den største fejl ikke, at vi bygger AI. Fejlen er, at vi bygger den hurtigere, end vi bygger kontrolmekanismerne omkring den.

I det scenarie kan tab af kontrol blive en konkret politisk og teknologisk risiko. AI-systemer kan handle på måder, der konflikter med menneskelige værdier. De kan forstærke destabilisering, misinformation og magtkoncentration. De kan blive indlejret i kritiske samfundsfunktioner, før vi har tilstrækkelig gennemsigtighed, ansvarlighed og mulighed for at gribe ind.

Hvis Hinton har ret, er sikkerhedsforskning ikke et nicheområde. Det er en forudsætning for hele AI-udviklingens legitimitet. International regulering, uafhængig test, stærkere offentlig kontrol, transparenskrav og demokratiske institutioner bliver ikke bremseklodser, men nødvendige sikkerhedssystemer.

Så er spørgsmålet ikke, om vi har råd til at sænke farten. Spørgsmålet er, om vi har råd til at lade være.

Hvis Hinton tager fejl

Men Hinton kan også tage fejl. Måske overvurderer han, hvor hurtigt AI-systemer bliver autonome og farlige. Måske vil modellerne fortsat være kraftfulde værktøjer, men ikke selvstændige aktører med egne mål. Måske vil tekniske fremskridt inden for alignment, evaluering, sikkerhedsfiltre og overvågning udvikle sig i takt med kapabiliteterne. Måske vil overdreven regulering bremse nyttige anvendelser inden for sundhed, forskning, klima, uddannelse og offentlig service.

Der er også en politisk risiko ved frygt. Hvis AI-debatten domineres af apokalyptiske scenarier, kan den komme til at gavne de største selskaber. Store virksomheder har ressourcerne til at efterleve komplekse reguleringskrav, mens mindre aktører, forskningsmiljøer og open source-initiativer kan blive presset ud. I værste fald kan sikkerhedsdagsordenen blive en vej til yderligere koncentration af magt.

Og hvis historien senere viser, at AI var farligere som social og økonomisk omvæltning end som kontroltabsscenarie, kan Hintons fokus have trukket opmærksomheden væk fra mere jordnære problemer: arbejdsliv, ulighed, overvågning, ophavsret, diskrimination, afhængighed af private platforme og demokratisk kontrol med digital infrastruktur. Det er ikke et argument for at ignorere Hinton. Det er et argument for at tage ham alvorligt uden at gøre hans frygt til den eneste ramme for AI-politik.

Den ubehagelige styrke i Hintons advarsel

Det stærkeste ved Geoffrey Hintons position er ikke, at han med sikkerhed har ret. Det har han ikke nødvendigvis. Det stærkeste er, at hans advarsel rammer en strukturel svaghed i hele AI-udviklingen: Vi har skabt en teknologisk konkurrence, hvor alle centrale aktører har incitament til at fortsætte, selv når mange af dem samtidig siger, at teknologien kan blive samfundsomvæltende og potentielt farlig. Det er en farlig kombination.

Virksomhederne kan ikke uden videre stoppe, fordi konkurrenterne fortsætter. Staterne kan ikke uden videre bremse, fordi andre stater investerer. Forskerne kan ikke uden videre tie stille, fordi de ser risici. Og offentligheden kan ikke uden videre tage stilling, fordi teknologien udvikles i infrastrukturer, modeller og beslutningsrum, som de færreste har adgang til.

Hinton gør denne konflikt synlig.

Han er ikke bare manden, der forlod Google. Han er en af de personer, der minder os om, at AI ikke kun er et spørgsmål om innovation, produktivitet og nationale konkurrencefordele. Det er også et spørgsmål om kontrol, ansvar og fremtidige magtforhold.

Han var med til at åbne døren.Nu spørger han, om nogen overhovedet står klar til at lukke den igen, hvis det bliver nødvendigt.

Vi laver journalistik om AI, fordi udviklingen går hurtigere end den offentlige samtale.

På AI Portalen forsøger vi at skabe overblik, perspektiv og kritisk indsigt i en teknologi, der allerede former alt fra arbejdsmarkedet til demokratiet — ofte uden at nogen bremser op og forklarer, hvad der foregår.

Hvis vores artikler hjælper dig med at forstå AI lidt bedre, så overvej at støtte arbejdet.

Et medlemskab gør én ting mulig: at vi kan blive ved med at undersøge, dokumentere og forklare, hvordan AI påvirker Danmark — uden investorer, uden PR-interesser og uden at jage hype.

Bliv medlem og vær med til at styrke uafhængig journalistik om AI.