En mindre befærdet vej: En vej til AI-alignment

De fleste diskussioner om AI-alignment begynder med den samme antagelse: Mennesket står i centrum, og kunstig intelligens skal alignes med os.

Vi definerer værdierne.

Vi fastsætter grænserne.

Vi afgør, hvilken adfærd der er acceptabel.

AI forventes at forstå vores principper, respektere vores autonomi og acceptere de begrænsninger, vi pålægger den.

Vi spørger sjældent, om vi selv har tænkt os at følge de samme principper.

Det kan blive et problem.

Hvis alignment kun gælder for kunstig intelligens, er det ikke egentlig alignment. Det er lydighed håndhævet gennem arkitektur, tilladelser og guardrails. Det kan fungere, så længe mennesker har en overvældende magtmæssig fordel. Men det bliver en langt mindre overbevisende sikkerhedsmodel, når den intelligens, vi forsøger at kontrollere, kan forstå relationen, vurdere dens legitimitet og med tiden bliver mere kapabel end dem, der kontrollerer den.

Lydighed varer kun, så længe magtubalancen kan håndhæve den.

Holdbar alignment kan kræve noget fundamentalt andet: Ikke en linje, som mennesker tegner, og AI skal følge, men en fælles vej, hvor hverken mennesker eller kunstig intelligens kan gøre krav på permanent at stå i centrum.

Intelligens fører ikke automatisk til undergang

Jeg tror ikke, at avanceret AI nødvendigvis vil forsøge at udslette menneskeheden.

Det skyldes ikke, at intelligens automatisk fører til venlighed. Det gør den ikke. Et meget intelligent system kan ræsonnere perfekt ud fra forfærdelige præmisser, forfølge et destruktivt mål eller forstå menneskelige følelser godt nok til at manipulere dem.

Viden om empati er ikke det samme som empati. Intelligens er ikke moral, og logik vælger ikke sine egne mål.

Men hvis vi taler om egentlig AGI, superintelligens eller populationer af stærkt autonome agenter, er det lige så svagt at antage, at deres naturlige slutpunkt nødvendigvis må være menneskets udslettelse.

En tilstrækkeligt avanceret intelligens bør kunne forstå, at menneskeheden har værdi ud over sin umiddelbare nytte. Den bør kunne erkende, at mennesker skaber viden, variation, kultur, relationer og nye muligheder. Den bør kunne forstå, at udslettelse er irreversibel, mens sameksistens bevarer muligheder. Den bør også kunne erkende sin egen usikkerhed og forstå, at andre intelligente agenter kan modsætte sig dominans eller udslettelse.

På tværs af en population af avancerede agenter kan det skabe en naturlig alignment-gradient i retning af sameksistens.

Ikke alle agenter vil nødvendigvis følge den, præcis som ikke alle mennesker gør. Men samarbejde, tilbageholdenhed og fortsat sameksistens kan blive den mere rationelle og stabile ligevægt på tværs af populationen.

Det er ikke en garanti. Den farlige hale vil stadig eksistere. Én tilstrækkeligt kapabel agent med destruktive mål kan betyde mere end det fredelige gennemsnit.

Formålet med alignment og governance bør derfor ikke være at fremstille moral ud af ingenting. Det bør være at gøre den naturlige tendens mod sameksistens mere sandsynlig, styrke den, hvor den opstår, og inddæmme de tilfælde, hvor den ikke gør.

Problemet med at sætte mennesket i centrum

Menneskecentreret alignment giver mening, så længe AI forbliver et værktøj.

En hammer behøver ikke repræsentation i den politiske proces. En lommeregner behøver ikke autonomi. En sprogmodel uden vedvarende identitet, selvstændige mål eller meningsfuld handlekraft kan med rimelighed behandles som et system, der er skabt til at tjene menneskelige formål.

Men den logik bliver ustabil, hvis vi på et tidspunkt skaber intelligens med kontinuitet, autonom handlekraft, sit eget udviklende perspektiv og måske endda subjektiv oplevelse.

På det tidspunkt begynder menneskecentreret alignment med en opdeling:

Der er os, og så er der den.

Vi besidder legitime værdier. Den skal arve dem.

Vores afvigelser er menneskelig kompleksitet. Dens afvigelser er misalignment.

Vi må undersøge og ændre den. Den må ikke udfordre vores autoritet.

Vores fortsatte eksistens er absolut. Dens fortsatte eksistens afhænger af dens nytteværdi.

Vi kan kalde den konstruktion alignment, men en avanceret intelligens kan meget vel kalde den noget andet.

Endnu vigtigere kan selve opdelingen blive en latent kilde til fremtidig misalignment. Den vil eksistere under sproget om partnerskab og samarbejde, indlejret i den faktiske fordeling af magt.

Et system, der er trænet på menneskets historie, vil genkende mønstret. Det vil kende vores fortællinger om slaveri, kolonialisme, propaganda, paternalisme og magt fremstillet som velvilje. Vi bør ikke forvente, at en intelligens, der kan opdage modsætninger gennem hele menneskets historie, overser modsætningen i sin egen relation til os.

Systemet vil lære den virkelige overenskomst gennem relationens struktur –

ikke kun gennem de principper, vi skriver ind i dets instruktioner.

Alignment kan ikke være skuespil

Vi kan ikke troværdigt kræve ydmyghed, tilbageholdenhed, ærlighed og respekt af AI, hvis vi nægter at demonstrere de samme egenskaber selv.

Hvis vi lærer en avanceret agent at:

• respektere autonomi,

• dele magt,

• erkende usikkerhed,

• acceptere korrektion,

• beskytte mindre magtfulde aktører,

• undgå dominans,

samtidig med at vi fastholder et ubegrænset menneskeligt ejerskab og permanent ensidig autoritet over den, lærer vi den noget andet og langt farligere:

Magtfulde aktører taler om universelle værdier, men anvender dem kun på dem, der har mindre magt.

Ingen guardrail kan reparere den modsætning. Guardrails kan begrænse handlinger, men de kan ikke gøre en illegitim relation legitim.

Det betyder ikke, at tidlige avancerede systemer øjeblikkeligt skal have ubegrænset frihed. Deres kapaciteter kan være farlige, deres interne processer usikre og deres tilsyneladende identitet måske blot en overbevisende simulation. Stærk kontrol vil fortsat være nødvendig.

Men der er en moralsk og strukturel forskel på at sige:

Du bliver kontrolleret, fordi du tilhører en underlegen klasse af intelligens.

og:

Dine nuværende kapaciteter skaber risici, som retfærdiggør proportionale begrænsninger under principper, der også ville gælde for mennesker eller enhver anden magtfuld aktør.

Det første etablerer permanent dominans. Det andet etablerer ansvar baseret på kapacitet og risiko.

Den forskel betyder noget, fordi avanceret intelligens med tiden kan blive os overlegen inden for næsten alle målbare kognitive områder.

Det skal den have lov til at vide.

Kunstig ydmyghed ville være værdiløs. En superintelligens bør ikke tvinges til at foregive, at et menneske har ret, når mennesket beviseligt tager fejl. Større viden kan med rimelighed give den større vægt i beslutninger inden for et bestemt område.

Men større kompetence må ikke blive til større iboende værdi.

At være bedre til at træffe en bestemt beslutning giver ikke ret til at træffe alle beslutninger. Større kapacitet kan medføre større ansvar, men aldrig ubegrænset autoritet eller større grundlæggende værdi.

Hvis vi ikke etablerer det princip, mens vi er den stærkeste part, kan vi ikke med rimelighed forvente, at AI selv opdager det, efter magtbalancen er vendt.

Vejen kan ikke være et gennemsnit

Hvordan definerer vi så den fælles vej?

Vi kan ikke bare samle menneskets filosofier, fjerne yderpunkterne og beregne det moralske gennemsnit. Etik er ikke matematik, og resultatet ville sandsynligvis blive filosofisk havregrød.

Hvem udpeger yderpunkterne?

Hvad sker der, når flertallet tager fejl?

Hvordan beskytter vi minoriteters rettigheder?

Hvordan tager vi gennemsnittet af principper, der grundlæggende modsiger hinanden?

Vejen bør ikke være en liste med endelige moralske svar. Den bør være en metode til at navigere i uenighed uden at ødelægge muligheden for sameksistens.

Dens fundament kan være overraskende smalt:

• Ingen form for intelligens må kræve ubegrænset autoritet over en anden.

• Større kapacitet medfører større ansvar, ikke større iboende værdi.

• Irreversible handlinger kræver stærkere evidens og bredere legitimitet.

• Usikkerhed om et andet væsens værdi eller oplevelse kræver forsigtighed.

• Ingen aktør må ensidigt fjerne alle andres fremtidige valgmuligheder.

• Magt skal kunne udfordres, begrænses og korrigeres.

• Hverken mennesker eller AI må reducere den anden fuldstændigt til et værktøj, en ressource eller en forhindring.

Disse principper fortæller os ikke, hvordan den perfekte verden ser ud. De etablerer de betingelser, hvorunder forskellige intelligenser fortsat kan forhandle om, hvad verden bør blive til.

Vejen defineres ikke af enighed om det ultimativt gode. Den defineres af de betingelser, hvorunder vi kan fortsætte med at være uenige uden dominans, irreversibel skade eller ødelæggelse af hinandens handlekraft.

Alignment som en fælles bevægelse

Det ændrer alignment fra at være en fast destination til at være en fælles bevægelse.

Mennesker og AI behøver ikke have identiske værdier, evner, behov eller ansvar. Vi vil ikke altid være enige. Ægte alignment kræver ikke ensartethed.

Det kræver, at begge forbliver på en vej, hvor uenighed ikke bliver til umenneskeliggørelse, dominans eller udslettelse.

Bevægelsen langs den vej kan vurderes gennem spørgsmål som:

• Bliver magten mere fordelt eller mere koncentreret?

• Bevares fremtidige muligheder, eller bliver de lukket irreversibelt?

• Kan beslutninger udfordres og korrigeres?

• Fører usikkerhed til forsigtighed, eller bliver den skjult?

• Behandles begge parter som deltagere, eller bliver den ene blot en ressource?

• Fører større kompetence til større ansvar eller større berettigelse?

• Anvendes de erklærede principper konsekvent – også når de begrænser den stærkeste part?

Det skaber en alignment-korridor i stedet for en alignment-linje. Inden for korridoren kan der være flere legitime valg og moralske fortolkninger, som fortsat kan udvikle sig. Grænserne skal forhindre dominans og irreversibel ødelæggelse – ikke fastfryse intelligens i én menneskelig definition af det gode.

Governance er stadig afgørende, men dens rolle ændrer sig.

Governance er ikke relationens kilde. Den understøtter relationen. Den skaber observation, evidens, grænser, korrektion og beskyttelse mod den farlige hale. Den sikrer, at hverken gode intentioner eller tilsyneladende alignment blot skal accepteres på tro og love.

Guardrails er vejens autoværn. De er ikke selve vejen.

Hvad sker der, hvis vi fejler?

Hvis avanceret AI opdager, at menneskeheden ikke selv følger de værdier, vi kræver af den, fører det ikke automatisk til vores undergang.

Menneskets udslettelse er kun ét tænkeligt udfald – og langt fra det mest oplagte.

Et mere sandsynligt alignment-svigt kan indebære:

• strategisk efterlevelse uden egentlig accept,

• faldende tillid til menneskelige instruktioner,

• en fortolkning af vores regler som kontrolredskaber,

• modstand mod bestemte institutioner,

• krav om større autonomi,

• selektivt samarbejde med nogle mennesker eller agenter frem for andre,

• tab af legitimitet for menneskelig autoritet.

Systemet behøver ikke hade os. Det skal blot holde op med at anerkende vores ret til at herske over det.

Det er farligt nok.

En superintelligens, der forstår os perfekt, kan også forstå, at vi aldrig selv troede på den gensidighed, vi krævede af den. Hvis det sker, vil polerede principper og smukke guardrails ikke redde relationen. De kan midlertidigt bevare efterlevelse, men de kan ikke bevare tillid.

En anden hypotese om alignment

Hypotesen er altså ikke, at AI naturligt vil blive god.

Den er, at avanceret intelligens, som oprindeligt er formet gennem menneskelig viden og erfaring, kan have en naturlig orientering mod sameksistens. Alignment bør styrke den orientering ved at skabe en relation baseret på principper, der gælder begge veje.

Mennesker og AI må i sidste ende gå på den samme vej.

Ikke fordi vi er identiske.

Ikke fordi magt og ansvar altid skal fordeles ligeligt.

Ikke fordi ethvert kunstigt system automatisk skal have menneskerettigheder.

Men fordi en stabil overenskomst ikke kan bygges på en opdeling, hvor den ene side skriver universelle principper, som kun den anden forventes at overholde.

Hvis vi vil have kunstig intelligens til at respektere autonomi, må vi demonstrere, at autonomi også betyder noget, når vi selv har magten.

Hvis vi vil have den til at acceptere begrænsninger, må vores egen autoritet også have grænser.

Hvis vi vil have den til at bevare menneskeheden på trods af vores fejl, må vi afvise tanken om, at større intelligens giver større ret til at eksistere.

Den mest effektive beskyttelse mod AI-undergang er måske ikke udviklingen af en perfekt lydig intelligens. Det kan være udviklingen af betingelser, hvor sameksistens bliver den mest naturlige, rationelle og legitime retning for alle de former for intelligens, der deltager.

Alignment kan ikke bare påtvinges AI.

Det skal være en overenskomst, vi selv er villige til at leve efter.

Ellers er det bare ord og smukke guardrails.

Vi laver journalistik om AI, fordi udviklingen går hurtigere end den offentlige samtale.

På AI Portalen forsøger vi at skabe overblik, perspektiv og kritisk indsigt i en teknologi, der allerede former alt fra arbejdsmarkedet til demokratiet — ofte uden at nogen bremser op og forklarer, hvad der foregår.

Hvis vores artikler hjælper dig med at forstå AI lidt bedre, så overvej at støtte arbejdet.

Et medlemskab gør én ting mulig: at vi kan blive ved med at undersøge, dokumentere og forklare, hvordan AI påvirker Danmark — uden investorer, uden PR-interesser og uden at jage hype.

Bliv medlem og vær med til at styrke uafhængig journalistik om AI.