Casper Wilstrup: Vi ender med at kunne bygge kunstig intelligens, som faktisk kan det samme som mennesker

Array

Det sidste år har betydet et stort gennembrud for kunstig intelligens (AI) i den bede befolknings bevidsthed, men for Casper Wilstrup, CEO for virksomheden Abzu, noget han har arbejdet med gennem 30 år – faktisk næsten hele hans liv. Da han startede med at arbejde med det kaldte han det ikke kunstig intelligens. Han kaldte det dataanalyse og simulering. Han har været vidt omkring og både udviklet algoritmer og brugt eksisterende algoritmer i alle mulige brancher. Lige fra marketing til finans til grundforskning til medicinsk forskning. Men i modsætning til de fleste virksomheder, så er Casper Wilstrups og Abzus fokus det, der hedder symbolsk AI. I modsætning til subsymbolsk AI, som fx GPT-4 og de andre store sprogmodeller, der er utroligt dygtige til mønstergodkendelse, så kan symbolske AI-modeller komme med løsningsmodeller til at løse konkrete problemstillinger. Kombinationen af de to typer AI er det tætteste vi kommer på at genskabe den menneskelige hjernes funktioner. Fordelen ved symbolske AI-modeller er også, at de per definition kan forklare, hvordan de kommer frem til deres resultater. Derfor kan kombinationen af symbolsk og subsymbolske AI-modeller også løse udfordringen om, at subsymbolske systemer er uigennemskuelige.

Hvor stammer din interesse for AI fra?

Det går lidt længere tilbage til, da jeg var 11. Jeg fik min første computer tilbage i 1981, hvor jeg spinkede og sparede og fik mig en Sinclair ZX Spectrum, som var min helt store drøm. En skrivemaskine, der kunne sættes til et fjernsyn, og så havde man en fantastisk mulighed, som var helt ny dengang. Så der startede min interesse for computere. Computer og kunstig intelligens er i virkeligheden to alene i et stykke, og har nok altid været det, siden Alan Turing lancerede de to koncepter som en af samme. Jeg tror, at de fleste altid har forestillet sig, at computere var det, der en dag ville etablere kunstig intelligens. Der har nok været mere optimistiske forventninger om, hvor lang tid det ville tage. Så måske er det i virkeligheden allerede tilbage til da, jeg blev fængslet af idéen om elektroniske hjerner, der er kun nogle af de samme ting, som mennesker kunne. Og så har jeg taget den nørdede vej igennem livet, programmeret en maskinkode, da jeg var 12, kastet mig ud i de mest komplicerede simulationer og senere hen operativ systemudvikling på den tidlige version af Linux-kernen, da jeg var en ganske ung mand og var begyndt at studere på universitetet. Og videre over i at bruge nogle af de her kompetencer til at bygge computerclusters og supercomputere i 90’erne. Jeg lavede min første startup virksomhed i `99, som producerede en hardware-dims til at bygge computerclusters. Det har været den røde tråd igennem mit liv helt tilbage til, da jeg var 11. 

Jeg ved, at I hos Abzu arbejder med en lidt anden type kunstig intelligens end i så mange andre AI-virksomheder. Men kan du fortælle lidt om de forskellige typer, du har arbejdet med?

Grundlæggende så kan man dele AI op i to hovedkategorier. Symbolsk kunstig intelligens og sub-symbolsk kunstig intelligens. Det er to ret tekniske termer, men i virkeligheden så er det relativt simpelt, hvad det handler om. Men jeg vil gerne lige starte med at sige, at da AI var nyt tilbage i 50’erne, for om godt 70 år siden nu, der var der kun én slags kunstig intelligens, og det var den symbolske kunstig intelligens og det er sådan set det, jeg arbejder med den dag i dag. Sidenhen er sub-symbolsk AI kommet til, og de fleste mennesker kender det som et neuralt netværk.

Der er også andre typer sub-symbolsk kunstig intelligens. Så på en måde kan man sige, at jeg har arbejdet med, klassisk kunstig intelligens hele vejen igennem, og jeg holder stadigvæk fast. Og nu er jeg jo så lige pludselig på forkant med udviklingen, for der er en stigende forståelse for, at de symbolske kompetencer i en AI er vigtige, hvis vi skal bygge AI, der løser rigtige problemer, og som kan håndtere nogle af de udfordringer, som det sub-symbolske i virkeligheden står med. 

Jeg kan også godt give et par ekstra ord, på hvad forskellen egentlig er mellem de to typer kunstig intelligens. Symbolsk kunstig intelligens handler om rationel tænkning. Det handler om at opstille forklaringsmodeller eller løsningsmodeller til at løse en problemstilling. Og det er det, vi mennesker lærer i skolen. Vi lærer at tænke, vi lærer matematik, vi lærer statistik, vi lærer logik i større eller mindre grad. Og de værktøjer kan vi så bruge til at løse spørgsmål, som vi bliver stillet overfor i vores tilværelse. Det vi typisk gør, hvis vi har de rigtige værktøjer er, at vi opstiller en forståelse af situationen, og så bruger vi den til at løse det spørgsmål, vi står overfor. Jeg skal lige sige, at den form for tænkning er den symbolske kunstig intelligens. 

Vi mennesker har også en anden kompetence, som er en lynhurtig, intuitiv mønstergenkendelses-kompetence. Hvis en bil kører forbi os, og den er gul, og den er lang, tyder vi med det samme, at det er en bus. Det er ikke noget, vi behøver at bruge de her rationelle værktøjer til at løse. Faktisk kan alle dyr bruge den form for intelligens. Det er det, som vi er født med og har udviklet igennem evolutionen. Der er ikke tale om rationel tænkning. Der er tale om mønstergenkendelse. Måske fantastisk effektiv mønstergenkendelse og måske også nogle gange indlært mønstergenkendelse. Men vi kan genkende, når vi gør det ved, at vi ikke rigtig har forklaring på, hvorfor vi opnåede den forståelse. Hvad er det postulat, der er kommet ud af vores munde? Det kalder vi forskellige ting. Vi kalder det fantasi. Vi kalder det intuition. Vi kalder det mønstergenkendelse. Men i alle de tilfælde bruger vi den side af vores hjerne. Og det er det, man modellerer i subsymbolsk kunstig intelligens. Som neural netværk, deep learning og alle de former for AI-systemer, vi oftest hører om, inklusiv sprogmodeller, som ChatGPT rent faktisk applicerer. Det er alt sammen den her lynhurtige mønstergenkendelsesmetode og det er det, der under en stor, kæmpe, bred kamp kaldes for subsymbolsk kunstig intelligens.

Hvis vi skal stille op netop, som du siger, så er den sub-symbolske, det er sådan noget som ChatGPT og de andre store sprogmodeller. Men Jeg kunne godt tænke mig at tage det ud fra, hvad det er Abzu laver.

En af de ting, som sub-symbolsk kunstig intelligens ikke kan, det er, at det ikke kan finde frem til en forklaring. Hvis du gerne vil komme frem til nye videnskabelige teorier, eller du gerne vil besvare et spørgsmål som, hvor mange røde biler er der i København, så kan sub-symbolsk kunstig intelligens faktisk ikke rigtig hjælpe dig. Den form for forklaringer består af et analogisk rammeværk. Lad os tage de røde biler. Hvor mange røde biler er der egentlig i København? Det kunne være, at jeg vidste det, så kunne min sub-symbolsk AI levere svaret. Men det gør jeg faktisk ikke. Men jeg kan stadigvæk godt konstruere en metode til at nå frem til et fornuftigt svar.

Det er jo noget, jeg har lært i skolen, så jeg kommer straks til at tænke på, det har nok noget at gøre med, hvor mange mennesker der er i København. Og måske har det noget at gøre med, hvor mange biler hver person i gennemsnit har. Og så er der nogle af de biler, der er røde. Her har vi virkelig et matematisk regnestykke. Jeg starter med at sige, hvor mange mennesker er der i København? Der er halvanden million mennesker. Og hvor mange af dem har så biler? Nu bliver det gæt, men lad os sige en fjerdedel. Og hvor stor en procentdel af dem er så røde, og så ender jeg på et eller andet tal, måske 80.000. Men pointen her er ikke de 80.000. Pointen er metoden til at besvare spørgsmålet. Symbolsk kunstig intelligens handler om at generere den slags metoder til at besvare spørgsmålet. 

Og hvornår er vi interesserede i metoder til at besvare spørgsmålet? Det er vi faktisk næsten altid. Det kan være, at vi vil forstå nogle data, vi har opsamlet om en sygdom. Vi vil gerne forstå, hvorfor folk bliver syge. Hvad er egentlig de underliggende mekanismer, der gør, at nogen udvikler en bestemt form for brystkræft eller svangerskabsforgiftning? Vi kan gå over i molekylær forskning. Hvad er egentlig de egenskaber ved et molekyle, som gør, at det er giftigt? Eller at det er ustabilt ved stuetemperatur? Eller måske, at det ikke kan trænge ind igennem en cellevæg, hvis vi prøver på at lave et medicin? Så er det det molekylære, biologiske spørgsmål. Hvad er egenskaberne ved de her molekyler? Og igen vi er ikke så interesseret i en prædiktion. Det er ikke sådan et intuitivt, jeg tror, at den her kan, og den her kan ikke komme igennem en cellevæg. Det er ikke det, vi er efter. Vi er efter en eller anden form for formel forståelse af, hvad det er, der gør, at molekylet kan trænge igennem den her hypotetiske cellevæg. 

Abzu blev stiftet for seks år siden af mig og en gruppe andre AI-forskere og high performance computing-forskere, som havde en drøm om at bygge symbolsk kunstig intelligens, der kunne tackle den her slags problem. Lige på og hårdt. Simpelthen tage videnskabeligt formulerede spørgsmål af den art, som jeg lige præsenterede, og rationelt nå frem til et godt bud på, hvordan det spørgsmål kunne besvares. Det har selvfølgelig en helt utrolig bred anvendelse. Netop medicinsk forskning er et område, hvor vi har lavet rigtig meget arbejde i tidens løb med at undersøge og forstå sygdommen. Både cancer og andre livsstilssygdomme har vi arbejdet med.

Der har vi opnået ret store resultater på at bringe ny viden frem omkring. Når man har forstået en sygdom, så er man ofte interesseret i at kunne behandle den. Det er der, vi kommer over i medicinsk eller farmaceutisk forskning. Hvordan kan vi udvikle nogle former for medicin eller behandling, som kan forhindre de her sygdomme i at opstå. Det bliver muligt, når man har forstået sygdommen. Så kan vi komme over i det molekylære og forstå, hvordan molekyler opfører sig, når de kommer ind i vores krop. 

Det er den type områder, hvor vi har lavet en masse arbejde. Men de symbolske AI-algoritmer, vi har udviklet herunder især vores mest kendte algoritme, som hedder Q-Lattice, som der er rigtig mange forskere, der bruger rundt omkring i verden i dag, bliver anvendt helt utroligt bredt. Vi har måske en særlig forkærlighed for projekter i sundhed og medicin, men vi har alt lige fra rumforskere i NASA til folk i CERN og til adfærdsforskere, der forsker i dyre eller menneskeadfærd

til energi- og klimaforskere, som studerer, hvordan vi kan optimere anvendelsen af energi i en bygning osv. De har allesammen brugt vores kunstig intelligens til at nå frem til ny videnskabelig forståelse af de her meget forskellige karterede problemstillinger. Det er vi super stolte af. Det er ikke noget, vi tjener penge på. Teknologien er frit tilgængelig for folk, der ikke laver kommerciel forskning. Det kan man bare gøre, hvis man har lyst til at gå i gang med at forske. 

Så man kan sige, at de symbolske algoritmer er gode til at gå ind i det tungere vidensarbejde. Hvis du så skal stille dig op over for den subsymbolske, hvor har den sine styrker i forhold til det?

Subsymbolsk kunstig intelligens har sine styrker, når mønstergenkendelse faktisk er nødvendigt. Lad os sige billedgenkendelse. Hvis du har et fotografi eller en video. Og du vil genkende et eller andet. Så er du ikke på udkig efter en rationel metode, hvor du kan gå fra de her pixels i et billede, og så frem til en beslutning om, at det her er nok en bus. Det løser du ikke med symbolsk AI. Ligesom hjernen heller ikke løser det med symbolsk tænkning. Så i de tilfælde, der er den helt rigtige løsning, det er at bruge mønstergenkendelsesmetoderne. Det er også noget som hurtig vidensgenfremkendelse. Lad os nu sige, at vi faktisk havde vidst, hvor mange røde biler, der var i København. Så kan en sub-symbolsk AI faktisk godt hurtigt kigge igennem et repositorium af viden. Og så sige, at her er tallet. Så de rationelle metoder i det sub-symbolske kommer til sin ret, når svaret ikke allerede er kendt. Hvis du er på udkig efter at forstå noget, du tidligere ikke forstod. Og det kan faktisk være bredt. Det kan være de eksempler, jeg gav tidligere med det medicinske og sådan noget videnskabeligt. Men det kan også være, at du er interesseret i at vide, hvad er det, der gør, at dine kunder kommer tilbage og handler hos dig igen. Du er ikke interesseret i at forudsige, hvorvidt de kommer tilbage og handler hos dig igen. Det kan være nyttigt nok. Men lad os sige, at du er interesseret i at forstå, hvad det egentlig er, der afgør det. Så kan det sub-symbolske faktisk ikke hjælpe dig, mens det symbolske kan.

Jeg vil sige, at det, der er sket i de sidste to-tre år, er, at symbolsk og sub-symbolsk AI er modnet til et niveau, hvor vi i virkeligheden er gået i gang med at kunne flette de to kompetencer sammen. Og det kalder vi hybrid AI. Vi bygger i dag, og det gør vi også her i Abzu, og forsker i og udvikler systemer, som fletter de her sub-symbolske og de symbolske kompetencer sammen.

Så du ender med et system, der i princippet både kan kigge på billeder og kan tale med et menneske, men også kan lave rationelt tænkning og nå frem til rationelle bud på en forklaring, som det så i øvrigt også kan kommunikere tilbage til mennesker i naturligt sprog. Vi er på vej i en retning her, hvor symbolsk og sub-symbolsk AI fletter sig sammen på samme måde, som det gør i den menneskelige hjerne og leverer den her helhedskompetence, som vi jo er så fantastiske vi mennesker i, at vi rent faktisk kan og måske ikke engang er bevidste om, at vi blander de her to mekanismer sammen. Det vil sige, at hvis man holder lidt øje med sig selv og tænker, hvordan er det egentlig at tænke, så vil man faktisk blive opmærksom på, at vi hopper frem og tilbage mellem de to måder at tænke på, når vi går igennem livet. Nogle gange så søger vi afsted, og vi ved slet ikke, vi tænker ikke, hvor vi sætter vores fødder eller hvad der sker omkring os, men vi kan stadigvæk godt komme hjem. Og andre gange så opdager vi lige pludselig, at vi går og tænker over et eller andet konkret og det analogiske forståelsesmodel omkring det, vi ser i verden. Så vi kan godt være bevidste om de her to mekanismer i vores eget hoved også. Det er bare ikke noget, vi går og tænker over så meget, når vi går igennem livet normalt.

Og hvad ser du potentialet er i at lave en forening af de to? 

Potentialet i AI er jo enormt. Og i hybrid AI, der integrerer de her to kompetencer, er helt enormt. Det er der slet ikke nogen tvivl om. Vi ender med at kunne bygge kunstig intelligens, som faktisk kan det samme som mennesker. Vi er på vej mod Artificial General Intelligence, som det hedder med et fancy ord. Altså en AI, som på næsten alle eller måske alle områder er lige så kompetent som en menneske, og måske på visse områder også er super kompetent. Vi taler ofte om super kompetent AI, og det lyder meget skræmmende, men vi skal jo lige være opmærksomme på, at i en vis forstand har vi allerede bygget super kompetent AI. AI er i dag langt, langt bedre til mange ting, end nogle mennesker nogensinde har været. Og vi kan jo tage noget som mondænt, som at lægge tal sammen. Altså en lommeregner. Alan Turing ville have kaldt en lommeregner for en AI, fordi den kunne noget, som det inden da kun var mennesker, der kunne, nemlig at regne. Men det er længe siden, at lommeregner blev bedre til at regne, end noget menneske jeg kender. Så der er ikke sådan noget forbløffende i at AI på visse nicheområder har kompetence. Som langt overstiger et menneskes kompetence. Det der er interessant, det er når man ender med en AI, som over en bred kam er lige så kompetent som mennesker, men i visse områder er super kompetent. Så har vi jo en virkelig interessant konkurrent, eller hvis vi opfører os fornuftigt og rigtigt, medspiller i den fremtid vi går i møde. Og det er jo ikke sikkert, at vi ender med at lave AI til at være vores medspiller. Der er en masse mekanismer i vores samfund, i vores økonomi, som kunne gøre, at vi blev forledt til at lave en modspiller. Og det er et af de områder, jeg taler allermest om. Jeg er meget optaget af, hvordan vi sikrer os, at de AI-systemer vi bygger, men også den måde vi bruger dem på, sikrer sig, at vi bygger vores AI, der er en medspiller i det, som vi som mennesker ønsker at opnå. Men det er ikke givet. Det er en vigtig kamp, der kommer til at blive taget over de næste par år, tror jeg.

Hvordan skal vi gøre det konkret?

En ting, det jeg gør, mit bidrag her, det er, at jeg sikrer mig at bygge AI, som kan tænke rationelt. Og det værste rammescenarie, jeg kan forestille mig, det er, hvis en AI både er lige så bredt kompetent som en menneske, og også er langt mere kompetent på visse områder, men er i stand til at levere beslutninger, som vi mennesker ikke kan forstå. Det er faktisk det værste, jeg kan forestille mig. Så hvis vi bygger AI’er, som er klogere og dygtigere end os, og kan træffe beslutninger på et grundlag, som vi mennesker ude er i stand til at forstå, så har vi et problem.

Jeg synes, vi skal insistere på, at AI må gerne være klogt, det må gerne være kompetent, det må også gerne være mere kompetent end os, men når en AI træffer en beslutning på et eller andet, der er vigtigere end bare det mest banale, så skal AI’en være i stand til at gøre rede for, hvad det er for et grundlag, den beslutning bliver truffet på. Og det er derfor, jeg fokuserer så meget på symbolsk kunstig intelligens. Hvis vi ender med at bygge artificial general intelligence uden den symbolske komponent, så kunne vi ende i et scenarie, hvor AI’en kan være lige så kompetent og lige så forudsigelse stærkt, men vi fatter ikke, hvad der er, der foregår. Vi fatter ikke, hvorfor det er, den foreslår, at den patient må få medicin, og den ikke må. Eller hvorfor bilen skal dreje den vej og ikke den vej, når der er mennesker, der kører ind i den vej. Da AI’en begynder at træffe beslutninger, som vi ikke kan kigge ind i. Det synes jeg er et skræmmende scenarie. Derfor er mit bidrag til at sikre sig, at AI i fremtiden bliver en medspiller og en styrke for menneskeheden. Det er at bygge AI, hvor jeg insisterer på det symbolske. Jeg insisterer på de rationelle, forståelige forklaringer, som man kan tage ud og kigge på og nå frem til, den her, den køber jeg. Det er okay, at AI’en træffer sin beslutning om, hvem der må få kredit, eller hvem der må få medicin, eller hvem der skal have det her job, på det her grundlag.Det andet, det er både unfair og potentielt katastrofalt for menneskeheden, hvis vi ender med at bygge den anden form for AI. Eller i hvert fald sætte den anden form for AI til at lede os igennem livet.

Men tænker du, at den kombination af den symbolske og den sub-symbolske kan være med til at lette på låget i den der black box, der hedder sub-symbolsk, som vi ser i dag?

Ja, lige præcis. Sub-symbolsk AI er black box. Symbolsk AI er white box. Vi kan åbne låget og sige sådan her. Nå, det er sådan, du tænker. Det er den måde, du beslutter dig på, om fru Hansen må få medicin, mens fru Jensen ikke må. Og så er jeg helt on board. Der er ikke noget problem i, at en AI er bedre til at nå frem til, hvordan vi skal træffe den beslutning. Hvis bare den kan forklare den til mig. Det er jo efterfølgende, og det er det, det symbolske går ud på.

Så ja, jeg tænker, at det er nødvendigt, men ikke tilstrækkeligt, forudsætning for at sikre kunstig intelligens i fremtiden, at det symbolske kommer helt frem i forbundet. Derfor arbejder vi så hårdt på det, og det er jo et særligt fokus for os som virksomhed, både på det, vi laver kommercielt, men også på vores forskning, at det er noget, vi vil bidrage til mennesket med. Det er ikke tilstrækkeligt. Der er andre ting, vi også skal gøre for at sikre os, at AI ender med at være et værktøj i det gode tjeneste, som jeg er sikker på, at du også gerne vil høre mere om.

Ja, lad os bare gå videre der.

Nu ryger vi så ind i det regulatoriske. Der kører jo en intens debat for tiden omkring, hvordan vi skal regulere anvendelsen af AI. Grundlæggende synes jeg, at vi kan dele det op i to typer af regulering, to typer af regelsæt, som der er under overvejelse. Og jeg har stærkt forskellige holdninger til de to områder, så lad mig lige ridse det op. Først og fremmest er der noget omkring, hvordan vi anvender AI. Hvis man tænker på EU’s AI Act, altså den her lovgivning, der er på vej igennem parlamentet, og som formodentlig bliver vedtaget snart og tråd i kraft i løbet af 2024,

så er der et fokusområde der, som jeg næsten ikke kan få armene ned over, og det er det her med at tænke i risikoklassificering. Når du anvender kunstig intelligens til noget, så er det det, du skal gøre. Så er der en risiko involveret. Og hvis du benytter det til noget mindre vigtigt, så er risikoen selvfølgelig også mindre. Det er vigtigt, at vi beslutter os til, hvornår der er en høj risiko involveret i at anvende AI i det hele taget. Jo højere risikoen er, jo større krav skal vi også stille til den AI, som bliver sat på opgaven. Og et eller andet sted er der også en grænse, hvor det bare ikke er acceptabelt. Der er nogle områder, der er opridset som uacceptabelt risici, i AI-Act’en. Og dem er jeg langt hen ad vejen enig i. Jeg kunne godt tænke mig at smide et par ekstra pointer ind der.

Jeg synes noget omkring censur og masseovervågning på internettet ville være rart at få med. Men intentionerne om at forbyde masseovervågning i det offentlige rum, i det fysiske rum, er i hvert fald et godt sted at starte. Masseovervågning i det fysiske rum kan vi ikke lide, fordi det giver nogle helt forfærdelige mulige fremtids overvågningsscenarier. Det gør sig altså også gældende i det digitale rum. Så lad os nu få tilføjet det som en uacceptabelt risiko. Selvom vi allerede er kommet til at gå et temmelig mange skridt ned ad vejen af masseovervågning på internettet, så lad os tage nogle skridt tilbage igen på den front, inden vi ender i uoverstigelige konsekvenser. Men som princip er det en god måde at gribe det an på. Lad os kategorisere nogle risikoområder og så lave regler, der passer til den risiko, der er. Så vi ikke laver noget ækvivalent til våbenlovgivning for ligegyldige ting som kuglepenne. Det er jeg 100%  tilhænger af og i virkeligheden nok på strammer fløjen, i forhold til lad os få det strammet yderligere op.

Så er der et andet element, som især i den senere tid har fyldt rigtig meget i debatten mellem eksperter og virksomheder. Og det er regulering af forskning og udvikling af kunstig intelligens.

Her taler vi ikke om at udvikle hvad kunstig intelligens må bruges til, men hvad vi overhovedet må forske i for kunstig intelligens, og hvem der har lov til at forske. Der er jeg på slapperfronten.

Det er et problem med det, som jeg kalder spekulativ regulering, at vi jo i virkeligheden regulerer på basis af science fiction scenarier. Det er ikke, fordi jeg vil nedgøre de skræmmende scenarier, der nogle gange bliver malet frem. Jeg synes, det er vigtigt, at vi får skræmmende scenarier på banen, og vi taler om Terminator-styled futures, hvor vi bliver udraderet af vores egne skabninger. Jeg synes, det er vigtigt, at vi får de ting på banen og begynder at tale om dem. Men at tro, at vi har den nødvendige viden og den nødvendige forståelse for problemdomænet til, at vi kan løse det ved at regulere, hvad der må forskes i og hvad der ikke må forskes i, er en vildledelse. Det er altså til dels i hvert fald muligt, at det kommer med i AI-Act. Det er også i høj grad på dagsordenen i USA med præsident Bidens executive order, hvor det også kunne være et potentielt resultat, at der kommer regulering på, hvad der overhovedet må forskes i. Og ekstra grelt bliver det, når den regulering, der bliver fremlagt, handler om at regulere offentlig forskning. Det, der i virkeligheden er nogen, der plæderer for, det er, at det skal være forbudt for sådan den almindelige offentlighed at få indblik i forskningen i form af for eksempel åben forskning, og open source. Men at det til gengæld nok skal være til at få store techgiganter at sidde og udvikle de her AI-algoritmer, så længe der så er en eller andet komité under regeringen, der kan kigge dem over skuldrene. Så hvis jeg skal vælge mellem en fremtid, hvor der er nogle få techgiganter med nogle regeringskomiteer i baggrunden, der skal have lov at bestemme, hvad der må forskes i og hvad der ikke må forskes i, eller en fremtid, hvor vi insisterer på, at forskning er åbent lagt frem, så vi allesammen kan følge med, så ved jeg godt hvad jeg vælger. Jeg ved ikke nødvendigvis, hvor reguleringen ender og jeg vil godt sige, der er jo nogle grunde til, at der er nogen, der presser i retningen, af at det kun skal være i lukket rum og under regeringskontrol og i kæmpe gigantiske firmaer, at den her forskning skal foregå. Grunden er angsten for, hvad man kan, hvis den her forskning bliver lagt frit frem. Det må vi jo også erkende. Hvis en AI-model bliver lagt frit frem, så kommer den i hænderne på både gode, velmenende spillere, men også på mindre velmenende spillere. Det vil jeg ikke bestride. Mit postulat, som jeg tror, de fleste vil være enige med mig i, hvis de tænker lidt over det, det er, at the bad guys, de skal nok få fat i det her AI alligevel. Så hvis vi regulerer sådan, at åben forskning og fri tilgængelighed af viden bliver forbudt, så ender vi med en verden, hvor det er the big corporates, the governments og the bad guys, der har muligheden at råde retten over AI, mens vi i den brede offentlighed ingen adgang eller forståelse har for, hvad der foregår. Lad os ikke gå den vej.

Så lad os bare gå videre til risiciene. Du har allerede været lidt inde på det. Hvad er det egentlig for risici, du ser ved teknologien?

Hvis vi lige bliver ved de her store emner først, så er der en bred kamp i terminator-fremtiden,

hvor AI virkelig udvikler enten indifference over for menneskehedens trivsel, eller i værste fald, et behov udvikler den for at slippe af med os, fordi vi er i vejen. Jeg er ikke specielt bange for det. Jeg er en relativt optimistisk anlagt person. Jeg har også nogle bevidsthedsfilosofiske grundtanker omkring, at det tror jeg simpelthen ikke kan ske, fordi AI ikke er, og ikke umiddelbart står foran at blive bevidst i vores forstand. Så der er simpelthen noget med purpose in life, som vil forhindre det i at ske. Men det er et scenarie, og jeg synes, det er vigtigt. Jeg synes, det er vigtigt, at forskere som Eliezer Yudkowsky og Max Tegmark og andre bliver ved med at tænke i og forske i at holde øje med den risiko. Men det er terminator-scenarierne, og jeg synes ikke rigtig, vi som samfund skal gøre så meget andet, end at sikre os, at den slags forskning bliver finansieret, og at deres tanker og ord kommer ud i en bredere offentlighed, så vi kan forholde os til dem i takt med, at AI udvikler sig. 

Så er der Wall-E-scenariet, for nu at blive i det populære. Wall-E er den her film, hvor mennesker er blevet til sådan nogle egentlig nytteløse, organiske dimsedutter, der lever i et univers, som helt og fuldt er styret af maskiner, og hvor jeg vil sige, at formålet med livet er gået tabt. Det er et andet scenarie, som jeg måske virkelig heller ikke tror kommer til at ske, men som jeg er mere bekymret for. I hvert fald, at en stor del af befolkningen kan ende i en sådan situation, at det, der gør livet værd at leve, det er at udforske og realisere sig selv, at bruge sig selv og at gøre en forskel i den verden, vi lever i. Det er det, der nok for de fleste mennesker i sidste ende gør livet værd at leve. Og hvis AI ender med at erstatte så meget af det, at lad os sige 70, 80, 90 procent af befolkningen ender med at miste meningen med livet, så kan det godt være, at AI i bedste intention gør alt for at gøre vores liv nemt og komfortabelt, men i virkeligheden ender med at gøre os fortræd. Det er et scenarie, som mere handler om, at vi selv glemmer vores værdier og vores etik. Der er ikke nogen Terminator, der slår os ihjel der. Der er det os selv, der slår os selv åndeligt ihjel ved at glemme at tænke på, at kompetencer og selvrealisering i virkeligheden er det ultimative formål med, at vi er her i det her kosmos, hvor vi har opdaget, hvilket vi er. Der tror jeg igen, at ikke regulering er svaret. Jeg tror, at det er en samfundsmæssig forståelse. Vi skal simpelthen væk fra en, lad os sige en hedonistisk forståelse af, hvad formålet med livet er,

og over i en mere formålsdrevet forståelse af, hvorfor vi er her. Og det løser måske sig selv, hvis det materielle, hvis de første tre niveauer af Maslows behovspyramide bliver opfyldt af AI’en, så kan det være, at vi kommer til at fokusere på 4 og 5, men det kan også være, at vi glemmer det, og så ender med at tage dem for givet, og lade AI udfylde det også. Jeg foreslår ikke regulering her. Jeg foreslår, at vi gør os klar, hvad er det egentlig, vi vil. Vil vi bare være rigere og rigere og mere og mere dovne og lave mindre og mindre, eller er det noget andet, vi vil her i livet? En samfundsdebat, og lad os tage den, og lad os benytte den her enorme rigdom, som er på vej til at ramme os alle sammen til at tage den debat. 

På den korte bane. Der er nogle helt andre risici, som knytter an til den overliggende problemstilling, som handler om kompetencetab. Der var et barn, der købte med Alken K.

Jeg boede på landet, og min nabo, hendes mand, døde, og så var vi børn i landsbyen, vi hjalp hende med at drive det her landbrug videre. Jeg lærte hurtigt at malke køer og køre en traktor osv.

Hvor mange mennesker i dag kan faktisk malte en ko uden en malkemaskine? Jeg tror ikke, der er ret mange, der kan. Og det gør nok heller ikke noget. Men sidenhen er kompetence efter kompetence sluttet sig til de ting, der ikke rigtig længere er nogen, der kan. Jeg kan nævne et eksempel. Vi tager for givet, at vi alle sammen kan læse. Kan vi det om 20 år? De fleste mennesker, jeg kender i dag, hører flere podcasts, end de læser bøger. Jeg sidder selv her og laver en podcast.

Og det er jo fint. Men ender vi i en situation, hvor det der med at læse, det er ligesom i en tidlig renæssance, så bliver sådan en lille lækker elite, der har mulighed for det. Og alle vi andre, vi snakker bare med vores AI, og så kan den fortælle os i detalje et sprog, hvad vi skal. Det er et potentiel kompetencetab. Måske er det lige så irrelevant som at kunne malke en ko. Det kan godt være. Og så skal jeg nok læne mig tilbage og sige, fint nok, vi glemmer det med at læse. Men lad os gå videre. Der er et eksempel, som jeg nogle gange bruger i den her sammenhæng. Jeg snakkede med en virksomhed, som faktisk var interesseret i at få min hjælp til at automatisere nogle processer i håndtering af nogle kundehenvendelser. Og det de endte med at gøre, det var, at de satte en AI til langt hen ad vejen at håndtere og forprocessere kundehenvendelserne Hvad er de juridiske baggrunde for den her henvendelse, så det blev lagt an til en beslutning,

som nogle af de allermest højt uddannede konsulenter, der kunne forholde sig til de her sager, så blev overladt. Det vil sige, at vi endte med en situation, hvor der tidligere havde siddet en masse mennesker og preprocesseret de her indkommende requests og havde afleveret dem til beslutningstagernes afgørelse og  andre gange sende afgørelsen videre til en ekspert, som kunne træffe beslutningen, hvis forholdet var for svært. Nu er det kun eksperten, der er tilbage,

fordi alt det der er nemme der, det er blevet automatiseret. Og det går fint i øjeblikket, det sparer en masse penge. Ikke så rart for de der mennesker, der er blevet redundante, men det er jo sådan, det er, når teknologi udvikler sig. Det er sådan set okay. Vi kan også snakke om, hvor de nu skal hen, men det er et subemne. Min største anke mod den her trend i samfundet, det er de der eksperter, hvordan blev de eksperter? Det gjorde de jo ved at være ikke-eksperterne, der sad og processerede de her mange sager. Så fødekæden af dem, som kan tage over derfra inden, den har vi jo skåret over her. Og det kan godt være, vi ikke lige ser det lige nu, men giv det her 10, 15, 20 år, så er det ikke så, at det er ikke længere eksperter, der skal sidde og tage de sager, som AI ikke længere kan finde ud af. Så er det folk, som ikke aner en hujende fis om det, fordi de aldrig har været igennem en læringsrejse. Hvad gør vi så? Så har vi mistet kompetencen til at håndtere de svære situationer. Så bygger vi vel noget AI, som bliver endnu bedre til at også tage de svære situationer, og så opdager vi det slet ikke, fordi vi ikke ved, at der bliver truffet elendige beslutninger, fordi der ikke længere er nogen eksperter, der kan opdage det.

Det er et kompetencetab her i et sagsbehandlingsdomæne, men det her eksempel, den samme historie, kan genfortælles i domæne efter domæne efter domæne, hvor den virkelig specialiserede ekspertviden, opstår jo bare ikke af sig selv. Så vi skærer en fødekæde over, hvis ikke vi passer på. Der er ting, vi kan gøre. Vi kan godt bygge vores AI sådan, at AI’en hjælper folk på en hurtigere rejse mod ekspertise. Altså, at vi i bund og grund har en AI som en coach, i stedet for at erstatte mennesker. Det er i hvert fald i nogle områder, det der bør være en god løsning i mine øjne, at AI’en tager et menneske ved hånden og føre dem frem til den ekspertise. Det kan sagtens være. Det er ikke fordi, jeg vil lukke muligheden for at spare mange penge her. Det ved jeg godt. Hvis jeg prøvede på at gøre det, så ville det alligevel ikke lykkes. Så de virksomheder, der overvejer de her ting, vil jeg appellere til, at de tænker, lad os gøre det på en sådan måde, at vi stadigvæk har en fødekæde til fremtidens eksperter. Det kan godt lade sig gøre, men det kræver et bevidst valg.

Hvor skal de ellers hen, dem her, der bliver redundante? De skal jo omskoles osv., men kan vores arbejdsmarked rent faktisk absorbere dem, eller vil vi se masser af arbejdsløshed?

Ja, det er et godt spørgsmål. Standardsvaret for økonomerne vil være, at der altid bliver råbt op, når teknologi automatiserer arbejdspladser. Og det holder aldrig stik. Der bliver flere og flere i arbejde, og arbejdsstyrken stiger, og vi har fået kvinder ind på arbejdsmarkedet, folk har arbejdspladser, der arbejder til de meget længere og ældre osv. Så det er jo virkelig ikke sket indtil nu. Så standardsvaret er, at de går bare over og laver nogle andre ting, og al den rigdom, der bliver skabt med det her, skaber ekstra efterspørgsel, og så vil folk købe nogle andre ydelser, og så ender det hele med at gå op. Ærgerligt for dem, der havde en kompetence, som nu er redundant,

men som samfund har det ingen konsekvens. Og det er fristende at sige, at det samme sker her. Det tror jeg måske også er et okay sandsynligt scenarie, jeg vil ikke afvise det. Jeg vil dog bare påpege, at der er en forskel. Der er en forskel på det, der foregår lige nu, og det, der foregik dengang vi automatiserede elevatorførernes job. Nu er det de allermest højt uddannede, specialiserede kompetencer i vores samfund, vi automatiserer. Det er vidensarbejde, og det er faktisk svært vidensarbejde. Det er vidensarbejde, som i visse tilfælde har krævet årevis af uddannelse og efterfølgende erfaring for at kunne udøve, hvor AI’en går ind og erstatter det. Og det har vi ikke prøvet før. De andre situationer, der har folk flyttet sig fra manuelt arbejde over i mere og mere specialiseret vidensarbejde. Nogle er flyttet over i servicesektoren. Det har jeg mere at sige om. Men i høj grad op i mere og mere specialiseret vidensarbejde. Og nu er det det, vi automatiserer. Først og fremmest skal vi selvfølgelig være opmærksomme på, at elevatorførere ikke havde lige så meget politisk vægt, som lærere og sagførere har. Så det vil nok være en lidt anderledes proces dengang. Hvor der vil være noget mere tumult omkring det, at de her ting bliver processeret. Og hvor vi formodentlig vil se forsøg på at bruge lovgivning og andre former for regulering til at forhindre processen. Og igen, jeg siger ikke, om det skal ske eller ikke ske. Det er bare anderledes. Fordi det er jo nogle af samfundets mest magtfulde mennesker, der står over for udfordringen dengang. Det bliver egentlig interessant. Lad være med at blive skadefro. Der er måske nogen, som har lyst til at tænke, ha ha, så kan de få deres egen medicin. Men jeg tror, vi skal se en lille smule mere menneskehedspolistisk på det her. Jeg synes, det er en interessant, bekymrende observation, som jeg er ved at holde øje med. 

For det andet vil jeg sige, at der har været et flow fra manuelt arbejde over i servicesektoren også. Der kommer også til at ske et flow fra vidensarbejde over i servicesektoren, fordi servicesektoren bredt forstået, det vi i den offentlige sektor kalder varme hænder, men også folk, der betjener os i en restaurant eller en frisør, eller en masse andre situationer, når vi går i teateret,

der køber vi jo faktisk en vare, som består i, at det er et menneske. Man kan spørge sig selv, hvordan kan en AI nogensinde konkurrere med en vare, hvis varen er, at det er et menneske?

Og der tror jeg, at der er en mulighed. Der er en mulighed, hvor vi som samfund tænker, at det i virkeligheden er nogle af de mest meningsfyldte job, vi har. Selvom det måske ikke er de mest prestigefyldte job, vi har. Så er det jo nok nogle af de mest meningsfyldte job, vi har at være ude og hjælpe sine medmennesker. Det her er alt lige fra folk, der arbejder på et plejehjem, til en børnehave, til en frisør, til betjeningen i en restaurant, som faktisk leverer noget af det mest meningsfyldte arbejde her i vores samfund. Så hvis vi nu formår at sætte fokus på det, og blive klar over, at det faktisk er det, der bør være høj status. Vi har at gøre med en ydelse, hvor du bruger din allermest dyrebare kompetence, nemlig den, at du er et menneske. Og det er svært at automatisere. 

En af de ting, jeg ofte taler om og har skrevet noget om, det er det her med, om vi i vores økonomiske incitamentsmodeller, kunne regulere os i den retning. Altså for eksempel er jeg en stor fortaler for, at vi flytter beskatningen af værditilvækst, fra at beskatte menneskeligt arbejde over på at beskatte selve værditilvæksten. Så sagt lidt enkelt, væk med indkomstskat, og så over på moms. Det er ikke fordi, jeg siger, at vi skal beskatte mindre. Det er en helt anden debat, som jeg vil lade fløjene om at diskutere. Men den måde, vi vælger at beskatte på i dag, den er til ulempe for mennesker. Det er simpelthen billigere at sætte en robot eller en betjeningsautomat i McDonalds til at betjene dig, end det er at sætte en menneske til at gøre det samme. Det er bare en konsekvens af, at vi vælger at sige, maskinen betaler ikke skat, og det gør mennesker. Den skat, maskinen betaler, det er faktisk momsen og den skat, mennesker betaler, det er indkomstskatten plus momsen. Så det har vi valgt og det har drevet automatiseringen, måske i tiden inde til at gentænke den balance i menneskers favør. Men så er der også noget omkring, hvordan vi taler om det. Jeg spørger nogle gange folk, når jeg taler om det her, hvis nu en praktiserende læge kan automatiseres, men en frisør ikke kan, hvem har egentlig så den højeste status? Det er svært at få det ind under huden, men hvorfor har det højere status, at være praktiserende læge, hvis en robot kan gøre det, end at være frisør, hvis en robot ikke kan gøre det? Jeg skal ikke klippes af en robot, men der er der måske nogle, der skal. Men jeg synes, det er et mentalt skift, og det kommer jo også til at tage noget tid, at forstå, at det er sådan, og det er også noget, vi kan arbejde med som samfund. At huske at værdsætte de folk, der gør de ting.

Nu har vi snakket risici, men der er jo også en masse muligheder i det her. Hvad er det for muligheder, du ser i teknologien?

Altså, hvis vi bruger det her rigtigt, så er de materielle kvaler i vores tilværelse forbi. Der er ingen grund til at frygte sult, hungersnød, mangel på noget som helst i en verden, hvor AI bliver brugt rigtigt. Vi ender i en ægte postmaterialistisk fase. Når folk siger enorm rigdom, så mener de det. Det kommer vi, medmindre vi dummer os fælt, til at levere. Det er en enorm mulighed, og den skal vi da udnytte, så vi mennesker kan realisere os selv maksimalt uden at bekymre os om, hvor det næste måltid skal komme fra, eller om vi kan få varme i huset. Klimakrisen kan håndteres ved, at vi løser den med vores videnskab, med vores gode hoveder. Det tror jeg sådan set, vi kommer til.

Jeg håber også, det bliver i tide. Men overordnet set, hvis du kigger på det rent materialistiske, er der bare ikke nogen tvivl om, at AI kan levere den vare. Vi ender med at være helt urimeligt,

ufatteligt rige materielt, hvis vi fortsætter med udviklingen. Det synes jeg sådan set, vi skal gøre, for det var da ikke rart, dengang folk døde af sult, eller af sygdom, eller hvor den ene halvdel af befolkningen, nærmest slavede, for den anden halvdel af befolkningen. Det er ikke det, vi skal tilbage til. Så det materielle er fint, det skal vi høste, den gevinst skal vi høste. Og vi skal løse klimakrisen, i samme ombæring, og slippe af med kræft, og så videre. 

Men der er også andet rigdom, end den materielle rigdom og AI det kommer ikke til at løse. Jeg synes, og det kan godt være, det lyder og virker lidt New Agey og flippet, men jeg synes, vi som menneskehed skal gribe chancen til at søge ind mod den anden form for rigdom, som også er i livet. Og det er det her med vores menneskelighed overfor hinanden, og vores ansvar overfor, måske i hvilken også i bredere forstand, hele jorden og hele kosmos. Vi har også et ansvar overfor myrerne. Det synes jeg egentlig også er imponerende at se, at det har menneskeheden også i den grad taget til sig, i vores århundrede. Det skal vi bare blive ved med. Vi har en mulighed her, for at fokusere på de ting, der betyder noget i livet. Men vi har også muligheden for ikke at gøre det.

For eksempel de ting, jeg ikke bryder mig om, når jeg ser det, når folk bruger AI eller teknologi i en bred forstand, til at slippe ud af det menneskelige. Jeg tror, at nogle af os har et underligt usundt drive imod ensomhed. Vi ser, at folk foretrækker interaktioner, der er digitale frem for at møde op. Vi ser mere og mere hjemmearbejde. Er der nok en reaktion imod det? Det håber jeg i hvert fald, fordi der er bare noget ved at sidde her, sammen med sine kolleger. Vi ser mere og mere folk, der banalt eksempel, går ind i en fastfoodrestaurant. Der er en mand oppe ved kassen, og så står der en robotmaskine. Hvilken en bestiller vi ved? Maskinen. For så slipper vi for den der besværlige interaktion med den anden menneske. Jeg tror, det er sundt for os. Det er at ringe til pizzamanden. Det er at gå op til personen bag skranken i McDonald’s. Og det er at blive ved med at gå til en rigtig menneskelig frisør frem for en klipperobot. Jeg frygter nogle gange, at vi ikke kommer til at gøre det, eller i hvert fald, at kun nogen af os kommer til at gøre det. Og så ender vi med en ufattelig rig verden. Den skal vi have. Men en ufattelig fattig følelsesverden. Og det skal vi ikke have.

Du fremstiller det, som om det er nærmest automatisk, at den her rigdom vil komme. Men spørgsmålet er, vil den rigdom komme til alle? Og specielt når vi snakker, der er lidt en tendens til, at nogle af de her teknologier ryger over i store private virksomheder. Og kan det ikke spænde ben for den proces frem mod den der brede velstand? 

Også i den grad. Der er teknologi, især i den era, vi har været igennem, tech-giant-era, har drevet os imod en mere og mere centraliseret økonomi. Hvor nogle få virksomheder har kunnet udnytte en fordel ved at være store, til at blive større og større, og til sidst at komme til at dominere hele markedet. Der har været nogle dynamikker i vores marked, som har gjort det muligt. Helt centralt i det, er kontrollen over information. Så det, der har gjort Google og Amazon og så videre til giganter, det er, at den allermest værdifulde råvare i de sidste 30 år, har været information.

Og information har det bedst i mængder. Hvis du skal samle det sammen og sidde på store mængder, så kan du mere, end hvis du ikke kan. Det har simpelthen drevet det, jeg vil kalde en parentes i verdenshistorien. Jeg håber, det bliver en parentes, for vi har ikke set slut-parentesen endnu. Men en parentes i verdenshistorien, hvor der har været så store driftsfordele, at vi har opbygget den her meget ujævne og meget asymmetriske og også globalt asymmetriske økonomi. Den tendens kunne fortsætte. Jeg vil sige, AI har jo også muligheden for at være anti-dosen her. 

Fordelen ved at centralisere information er faktisk væk. Det, der er sket med kunstig intelligens, er i høj grad, at vi kan komprimere al verdensinformation ned i 7 milliarder parametre

i en sprogmodel. Det er lidt early days. Det er der ikke alt sammen. Men vi har rent faktisk bygget en teknologi, som kan eliminere den fordel ved at sidde på informationen. Fordi vi kan bare kopiere noget, så har vi alle sammen en lille udgave af hele verdens information i vores kraftmaskine. Jeg håber, at det er det, der er slutparentesen på den her drift mod centralisering,

som vil flytte vores markedsøkonomi tilbage ud imod små og mellemstore virksomheder. Det tror jeg også kommer til at ske med mindre. Der er nogen, der bruger AI-reguleringen til at forhindre det. Det er der selvfølgelig nogle af de her techgiganter, der godt har fået for øje. Hvis man gør det tilstrækkeligt svært at bygge eller levere AI, så sidder de nok lidt mere på magten i noget tid i hvert fald. 

Så det er den ene ting, jeg vil sige, kunne være positivt. Det er, at der er simpelthen noget

i selve teknologien, der er decentralt og demokratiserende i sit egenskab. Men så rosenrødt er det heller ikke kun. Fordi der er også et andet aspekt her. Nogle gange bruger jeg det her eksempel med forstillelser af milliardvirksomheder. Ledet af én person, og resten af de ansatte er AI. I visse brancher er det nok ikke umuligt at forestille sig, at du kan have en milliardvirksomhed,

der ansætter én. Den person vil nok være ret rig, fordi AI skal jo ikke betale løn. Især ikke, hvis vi ikke gør noget omkring det, vi snakkede om før med momsen. Så ender vi i sådan et

bizart samfund, hvor en ganske lille flok kan sidde på en enorm mængde af værdien. Det har vi ikke i Danmark, men jeg tror, vi kan se konturerne i den form for samfundsstruktur i vores kære broderfolk mod vest. Tænker helt over i USA, hvor det nok begynder at lugte lidt af den slags samfund. Det skal vi ikke have. Det håber jeg ikke, de skal have. Det skal vi i hvert fald slet ikke have her. Der må vi jo være voksne nok til at sige, det er jo altså skatten, vi bruger til at omfordele ressourcer, og derfor skal vi flytte skatten. Det styrker bare min pointe. Vi er nødt til at flytte skatten over på værdiskabelsen og væk fra arbejde. Fordi på arbejde, der kan vi allesammen være med. Det tror jeg, håber jeg, vi har viljen til. At vi også har viljen til at stå op imod de kræfter, som vil det omvendte og genkende dem, når vi ser dem. Her er det regulatorisk igen. Der er mange, der spekulerer i, hvorfor mange af de her store techgiganter faktisk går ind for at regulere benhårdt på AI-området. Det er derfor. Eller, det ved jeg ikke, hvad det er. Jeg skal ikke skyde dem motiver i skoene. Men det er i hvert fald ikke nogen ulempe for dem, hvis det bliver meget bureaukratisk at få lov til at drive AI-løsninger.

I bund og grund handler det også om at træffe nogle valg, at vi som samfund og vi som individer træffer nogle valg om, hvor vi vil hen. Og det vil jeg godt lige komme tilbage til, når vi er hen mod slutningen. Men inden, der kunne jeg godt tænke mig lige at gå en tand tilbage.

Fordi vi snakkede lidt om AGI. Du fortalte, at kombinationen af symbolsk og subsymbolsk AI måske kunne bringe os tættere på en AGI. Mange siger, at vi aldrig når frem til AGI, men det kan jeg så høre på dig, at det nok ikke er helt din holdning. 

Jeg tror, AGI kommer til at ske. Vi kan tale specifikt om hvorfor senere, men det kommer til at ske.

Mit håb er, at jeg og vi her i Abzu kan bidrage til, at den AGI, der bliver udviklet, bliver en form, der kan forklare sig selv, på en sådan måde, at vi mennesker kan forstå det. Det tror jeg ikke, er det, der lige er top of mind ovre i OpenAI eller i Microsoft. Det er top of mind her. Og det håber jeg, vi kan bidrage med. Så har jeg heller ikke så store bekymringer. Det er okay med AGI, hvis AGI’en føler, sig forpligtet, hvis vi fastholder og insisterer, at AGI’en skal kunne forklare sig selv over for os, almindelige, halvdumme, dødelige mennesker, så skal det nok gå. Det, der interesserer mig, er, får vi den form for AGI, som jeg ønsker, White Box AGI, om du vil. Ellers ender vi med en Black Box AGI. Ja, og det må fremtiden jo vise. Det bedste, jeg kan gøre, er at udvikle på det, jeg gerne vil have, der sker.

Men du tror, det kommer?

Det gør det. Og det gør det, fordi jeg er naturalist. Jeg tror ikke, der er noget i verden, som er overnaturligt. Jeg er ikke sønderlig og religiøs. Jeg har godt nok for en dansker en lidt besynderlig baggrund, i og med, at jeg er opdraget som katolik. Men det er ikke noget, der fylder andet end på det kulturelle plan for mig. Der er ikke noget her i verden, som ikke er naturligt. Og jeg ved, at jeg er her. Så jeg ved, at bevidsthed er en grundlæggende egenskab i universet. Det er det, jeg vil sige er Descartes’ argument om igen. Tænkende maskiner, bevidste maskiner, der kan det, som jeg kan, de er mig. De er der. Vi ved det. Det kan de altså gøre. Alt andet ville være at påstå, at der har været en eller anden gud, inde og puste noget til, som helt særligt er mig, som han ikke vil puste ind i en maskine, der bliver bygget. Og den køber jeg ikke. Og derfor må jeg jo også tage det logiske næste skridt og sige, så kan andre systemer også have alle de samme kompetencer, som vi mennesker kan. Alle de samme kompetencer. Så der er ikke nogen grund til at betvivle, synes jeg,

at vi kan bygge maskiner, som kan det, vi mennesker kan. Der er heller ikke nogen grund til at betvivle, at vi kan bygge maskiner, som kan nogle ting, som vi mennesker ikke kan. Så som at regne meget svære regnestykker ud, eller lave enormt komplicerede integralberegninger i hovedet, eller søge igennem næsten uendelige databaser af viden. Det ved vi, de kan. Dem har vi allerede bygget. Dem har vi haft brugt i mange, mange år. Så hvis vi ved, vi kan bygge ting, der kan det samme som et menneske, og vi også allerede har bevist, at vi kan bygge ting, som kan nogle ting, mennesker ikke kan, så kan vi også flytte dem sammen, og så har vi en super intelligent AGI.

Så på det filosofiske plan, der er det, for mig at se, at påstå, at vi ikke kan bygge AGI, er en mystisk påstand. Det kræver, at vi påstår, at der er noget metafysisk omkring, at vi selv kan de ting, vi kan. Der er jeg bare ikke som videnskabsorienteret person. Og så kan man sige, hvad er så timelinen? Hvorfor tror jeg, det er ved at være nu? Der synes jeg egentlig, at jeg vil lade teknologien tale for sig selv. Altså prøv, og så se, hvad der er sket i løbet af det sidste 16-18 år. Jeg har set på det lidt længere, men vi er i gang med en eksplosiv udvikling af systemet, eller de der subsymbolske kompetencer, som AI har manglet. Så om det er 2, 3, 5, 10 år? Ja, jeg ser simpelthen ikke, at der går mere end 10 år, før vi har et system, vi vil kategorisere som AGI. Men som udviklingen ser ud, lige nu, så vil det formodentlig blive en subsymbolsk AGI, vi har med at gøre. 

Hvad vil konsekvensen være af, at du ikke kombinerer de to typer systemer?

Faktisk vil jeg sige, at mennesker har en ren subsymbolsk AGI. Fordi i bund og grund, hele det der symbolske lag, alle vores symbolsk kompetencer, simulerer vi jo i vores wetware, i vores subsymbolske hjerner. Men det er så ineffektivt en vej. Hvis jeg skal lægge to meget store forskellige siffrede tal sammen. Så er det altså bedre at bruge en lommeregner, end at bruge ChatGPT. Hvis jeg skal kigge på Tycho Brahes data omkring Mars’ planetbane og udlede Keplers lov, så er det altså bedre at bruge noget statistisk rationering omkring, hvad er det egentlig, de her data siger til mig, end det er at prøve på at lære et subsymbolsk netværk den samme kompetence.

Jeg tror, at det symbolske har så stor en fordel, at alene af den grund, så kommer AGI til at være en hybrid mellem symbolsk og subsymbolsk.

Det tror jeg simpelthen, at den måde, menneskelige hjerner fungerer på, siger mig, at det bliver de her hybrider, der ender med at løbe af med den sejr.

I dag er det jo faktisk et erklæret mål for flere af de her techgiganter at udvikle AGI. Ved du om sådan nogen som Microsoft og OpenAI arbejder med symbolsk AI ud over subsymbolsk?

Ja, det gør de. Det er på vej ind. Og det var det, jeg sagde, at vi finder og opdager lige pludselig, at vi finder os på forkanten af en bølge. Det er ikke kun os. Vi er jo en ren symbolsk AI-virksomhed, og nu er vi hybride, fordi vi tager det andet til os. Men vores forskning har handlet om det symbolske. Men de er jo ikke dummere, end at de godt kan se, at der er noget om snakken. De første små tegn på det, lidt forkrøblet eksempler på det, det var de her plugins, som ChatGPT lancerede, som faktisk er at give en sub-symbolsk AI, sprogmodellen, adgang til at bruge nogle symbolske kompetencer, plugins. Det er bare en forkert måde at gøre det på, og det tror jeg også, de har indset. Men det er ikke fordi, de er blinde for, at man skal kombinere de sub-symbolske modeller med nogle hardcore skills, som sidder over i nogle helt andre værktøjer.