KITEK

Anders Lisdorf: Etik er noget der skaber debat


Anders Lisdorf - medlem af KITEKS advisory board

Som et led i samarbejdet mellem Tænketanken KITEK og AI-Portalen, bringer vi her et interview med Anders Lisdorf, der er medlem af tænketankens advisory board.

Anders Lisdorf har mere end 15 års erfaring i teknologi-branchen og med implementering af kunstig intelligens i den virkelige verden. Kombineret med en teoretisk baggrund i historie og en mastergrad i IT har han mulighed for at give substans til en debatten om etik indenfor implementering og brug af AI. I dette interview fortæller Anders Lisdorf om hans erfaring med implementering af AI-systemer, hvordan uventede egenskaber viser sig i komplekse systemer og hvordan vores nuværende debat om etik er noget begrænset.

Jeg tænkte på om du ikke kunne starte med at introducere dig selv?

Mit navn er Anders Lisdorf. Jeg er konsulent og har været det i rigtig mange år. Jeg har efterhånden 15 års erfaring i teknologibranchen i forskellige roller indenfor det område, der hedder entreprise arkitektur. Det vil sige design af systemløsninger. Det betyder også at jeg helt tilbage fra 2008 har bygget konkrete løsninger, som gjorde brug af kunstig intelligens i forskellige afarter. Jeg har prøvet at bruge kunstig intelligens der, hvor det faldt naturligt og derfor har jeg gjort mig forskellige erfaringer med at anvende det. Jeg er ikke en kunstig intelligens brother som har udviklet en masse algoritmer, men jeg har arbejdet med det på et praktisk plan. Derudover er jeg teknologihistoriker. Jeg har skrevet nogle bøger om emerging technologies, kunstig intelligens, cloud og smart cities. Den seneste bog jeg har skrevet, handler om bitcoin og blockchain og jeg har altid været interesseret i emerging technologies og hvordan man kunne bruge dem. Det er også min tilgang i forhold til kunstig intelligens.

Kan du sige lidt mere om de områder hvor du har været med til at implementere kunstig intelligens?

Jeg har bl.a. arbejdet med det inden for detailhandelsområdet, hvor det i høj grad handler om at få de rigtige tilbud ud til de rigtige folk. Jeg har meget tidligt prøvet at designe en system løsning til det formål. Det var meget lærerigt. Derudover har jeg også arbejdet med kunstig intelligens inden for design, hvor jeg designede et system til at anbefale grafisk design ud fra brand positioning og beskrivelse. Også et meget spændende projekt. Da jeg var i New York og arbejdede for byen, har jeg brugt det i forbindelse med trafikovervågning, hvor vi arbejdede på et system til at overvåge og kvantificere trafikken. Luftforurening, støjforurening og trafikforudsigelser er endnu et område, som jeg har arbejdet med AI på. Det system arbejder jeg faktisk videre med og fik implementeret herhjemme i Danmark, hvor idéen var at bruge det til at generere og sælge trafikdata til dem der måtte have brug for det. Jeg har også arbejdet med modeller der skulle levere alternative data til investorer.

Hvorfor er det du ser at kunstig intelligens spiller så stor en rolle i vores samfund og økonomi i dag? Hvordan tror du det ser ud i fremtiden?

Der skal man tage et skridt tilbage og tage de historiske briller på. Menneskeheden har været igennem flere perioder af teknologisk udvikling. Den første store teknologisk udvikling som vi kan spore, det er i virkeligheden landbruget. Med landbruget bliver det muligt at styre produktionen af fødevarer. Det var på grund af landbruget, at det blev muligt at have meget større befolkningskoncentration. Den næste store ting, vi mestrede, var at styre den kinetiske energi gennem industrialiseringen og bygning af motorer, der producerede elektricitet, på forskellige vis, som blev det næste store tema. Det hænger lidt sammen. Næste skridt var computeren og digitaliseringen, som gjorde det muligt at putte nogle ting ind i en computer og behandle det. Det var fra 50’erne og fremad, indtil vi fik internettet i 90’erne, hvor det rigtig blev stort. Internettet gjorde det muligt at dele informationen på en helt anden måde, altså kommunikationen.

Hver af de her bølger har bragt noget nyt og prøvet at gøre det muligt at kontrollere og styre nogle grundlæggende ting, som kinetisk energi, kraft, energi, kommunikation osv., hvor kunstig intelligens er det logiske næste skridt.. De forrige bølger har åbnet for nogle helt nye måder at transformere samfundet på. Agerbruget gjorde, at man kunne få en større befolkningstæthed. Den kinetiske energi, altså industrialiseringen, gjorde, at man kunne bygge større ting og komme længere omkring, og man kunne bygge byer på en helt anden måde. Derfor vil kontrollen og styringen af de her kognitive evner, som kunstig intelligens lover os at få styr på, de vil på samme måde åbne for nogle nye døre. Men jeg vil ikke nødvendigvis allerede nu sige præcis, hvad det er, fordi det er jo det, der er trækket ved meget af det her. Man troede også i starten af internettet, at det ville være rigtig godt til at dele forskning. Så det er en lærestreg, at vi skal passe lidt på med forudsigelser, men det er helt sikkert, at det vil lede til noget.

Hvad kan man så sige, hvad inspirerer dig til at blive en del af Tænketanken KITEKs advisory board? Hvad er din personlige motivation for at gå ind i det her arbejde?

Min personlige motivation er, at jeg har oprindeligt forsket, at jeg har en Ph.D. i historie.

Jeg har også en mastergrad i IT, og jeg har undervist på IT-universitetet. Så jeg har hele tiden været tæt på forskning og analyse, og det ville jeg gerne gøre noget mere ved. Jeg har jo som sagt også skrevet bøger, men jeg kunne godt tænke mig at komme tilbage og lave nogle analyser,

og være med til at prøve på at bruge den her information til at ændre samfundet, og ændre den måde, som vi bruger teknologi på til det bedre.

Hvilke konkrete mål har du for dit arbejde i Tænketanken, hvis man kan tale om konkrete mål?

Hvad ønsker du at bidrage med i forhold til Tænketankens mission?

Jeg vil gerne bidrage til at prøve på at få sat nogle andre ting til på dagsordenen. Noget, som løfter debatten et andet sted, end det niveau, den foregår på i medierne. Jeg synes, at der er nogle aspekter, der bliver glemt, hvis man bare lytter til medierne og Twitter. Jeg kunne godt tænke mig at være med til at dreje debatten i en lidt anden retning. Det er mit overordnede mål at prøve på at få sat nogle andre perspektiver til debat, end det vi ser i dag.

Hvordan ser du så AI som et værktøj til at løse de samfundsmæssige udfordringer, vi står over?

Og hvilke områder tror du, den vil have største indvirkning på?

Der er helt overordnet en række områder eller temaer. Det kan være svært at kategorisere, men der er et overordnet tema, som handler om optimering af spild, som der er meget af i vores samfund. Det kan for eksempel handle om vedligeholdelse. Mange ting går i stykker, fordi det ikke bliver vedligeholdt ordentligt. Der kan kunstig intelligens være med til at finde ud af, hvordan man vedligeholder. 

Et andet meget stort tema, som jeg også tror, vil blive endnu større, er genanvendelse. Man snakker meget om den cirkulære økonomi. Der kan kunstig intelligens være med til at optimere genanvendelse og komme med design til genanvendelse af ting. Det gælder også for udvinding af råstoffer. Hvis vi ser på almindelige minedrift, er der også her et stort spild, hvor kunstig intelligens kan være med til at optimere.

Der er et tredje tema, der handler om allokering af ressourcer. Det handler om allokering af ressourcer indenfor virksomheder generelt – altså logistik. Logistik er et multidimensionelt puslespil, som er et af de områder, hvor kunstig . Og hvis der er en ting, som kunstig intelligens er god til, så er det sådan nogle typer af problemer. 

Et fjerde tema, som man overordnet kunne kalde preprocessering eller forbehandling. Hvis man har store mængder data, så er kunstig intelligens faktisk rigtig god til at identificere mønstre eller finde noget specifikt. Et af de anvendelsesområder er indenfor juraen. Der er tit store tekstmængder, der skal læses igennem for at finde noget specifikt. Det bruger man nogle stakkels mennesker til i dag, som i forvejen ikke får særlig meget i løn. Hvorfor ikke preprocessere det? Det betyder aldeles ikke, at man udelukkende skal bruge kunstig intelligens, fordi der skal menneskelige øjne på undervejs i processen, men netop til preprocesserings-delen, til at finde ting., Der ser jeg et stort perspektiv.

På samme måde, som de anbefalinger, jeg har arbejdet  med, i dag er en helt naturlig ting for os, når vi får anbefalinger på Netflix eller Spotify osv. så vil vi opleve det på flere områder. På overvågning og alarmering vil vi se AI i brug. Det lyder lidt voldsomt og ikke som noget, man har lyst til. Men det kan være i forhold til vejrhændelser, for eksempel naturkatastrofer. Det kunne også have noget at gøre med klimaet, men generelt overvågning af den her art er et tema, fordi denne type af overvågning og alarmering vil kunne redde menneskeliv.

Det sidste store område, jeg kigger på, det er sundhed. Her kan kunstig intelligens hjælpe med ved udvikling af nye molekyler – det er et område, hvor det allerede er i brug. Der ligger også et meget stort potentiale i forhold til diagnosticering. På samme måde som ved preprocessering, kan det også bruges som en form for assistent. Her kan man bruge AI til sparring, databehandling eller dataanalyse. Og, en ting som jeg også tror, der er ret stor potentiale i, nemlig præventiv sundhed.

Det er mine tanker, når jeg tænker på fremtiden, men som sagt, skal man passe på med at være for firkantet i forhold til, hvor man tror udviklingen går hen, for det bliver normalt altid noget andet.

Nu snakker du om cirkulær økonomi, spild og  vedligeholdelse som områder. Uden at have læst din bog, så tænker jeg måske, at det ligger lidt i forlængelse af dit bog om smart cities?

Det man har snakket om de seneste 10-20 år som begrebet smart cities, handler meget om at digitalisere. Der har jeg faktisk et kapitel i bogen ”Demystifying Smart Cities”, som handler om kunstig intelligens, og hvordan der begynder at være nogle områder, hvor den kunstige intelligens byder ind med løsninger. Det nye, som jeg og andre er begyndt at snakke om, er cognitive cities, der handler om at tilføje et lidt mere tænkende lag til de basale digitale services, der ligger i smart cities-trenden. Det kan være, at man kan opbygge nogle lidt mere lærende systemer,

og lidt mere intelligent opførsel af de systemer, man har allerede digitaliseret. Det er det, man kalder cognitive cities. Det ligger som et lag ovenpå det fundament, der er bygget i smart cities.

Det forventer jeg mig en hel del af i fremtiden. Men der er en begrænsninger og forhindringer i den forbindelse og det er faktisk det, jeg skrev om i kapitlet om kunstig intelligens i min bog. Det næste bliver at tackle nogle af de begrænsninger.

Et af de områder, som KITEK beskæftiger sig meget med, er etikken og der kunne jeg godt tænke mig at høre, hvad dit syn er på, hvad er de største etiske dilemmaer og udfordringer er i forbindelse med udbredelsen af AI, og hvordan tror du bedst, at vi kan takle de udfordringer?

Jeg tror faktisk, at den største udfordring med etik er, at debatten i dag er udtryk for en meget fattig opfattelse af etik. En opfattelse, der egentlig fremstår relativt ureflekteret for mig, når jeg følger debatten. Fordi det præsenteres som om etik er et stempel. Det er etisk og det er uetisk. Sådan har det aldrig nogensinde været i verdenshistorien. Etikkens karakter er jo netop, at det er noget, der skaber debat og ikke noget, som alle er enige om. Derfor er det med undren, at jeg har fulgt debatten om etisk AI. Det er som om man forestiller sig, at man kan certificere det på samme måde som økologi. Det er klart, at der er nogen, der har en interesse i det, men sådan har etik aldrig nogensinde fungeret inden for filosofien. Tværtimod er det et meget gennemtærsket område, hvor det meste af det, som bliver præsenteret for os som etik og AI, er anvendt etik. Det er nogle konkrete områder, mens etik er noget, der følger fra nogle etiske positioner, som vi ikke engang enige i udgangspunktet. Den største udfordring i dag er, at det bliver solgt som etik, men det i virkeligheden er politik. Det handler om at indbygge nogle specifikke politiske holdninger og standpunkter i debatten, og så sige, at det er etisk rigtigt. Problemet er bare, at man tager andre som gidsel ved at kalde det etik og ikke politik, fordi man ophøjer det op til noget, der ikke kan diskuteres, men det synes jeg ikke nødvendigvis, at det er. Derfor ser jeg en stor udfordring i at løsne op for denne trivialiserende forståelse af etik og i stedet åbne for nogle debatter om, hvad det er for en etik, vi gerne vil have. I stedet for bare at sige, at det her konkrete tilfælde er etisk og det er ikke etisk, fordi jeg ikke mener, at man kan diskutere på den måde.

Her til sidst, er der et emne eller en pointe, som du synes er vigtigt, som vi ikke har været inde på?

Jeg synes, at der er en pointe, som mange nok ofte glemmer i forbindelse med kunstig intelligens,

fordi man tænker videre i den forrige bølges tankegang. Det handler om, at når vi udvikler et system, som digitaliserer et eller andet og så kører det bare. Kunstig intelligens fungerer kun sjældent på den måde. Kun de allermest simple algoritmer, som man knapt kan kalde for kunstig intelligens. Kunstig intelligens er altid afhængig af ikke bare systemet, men også økosystemet eller kombinationen af systemet og den omkringliggende verden, som systemet er en del af, kunne man sige. Jeg plejer at sige, at økosystemet er systemet, når vi snakker om kunstig intelligens. Men der er forbavsende lidt fokus på det økosystem. Folk er blevet overraskede over, hvor træningsdata til ChatGPT er kommet fra, men halvdelen af systemet er jo træningsdata, kan man sige. Så hvorfor er der ikke nogen, der reflekterer over træningsdatadesign? I virkeligheden ved alle, der har fulgt området tæt, at en data-scientist bruger 80% eller mere af hans eller hendes tid på at færdiggøre deres data, før det overhovedet kan bruges. 

Data og økosystem er enormt vigtigt, men det er faktisk også vigtigt i en dobbelt forstand, fordi det, der sker med mange kunstig intelligens-systemer, når de kommer ud i verden er, at de begynder at interagere med verden omkring dem. Det betyder, at der vil opstå flere og flere systemniveau-hændelser, som man ikke kan forudse ud fra det enkelte system. Det lyder måske meget mystisk, når jeg siger det på den her måde, men det handler om, at der opstår nogle emergente [uforudsete] egenskaber ved systemerne, specielt hvis de er komplekse, eller hvis de er tæt koblet. 

Det betyder, at når man begynder at implementere kunstig intelligens fx til trafikregulering, så kan der ske rigtig mange mærkelige ting. Når kunstig intelligens begynder at tænke over længere sekvenser af handlinger, som fx en række af trafiklys, så kan der opstå en form for resonansvirkning i selve systemet udover, at der kan opstå en masse uforudsete ting mellem lyskrydsene. Derfor kører man stadig med simple schedules i trafikreguleringen de fleste steder i verden, fordi man tør ikke åbne op for alt det her. 

Det tror jeg, vi kommer til at se mere af i takt med, at den kunstige intelligens kommer til at få større indflydelse. Jeg tror også, at vi allerede er begyndt at se det i forhold til online research, fordi jeg selv har været involveret i den bizarre idé at bruge én kunstig intelligens til at skrive SEO-materiale, som en anden kunstig intelligens sidder og læser, og hvor bærer det hen? Jeg kan i hvert fald ikke sige det på forhånd. Jeg tror, at det her med at kigge op fra koden og sige, at kunstig intelligens altid er et økosystem, altså systemet er økosystemet, og der er nogle systemniveau-mæssige dynamikker, som ikke kan forudsiges. Det tror jeg er en vigtig pointe, som der ikke er så mange, der har fokus på.

Anders Lisdorf er medlem af Tænketanken KITEK’s advisory board og han er forfatter til bøgerne ”Cloud Computing Basics”, Demystifying Smart cities” og hans seneste bog ”Still Searching for Satochi”, hvor han går i dybden med blockchain-teknologien og kryptovaluta og ser frem mod en Web 3.0 revolution. Han driver konsulentvirksomheden Lisdorf Consulting, hvor han faciliterer opbygning af IT infrastruktur med fokus på cloud, data og AI.

0 notes
105 views

Write a comment...

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *