OpenAI

Sam Altman og mordet på OpenAI-ekspressen


   Læsetid 17 minutter
Array

TL;DR – Tre hovedpointer:

  • Sam Altmans afskedigelse og genansættelse afspejler dybe spændinger i OpenAIs ledelse, der vidner om en kamp om virksomhedens strategiske retning.
  • Microsofts involvering i OpenAI har haft og vil have en afgørende indflydelse på virksomhedens udvikling og beslutningstagning.
  • Sagen om fyringen af Sam Altman afspejler en igangværende ideologisk kamp i OpenAI, mellem at opretholde sine non-profit rødder og tilpasse sig en mere forretningsorienteret model, hvilket skaber spændinger internt og påvirker organisationens fremtidige kurs.
  • Forløbet er samtidigt udtryk for en dybere konflikt i hele AI-miljøet mellem Accelerationsist og Effective Altruism bevægelserne – henholdsvis dem, der vil speede udviklingen af AI op og dem, der vil fare mere med lempe.

Chok og bestyrtelse – for nu at bruge et godt gammeldags dansk ord – er en god betegnelse for den tilstand som AI-miljøet blev bragt i den fredag i november, da nyheden om fyringen af Sam Altman, CEO for OpenAI, ramte medierne. Spørgsmålene har hos mange – inklusive mig selv – stået i kø ligesom rygterne om hvad der var sket og hvem der havde ført kniven. Rollen som den store skurk i fortællingen tegner i skrivende stund til at blive tildelt bestyrelsesmedlem og co-founder, Ilya Sutskever. Det var Sutskever, der (ironisk nok) på Google Meet og ikke Microsoft Teams – når nu Microsoft har investeret så meget i OpenAI – overbragte den overraskede Sam Altman nyheden om hans fyring. Kort og kontant. 

Ligesom i Agatha Christies klassiske who-dunnit ”Mordet på Orientekspressen”, så var Sutskever nok ikke den eneste, der førte kniven for at myrde Altman. Men i modsætning til Christies historie, så er det ikke tydeligt, hvem de andre mordere var og på nuværende tidspunkt, er det faktisk også tvivlsom hvem offeret er. Det kunne udmærket blive Sutskever, der ender med at falde på sin egen klinge.

Historien indtil nu

Men lad os bare tage den fra begyndelsen. Kl. 12 middag fredag den 17. november 2023 var CEO Sam Altman blevet bedt om at deltage i et online møde med bestyrelsen. Umiddelbart efter han kom igennem blev han af Sutskever informeret om, at han var fyret. Også rimeligt bemærkelsesværdigt var formanden for bestyrelsen og co-founders af OpenAI, Greg Brockman, ikke inviteret til mødet. Han blev få minutter efter mødet informeret om, at han var fjernet som bestyrelsesformand, men at forsat ville beklæde sin stilling i virksomheden. Det resulterede dog prompte i en opsigelse fra Brockman. Senere fulgte opsigelser fra en flere af medarbejderne i virksomheden. Den hidtige Chief Technology Officer, Mira Murati blev indsat som midlertidig CEO eller interim-CEO. Den officielle besked fra bestyrelsen var, at Altman havde tilbageholdt oplysninger fra dem og at de derfor ikke længere havde tillid til ham som CEO.

Det var dog ikke slutningen på historien, for lørdag kom det dels frem, at Altman og Brockman havde flere projekter i støbeskeen og overvejede at starte deres eget. Samtidigt begyndte de første rygter at sprede sig om, at Altman var på vej tilbage som CEO i OpenAI. Søndag tweetede Altman et billede, hvor han var iført et gæsteskilt til OpenAI og et surt ansigtsudtryk. ”Det er sidste gang, jeg går med et af dem her,” skrev han. Kort tid efter kom den næste store nyhed, at både Altman og Brockman var blevet hyret af Microsoft til at lede deres nye AI-afdeling. Hos OpenAI meddelte man, at man havde hyret Twitch-founder Emmet Shear som ny interim-CEO i stedet for Mira Murati.

Mandag sendte over 600 medarbejdere et brev til ledelsen. Gå af og genindsæt Sam Altman som CEO. Som om det ikke var nok i sig selv, så var nr. 11 på listen af underskriverne på brevet Ilya Sutskever, der nu også var ude på X og sige, at han havde fortrudt sine handlinger sammen med bestyrelsen. Mira Murati var i øvrigt også underskriver på dokumentet. Onsdag kom så nyheden, at OpenAIs bestyrelse havde indgået en aftale med Sam Altman, der betød at han vendte tilbage som CEO og bestyrelsen trådte tilbage.

Topforskere og GPT’er

Det er drama fra øverste hylde og ikke blot en knaldroman fra 1934 og den kommer med en lige så fascinerende historie og persongalleri. Vi holder os til de på nuværende tidspunkt vigtigste for historien. Ilya Sutskever, der forlod en stilling som ingeniør for at blive co-founder. Greg Brockman, der før OpenAI havde været CEO hos betalingsappen Stripe. Dertil skal føjes en række investorer, herunder Reid Hoffman, der var blandt de første investorer, techmilliardær Peter Thiel, der blandt andet var co-founder af PayPal og nu er en af hovedkræfterne i Founders Fund, der har store investeringer i OpenAI. Blandt de oprindelige bestyrelsesmedlemmer og investorer var også Elon Musk, men han trådte ud allerede i 2018 med tanke på mulig inhabilitet pga. Teslas arbejde med AI til deres biler. Historien går på, at Greg Brockman satte sig ned sammen med Yoshua Bengio, der kaldes en af deep learnings fædre og skrev en liste over de bedste forskere i branchen og Brockman fik overraskende nok ni af dem med på holdet som de første selvom deres lønninger ikke var på niveau med fx Facebook eller Google. En af dem, var Ilya Sutskever, der blev hentet over fra Google Brain af Elon Musk for at blive chefforsker hos OpenAI. 

Investeringer og stjernehold gav bonus, da man i juni 2018 offentliggjorde rapporten ”Improving Language Understanding by Generative Pre-Training” (Forbedring af sprogforståelse gennem generativ pre-træning), der på baggrund af Googles opfindelse af transformer-arkitekturen i 2017 lancerede GPT-1, OpenAIs første store sprogmodel. GPT-2 kom i februar 2019 og skabte begejstring i AI-miljøet for dens evne til at generere tekst på et næsten menneskeligt niveau. GPT-3 udviklede sig i november 2022 til ChatGPT og resten er historie.

Spekulationer på højt plan

Uklarheden omkring hvorfor fyringen af Sam Altman skete har givet plads for spekulationer i mange forskellige retninger. Alt fra uenighed over retningen, som virksomheden skulle tage til spekulationer om lyssky handler med kinesere. Og måske er der ikke en bestemt handling eller uenighed, der udløste reaktionen fra bestyrelsen. Det er i bestemt værd at se på en række forskellige mere eller mindre sandsynlige grunde for at løse mordgåden. 

Altman planlagde nye startups

Søndag bragte både The Guardian og Fox Business nyheden om, at Sam Altman havde været i forhandlinger med investorer i Mellemøsten for at rejse kapital til et projekt omkring produktion af AI chip kaldet Tigris. Samtidigt forlyder det, at Altman en form for AI hardware device sammen med Jony Ive, tidligere chef designer hos Apple. Den forklaring synes godt at kunne passe med bestyrelsens udmelding om, at Altman havde tilbageholdt oplysninger fra dem. 

Ilya Sutskever

En anden forklaring går på, at det var uenigheder mellem Altman og OpenAIs chefforsker, Ilya Sutskever, om virksomhedens mission og om sikkerhedsforanstaltninger i forhold til produkterne. Sutskever har længe udtalt bekymring særligt i forhold til udvikling af AGI (Artificial General Intelligence) og Superintelligence – altså AI-modeller på eller over menneskeligt niveau. Folk der kender Sutskever, siger at han ikke typen, der begår kup, som det er sket her. Sutskever kan have vurderet, at det tempo i udviklingen, som Altman er eksponent for ikke længere var foreneligt med OpenAIs mission om at skabe AI, der er sikker og gavnlig for menneskeheden. Hvis det var tilfældet, så kan man sagtens argumentere for, at det var bestyrelsens ansvar at handle.

En lille bestyrelse med en agenda

Ideen kan dog også være kommet fra bestyrelsen, hvor to af medlemmerne af den tidligere bestyrelse havde bånd til den bevægelse der er kendt som Effective Altruism (EA), der mener, at farten i udviklingen af AI skal skrues ned indtil vi kan overskue konsekvenserne. Tasha McCauley, CEO og bestyrelsesmedlem for EA velgørenhedsorganisationen Effective Ventures. Helen Toner, der kommer fra Georgetown Universitys Center for Security and Emerging Technology, der arbejder på baggrund af EAs principper. For nyligt var hun medforfatter på en rapport, der roste Anthropic, en af OpenAIs største konkurrenter til skyerne. Antrhropic blev stiftet i 2021 af folk fra OpenAI, der dengang var mislykket med at få fyret Altman. Det var ikke populært hos Altman og efter det var der ikke god stemning mellem Altman og Toner. Sutskever er ikke tilhænger af Effectivie Altruism bevægelsen, men kan have set sig nødsaget til at skifte side, hvis hans bekymringer er blevet for store. Det sidste bestyrelsesmedlem, der stemte for fyringen Adam D’Angelo, der er CEO for Quora, har ikke forbindelse til EA, men er tilsyneladende blevet overtalt af Sutskever.

OpenAI: non-profit eller for-profit

Grunden til at det overhovedet var muligt for fire medlemmer af en bestyrelse på seks mennesker at fyre Sam Altman på den måde skyldes strukturen i OpenAI, der er anderledes end de fleste andre virksomheder. Altman og Musk ønskede at skabe en nonprofit organisation, der skulle sikre sikker og gavnlig AI for menneskeheden og skulle fungere som en modvægt mod profitdrevne AI-laboratorier hos techgiganter som Google. Musk forlod OpenAI i 2018 – officielt fordi han var nervøs for mulige fremtidige interessekonflikter i forhold til Teslas arbejde med AI. Nok i virkeligheden mere pga. uenigheder om hvordan virksomheden skulle ledes og fordi han ikke kunne overtage den. I 2019 skabte OpenAI et for-profit datterselskab, fordi man mente at det var nødvendigt for at få de nødvendige investorer og de rigtige ansatte med ombord. Det unikke i konstruktionen er dog, at det er bestyrelsen i det oprindelige non-profit selskab, der har magten, for at sikre, at det er den oprindelige mission, der er styrende også for for-profit delen. Frafald i bestyrelsen har dog betydet, at stort set alle Altmans allierede i bestyrelsen bortset fra Altman havde forladt bestyrelsen og det har givet sig udtryk i den utilsigtede tilstand, at fire bestyrelsesmedlemmer kunne fyre CEO’en for virksomheden.

Skræmmende teknologier

Samtidigt er rygterne gået på, at OpenAI måske var længere fremme i forhold til at udvikle AGI end de har meldt ud om. Reuters bragte torsdag  historien om, at Mira Murati havde nævnt et projekt kaldet Q* (Q-Star) for nogle medarbejdere i løbet af onsdag og at bestyrelsen var orienteret om projektet inden fyringen. Onlinemagasinet Futurism og flere andre medier har deltaget i spekulationerne om at OpenAI roder med skræmmende ny teknologi.

Personaleklager og uredelige investeringer

Tirsdag meldte Elon Musk, Tesla ejer og tidligere investor i OpenAI, sig ind i debatten ved at linke til en anonym kildes offentliggørelse af, hvad der lignede et brev fra en række tidligere ansatte i OpenAI, der bla. beskyldte Altman og Brockman for at skabe et utåleligt arbejdsmiljø gennem mobning og chikane af medarbejderne og at Altman bruger sin viden fra virksomheden til at lave lukrative investeringer for egen vinding. Den sidste påstand bakkes op at en historie, som The Washington Post bragte torsdag, om at Altman var blevet fyret fra sit tidligere job hos startup inkubatoren Y Combinator pga. hans private børshandel på baggrund af viden han fik gennem sin stilling som CEO.

Accelerationist vs. Doomers

Når vi ser udover AGI, personalesager og beskyldninger om privat vinding, så er uenighederne mellem Altman, Sutskever og bestyrelsesmedlemmerne udtryk for en større konflikt i hele AI-miljøet. Man kan betragte fyringen eller den mislykkede fyring af Altman som førte slag i en krig om retningen af AI-udviklingen. Jeg nævnte ovenfor EA bevægelsen der præsenterer sig selv som et intellektuelt projekt, der gennem evidens og fornuft søger at finde ud at hvordan vi gavner så mange som muligt. Det har ledt dem frem til de konklusion, at det vigtigtigste lige nu er at forhindre at AGI udrydder menneskeheden. Bevægelsen har fået stor udbredelse i Silicon Valley og tæller blandt andet Tech millionærerne Elon Musk, Peter Thiel og Marc Andreesen. Alle tre var oprindeligt investorer i OpenAI. Bevægelsen er dog på det seneste blevet rystet af svindelsagen mod en af de største fortalere, Sam Bankman-Fired, der stod bag kryptoplatformen FTX. På den anden side står dem, man kunne kalde accelerationisterne, altså dem, der mener, at udviklingen af AI kun kan gå for langsomt og definerer sig i modsætning til decels (decelerationists) eller simpelthen bare kaldet Doomers. Det er ikke det, vi hører Altman sige, men der er ingen tvivl om, at det har været hans ønske at bevæge sig hurtigere end det, som Sutskever og non-profit-delen af virksomheden var indstillet på. Altman flirter lidt med modreaktionen på EA, der kalder sig selv Effective Accelerationism eller e/acc, der mener, at forudsætningen for en utopisk fremtid er at udvikle AI så meget og så hurtigt som muligt. 

Historien om et afværget mord

En ting, der i hvert fald er accelereret, er udviklingen indenfor AI-området og dag for dag ser vi stadigt nye udviklinger i sagen om OpenAI. Så det kan være svært på nuværende tidspunkt at sige noget om hvordan fremtiden ser ud. Accelerationisterne ser ud til at have vundet det første slag i krigen og have afværget mordet på OpenAI Ekspressen. 

Uanset hvilken side I konflikten du stiller dig og hvilken fortælling om fyring, du finder mest sandsynlig, så må vi bare konstatere, at der for alvor kun er én af passagerne på OpenAI Ekspressen, der har fået noget ud af mordforsøget. Uanset hvordan man vender og drejer det, så har Microsoft bevist, at det i realiteten er dem, der ejer OpenAI og deres teknologi. Microsofts CEO Satya Nadella, har fået det som han ville. Altman er tilbage i ledelsen for OpenAI og hvis bestyrelsen ikke havde indgået den aftale, så var Altman blevet indsat til at styres Microsofts AI-afdeling, der arbejder med OpenAIs teknologi og ville formentligt reelt have styret OpenAI fra sit kontor hos Microsoft.

Mordet på OpenAI Ekspressen blev i stedet til et mordforsøg og morderne er, undtagen Sutskever (foreløbigt), helt fjernet fra spillebrættet. Taberen i spillet, som det ser ud nu, er non-profit ideen, der lå bag OpenAI og spørgsmålet er, om det også i fremtiden er bestyrelsen i non-profit delen, der har det største ord at skulle have sagt. Under alle omstændigheder er det OpenAI, der kommer ud på den anden side af denne krise ikke længere sin egen herre og idealerne om non-profit open-source virksomheden er nu kun en kasse i et organisationsdiagram på et stykke papir – en juridisk virksomhedsopbygning, som ser ud til kun at være til pynt og en del af et brand, som er under udvikling.

0 notes
74 views

Write a comment...

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *