OpenAI, som reser sig ur askan, har mycket att bevisa även med Sam Altmans återkomst

By | November 23, 2023

Bildkrediter: Darrell Etherington med licensierade Getty-filer

OpenAI-maktkampen som fängslade teknikvärlden efter sparken av medgrundaren Sam Altman har äntligen kommit till ett slut, åtminstone för tillfället. Men vad ska man göra med det?

Det verkar nästan som om lite beröm behövs, som om OpenAI dog och en ny, men inte nödvändigtvis förbättrad, startup befann sig mitt i det. Altman, tidigare president för Y Combinator, är tillbaka vid rodret, men är hans återkomst motiverad? OpenAI:s nya styrelse har fått en mindre mångsidig start (dvs. den är helt vit och manlig), och företagets grundande filantropiska mål riskerar att adjungeras av mer kapitalistiska intressen.

Därmed inte sagt att den gamla OpenAI var perfekt på något sätt.

Från och med fredag ​​morgon hade OpenAI en styrelse på sex personer: Altman, OpenAI-chefsforskaren Ilya Sutskever, OpenAI-presidenten Greg Brockman, teknikentreprenören Tasha McCauley, Quoras vd Adam D’Angelo och Helen Toner, chef för Georgetowns Center for Security och Emerging Technologies. . Styrelsen var tekniskt kopplad till en ideell organisation som hade en majoritetsandel i den vinstdrivande sidan av OpenAI, med absolut beslutsfattande makt över verksamheten, investeringarna och den övergripande inriktningen av OpenAI med vinstsyfte.

OpenAI:s ovanliga struktur etablerades av företagets medgrundare, inklusive Altman, med de bästa avsikter. Den ideella organisationens exceptionellt korta (500 ord) stadgar beskriver att styrelsen måste fatta beslut som säkerställer “att artificiell allmän intelligens gynnar hela mänskligheten”, och lämnar det upp till styrelsemedlemmarna att bestämma vilket som är det bästa sättet att tolka det. Varken “intäkter” eller “intäkter” nämns i detta North Star-dokument; Toner sägs en gång ha berättat för Altmans ledningsgrupp att att utlösa en kollaps av OpenAI “faktiskt skulle vara förenligt med [nonprofit’s] uppdrag.”

Kanske skulle arrangemanget ha fungerat i något parallellt universum; I flera år verkade det fungera ganska bra på OpenAI. Men när väl mäktiga investerare och partners blev inblandade blev saker… mer komplicerade.

Altmans avskedande förenar Microsoft och OpenAI-anställda

Efter att styrelsen plötsligt sparkade Altman på fredagen utan att meddela någon, inklusive de flesta av OpenAI:s 770-manna arbetsstyrka, började startupens stödjare uttrycka sitt missnöje både privat och offentligt.

Microsofts vd Satya Nadella, en stor bidragsgivare i OpenAI, var enligt uppgift “rasande” när han fick veta om Altmans avgång. Vinod Khosla, grundare av Khosla Ventures, en annan OpenAI-stödjare, sa på X (tidigare Twitter) att fonden ville ha tillbaka Altman. Samtidigt sades Thrive Capital, Khosla Ventures, Tiger Global Management och Sequoia Capital överväga rättsliga åtgärder mot styrelsen om helgens förhandlingar om att återinsätta Altman inte skulle gå som förväntat.

Nu var OpenAI-anställda inte det Ej justerad med dessa investerare från externa framträdanden. Tvärtom skrev nästan alla av dem – inklusive Sutskever, i en uppenbar sinnesförändring – på ett brev där de hotade styrelsen med massavgång om de valde att inte vända kursen. Men tänk på att dessa OpenAI-anställda hade mycket att förlora om OpenAI föll sönder och lämnade efter sig jobberbjudanden från Microsoft och Salesforce.

OpenAI hade fört samtal, ledd av Thrive, för att eventuellt sälja anställdas aktier i ett drag som skulle ha ökat företagets värdering från 29 miljarder dollar till mellan 80 och 90 miljarder dollar. Altmans plötsliga avgång, och OpenAI:s roterande skara av tvivelaktiga interimistiska VD:ar, gjorde Thrive en rädsla och satte försäljningen i fara.

Altman vann den fem dagar långa striden, men till vilken kostnad?

Men nu, efter flera dagar av andfåddhet och hårdragning, har någon sorts lösning nåtts. Altman, tillsammans med Brockman, som avgick i fredags i protest mot styrelsens beslut, är tillbaka, men är föremål för en bakgrundsutredning om farhågor som föranledde hans avsättning. OpenAI har en ny övergångstavla som uppfyller ett av Altmans krav. Och OpenAI kommer enligt uppgift att behålla sin struktur, med begränsningar för investerarnas vinster och frihet för styrelsen att fatta beslut som inte är baserade på intäkter.

Salesforces vd Marc Benioff skrev på X att “the good guys” vann. Men det kanske är för tidigt att säga.

Naturligtvis “vann” Altman och övervann en styrelse som anklagade honom för att “inte [being] konsekvent ärlig” med styrelseledamöter och, enligt vissa rapporter, sätter tillväxt före uppdrag. I ett exempel på detta påstådda ofog, sägs Altman ha kritiserat Toner för en artikel som hon var medförfattare som presenterade OpenAI:s säkerhetsstrategi i ett kritiskt ljus, till den grad att han försökte sparka henne från brädet. I en annan “förargade” Altman Sutskever genom att skynda på med lanseringen av AI-drivna funktioner vid den första OpenAI-utvecklarkonferensen.

Styrelsen gav ingen förklaring ens efter upprepade tillfällen, med hänvisning till möjliga juridiska utmaningar. Och det är säkert att säga att de avfärdade Altman på ett onödigt histrioniskt sätt. Men det går inte att förneka att regissörerna kan ha haft giltiga skäl för att låta Altman gå, åtminstone beroende på hur de tolkade hans humanistiska direktiv.

Det verkar troligt att den nya styrelsen kommer att tolka det direktivet annorlunda.

För närvarande består OpenAI:s styrelse av tidigare Salesforce co-VD Bret Taylor, D’Angelo (den enda kvarvarande från den ursprungliga styrelsen) och Larry Summers, ekonomen och tidigare Harvard-presidenten. Taylor är en entreprenörs entreprenör och har varit med och grundat ett flertal företag, inklusive FriendFeed (förvärvad av Facebook) och Quip (genom vars förvärv han kom till Salesforce). Summers har under tiden djupa affärs- och regeringskopplingar, en tillgång för OpenAI, troligtvis tänkt kring hans val, vid en tidpunkt då regulatorisk granskning av AI intensifieras.

Regissörerna verkar dock inte vara en absolut ”seger” för denna journalist, inte om avsikten var mångfald av synpunkter. Medan sex platser återstår att fylla, satte de första fyra en ganska homogen ton; I själva verket skulle en sådan styrelse vara olaglig i Europa, vilket kräver att företag reserverar minst 40 % av sina styrelseplatser för kvinnliga kandidater.

Varför vissa AI-experter är oroliga för OpenAI:s nya styrelse

Jag är inte den enda som är besviken. Flera AI-akademiker tog till X för att uttrycka sina frustrationer idag.

Noah Giansiracusa, en matematikprofessor vid Bentley University och författare till en bok om rekommendationsalgoritmer för sociala medier, tar strid med både styrelsens helt manliga sammansättning och utnämningen av Summers, som han säger har en historia av att göra föga smickrande kommentarer om kvinnor .

“Oavsett vilken åsikt man gör om dessa incidenter, är optiken minst sagt inte bra, särskilt för ett företag som har lett utvecklingen av AI och omformat världen vi lever i,” sa Giansiracusa för sms. “Vad jag tycker är särskilt oroande är att OpenAI:s primära mål är att utveckla allmän artificiell intelligens som “gynnar hela mänskligheten.” Med tanke på att hälften av mänskligheten är kvinnor, ger den senaste tidens händelser mig inte mycket förtroende i detta avseende. Tonern representerar mest direkt säkerhetssidan av AI, och det har ofta varit den position kvinnor har placerats i genom historien, men särskilt inom tekniken: att skydda samhället från stora skador samtidigt som män får äran för att förnya och styra världen.”

Christopher Manning, chef för Sanford AI Lab, är lite mer välgörande än Giansiracusa, men håller med honom i hans bedömning:

“Den nybildade OpenAI-brädet är förmodligen fortfarande ofullständigt,” sa han till TechCrunch. “Den nuvarande styrelsen, som saknar någon med djup kunskap om ansvarsfull användning av AI i det mänskliga samhället och enbart består av vita män, är dock ingen lovande start för ett så stort och inflytelserik AI-företag.”

Ojämlikhet plågar AI-branschen, från annotatorerna som märker data som används för att träna generativa AI-modeller till de skadliga fördomar som ofta uppstår i de tränade modellerna, inklusive OpenAI-modeller. Sommar, för att vara rättvis, har uttryckte oro över de potentiella skadliga följderna av AI, åtminstone när det gäller försörjning. Men kritiker jag pratade med har svårt att tro att en styrelse som OpenAIs nuvarande konsekvent skulle prioritera dessa utmaningar, åtminstone inte på det sätt som en mer mångsidig styrelse skulle göra.

Det väcker frågan: Varför försökte inte OpenAI rekrytera en välkänd AI-etiker som Timnit Gebru eller Margaret Mitchell till den första styrelsen? Var de “inte tillgängliga”? Vägrade de? Eller gjorde inte OpenAI någon ansträngning från början? Vi kanske aldrig vet.

Enligt uppgift, OpenAI ansåg Laurene Powell Jobs och Marissa Mayer för styrelseposter, men de ansågs vara för nära Altman. Condoleezza Rices namn nämndes också, men förbises till slut.

OpenAI har en chans att visa sig vara klokare och mer världslig genom att välja de återstående fem styrelseplatserna – eller tre, om Altman och en Microsoft-chef fyller en vardera (som det har ryktats). Om de inte tar en mer mångsidig väg, vad Daniel Colson, chef för tankesmedjan AI ​​Policy Institute, ordspråk om X kan mycket väl vara sant: några få personer eller ett enda laboratorium kan inte lita på för att säkerställa att AI utvecklas ansvarsfullt.

Uppdaterad 23/11 kl 11:26 ET: Inkorporerade ett inlägg från Timnit Gebru och information från en rapport om potentiella förbisedda OpenAI-styrelsemedlemmar.



Leave a Reply

Your email address will not be published. Required fields are marked *