Nusėdimo viduje, kuris parodė, kaip OpenAI beveik sunaikino save

Šių metų spalio 1 d. Ilja Sutskeveris beveik 10 valandų filmavo parodymus Musk prieš Altmaną ieškinyje.

Vienas iš įkūrėjų, padėjęs sukurti „ChatGPT“ ir liūdnai pagarsėjęs dėl to, kad 2023 m. lapkritį balsavo už Samo Altmano atleidimą, pagaliau prisiekė ir buvo priverstas atsakyti. 365 puslapių nuorašas buvo išleistas šią savaitę.

Tai atskleidžia puikių mokslininkų, priimančių katastrofiškus valdymo sprendimus, portretas, nepatvirtinti kaltinimai traktuojami kaip faktai, o ideologiniai nesutarimai tokie gilūs, kad kai kurie valdybos nariai norėjo sunaikinti OpenAI, o ne leisti jam tęsti vadovaujant Altmanui.

The Muskas prieš Altmaną ieškinys sutelktas į Elono Musko teiginį, kad OpenAI ir jos generalinis direktorius Altmanas išdavė pradinę ne pelno siekiančią bendrovės misiją, paversdami jos tyrimus pelno siekiančia įmone, suderinta su „Microsoft“, o tai kelia daug klausimų apie tai, kas valdo pažangius AI modelius ir ar juos galima saugiai kurti visuomenės labui.

Tiems, kurie seka OpenAI dramą, šis dokumentas yra akis atveriantis ir smerkiantis skaitymas. Tai atvejo tyrimas, kaip viskas klostosi, kai techninis genialumas ir organizacinis nekompetencija.

Štai penki svarbiausi apreiškimai.

1. 52 puslapių dokumentacija, kurios visuomenė nematė

Sutskeveris parašė platų Altmano pašalinimo bylą, kartu su ekrano kopijomis ir suskirstytą į 52 puslapių trumpą dokumentą.

Sutskeveris tikino, kad atmintinėje jis aiškiai pasakė: „Samas demonstruoja nuoseklų melą, menkindamas savo vadovus ir priešindamas savo vadovus vienas kitam“.

Jis išsiuntė atmintinę nepriklausomiems direktoriams, naudodamas nykstančią el. pašto technologiją, „nes nerimavau, kad tos atmintinės kaip nors nutekės“. Visas trumpas aprašymas nebuvo sukurtas atradus.

„Šio dokumento kontekstas yra tas, kad nepriklausomi valdybos nariai paprašė manęs jį parengti. Ir aš tai padariau. Ir aš buvau gana atsargus”, – liudijo Sutskeveris, sakydamas, kad dalis atmintinės yra ekrano kopijose, kurias padarė OpenAI CTO Mira Murati.

2. Metus trunkantis stalo šachmatų žaidimas

Paklaustas, kiek laiko svarstė atleisti Altmaną, Sutskeveris atsakė: „Mažiausiai metus“.

Paklaustas, kokios dinamikos jo laukia, jis atsakė: „Kad didžioji dalis valdybos narių nėra akivaizdžiai draugiški su Samu“.

Generalinis direktorius, kuris kontroliuoja valdybos sudėtį, yra funkciškai neliečiamas. Sutskeverio parodymai rodo, kad jis tai puikiai suprato ir atitinkamai pakoregavo savo strategiją.

Kai valdybos narys paliko tą angą, jis persikėlė. Jis žaidė ilgalaikę valdybos politiką, nepaisant to, kaip Altmanas ir Sutskeveris viešai atrodė artimi.

3. Savaitgalį OpenAI beveik išnyko

Šeštadienį, 2023 m. lapkričio 18 d., per 48 valandas nuo Altmano atleidimo, vyko aktyvios diskusijos apie OpenAI sujungimą su Anthropic.

Sutskever teigimu, buvusi „OpenAI“ valdybos narė Helen Toner „labiausiai palaikė“ šią kryptį.

Jei susijungimas būtų įvykęs, OpenAI būtų nustojęs egzistuoti kaip nepriklausomas subjektas.

„Nežinau, ar tai buvo Helen, kuri kreipėsi į Anthropic, ar ar Anthropic kreipėsi į Heleną“, – liudijo Sutskeveris. „Tačiau jie pasiekė pasiūlymą sujungti su OpenAI ir perimti jos vadovavimą.”

Sutskeveris sakė esąs „labai tuo nepatenkintas“, vėliau pridūręs, kad „tikrai nenorėjo, kad OpenAI susijungtų su Anthropic“.

4. „OpenAI sunaikinimas galėtų atitikti misiją“

Kai OpenAI vadovai perspėjo, kad įmonė žlugs be Altmano, Toneris atsakė, kad OpenAI sunaikinimas gali atitikti jos saugos misiją.

Tai yra ideologinė krizės šerdis. Toneris atspindėjo AI saugos mąstymo kryptį, kuri greitą AI vystymąsi vertina kaip egzistenciškai pavojingą – potencialiai pavojingesnį nei jo nevykdymas.

„Vadovai – tai buvo susitikimas su valdybos nariais ir vykdomąja komanda – vadovai pasakė valdybai, kad jei Samas negrįš, OpenAI bus sunaikintas, o tai nesuderinama su OpenAI misija“, – liudijo Sutskeveris. „Ir Helen Toner pasakė kažką tokio, kad tai yra nuoseklu, bet aš manau, kad ji tai pasakė dar tiesiau nei tai.”

Jei nuoširdžiai tikėjote, kad OpenAI kelia riziką, kuri nusveria jos naudą, laukiantis darbuotojų maištas buvo nesvarbus. Šis pareiškimas padeda paaiškinti, kodėl valdyba laikėsi tvirtos pozicijos, net kai daugiau nei 700 darbuotojų grasino išeiti.

5. Klaidingi skaičiavimai: vienas visko šaltinis, nepatyrusi valdyba ir kultinis darbo jėgos lojalumas

Beveik viskas 52 puslapių Sutskeverio atmintinėje kilo iš vieno asmens: Miros Murati.

Jis netikrino pretenzijų su Bradu Lightcap, Greg Brockman ar kitais skunduose minimais vadovais. Jis visiškai pasitikėjo Murati, o patikrinimas „jam (jam) neatėjo į galvą“.

„Aš visiškai tikėjau informacija, kurią man suteikė Mira“, – sakė Sutskeveris. „Pastebėjęs suprantu, kad to nežinojau. Bet tada maniau, kad tai žinau. Tačiau žinojau tai iš antrinių žinių.”

Paklaustas apie valdybos procesą, Sutskeveris atvirai pasakė, kas nutiko.

„Galiu pasakyti vieną dalyką, kad procesas buvo skubotas“, – tikino jis. „Manau, kad tai buvo skubota, nes valdyba buvo nepatyrusi.

Sutskeveris taip pat tikėjosi, kad „OpenAI“ darbuotojai bus abejingi Altmano pašalinimui.

Kai 700 iš 770 darbuotojų pasirašė laišką, reikalaudami grąžinti Altmaną ir grasindami išvykti į Microsoft, jis buvo tikrai nustebęs. Jis iš esmės neteisingai apskaičiavo darbuotojų lojalumą ir valdybos izoliaciją nuo organizacijos realybės.

„Nesitikėjau, kad jie pralinksmins, bet nesitikėjau, kad jie jausis stipriai“, – sakė Sutskeveris.