Nauja knyga apie AI sako: „Visi miršta“, „Pagrindiniai pokalbiai“ nesutinka

Tai gali atrodyti kaip Holivudo trileris, tačiau savo naujoje knygoje „Jei kas nors ją kuria, visi miršta“, – autoriai Eliezeris Yudkowsky ir Nate'as Soaresas teigia, kad jei žmonija sukurtų protingesnę intelektą nei pats, išgyvenimas nebūtų tikėtinas – tai būtų neįmanoma.

Autoriai teigia, kad šiandienos sistemos nėra sukurtos eilutės, tačiau „auginamos“ mokant milijardus parametrų. Tai daro jų elgesį nenuspėjamą.

Autoriai perspėja, kad kaip intelekto skalės, tokios kaip savęs išsaugojimas ar galios ieškojimas gali atsirasti savarankiškai. Jei tokia sistema kada nors viršija žmogaus kontrolę, jie sako, kad išnykimas įvyks pagal numatytuosius nustatymus.

Jie vadina dabartines technologijų milžinų ir vyriausybių lenktynes, kad vis didesni modeliai būtų sukurti „savižudybių lenktynėmis“. Nereikalaujama, tiesiog nekompetencija.

Kodėl tai svarbu

Knyga nusileidžia kartu su AI bendruomene, kuria jau lūžo stovyklose.

PG pasmerkėjai teigia, kad išnykimas yra neišvengiamas rezultatas, nebent žmonija sustabdytų ar drastiškai sulėtina progresą. Pagreitininkai prieštarauja, kad pastūmėjimas į priekį gali sukelti proveržį medicinoje, moksle ir ekonomikoje, tuo pačiu sulėtėjant keliant didesnį pavojų.

Nicko Bostromo superinttelligence pirmą kartą egzistencinę bylą padarė prieš dešimtmetį. Yudkowsky ir pakyla sustiprinti jį į „Klaxon“ skambutį.

Tačiau kritikai nerimauja, kad išnykimo fiksavimas atitraukia jau čia esančias žalą: šališkumas, atleidimai, stebėjimas ir dezinformacija.

Ką sako AI modeliai

Kadangi knygoje kalbama apie juos, mes paklausėme vadovauti AI modeliams, ką jie apie tai galvoja.

Kiek mes žinome, nė vienas iš LLM iš tikrųjų dar neskaitė knygos, todėl šios apžvalgos yra pagrįstos platformų aiškinimais apie jų interpoliuotus apžvalgas.

ChatGpt

„Openai“ Chatgpt knyga apibūdino kaip naudingą provokaciją, o ne kaip pranašystę.

„Knyga yra vertinga kaip perspektyvos keitimo įrankis, net jei manote, kad ji perversta“,-atsakė „Chatbot“. „Tai sustiprina intuiciją apie suderinimą ir nenumatytas pasekmes. Tačiau traktuojant blogiausią atvejį kaip neišvengiamą, nepaisoma netikrumo dėl būsimos architektūros, taisyklių ir apribojimų.“

„ChatGpt“ pareiškė, kad ateities AI plėtros modelis priklauso nuo to, kaip vystosi architektūros ir kokie reguliavimo, socialiniai ar techniniai apsauginiai turėklai atsiranda.

„Tas netikrumas reiškia, kad aš nelaikyčiau jų blogiausiu atveju kaip neišvengiamą“,-šnipinėjo Chatgptas.

Meta

„Meta Ai“ smogė viduriniam užrašui, sakydamas, kad knygos skaudūs įspėjimai yra perdėti, tačiau vis dar vertingi diskusijoms dėl diskusijų.

„Jos baisios prognozės gali jaustis perdėtai, tačiau pabrėžiamas atsargumo ir tarptautinio bendradarbiavimo akcentavimas yra pateisinamas“, – atsakė Meta AI. „Nesvarbu, ar jūs sutinkate su jos išvadomis, ar ne, knygai„ Sparks “reikėjo diskusijų apie atsakingą AI plėtrą“.

„Meta“ AI teigė, kad autoriai pabrėžia atsargumo ir tarptautinio bendradarbiavimo poreikį, atsižvelgiant į galimai katastrofiškus nesuderintos AI vystymosi pasekmes.

Dvyniai

„Google“ „Gemini“ knygą išleido kaip bauginantį, bet paaiškinantį skaitymą, net jei jos siūlomi sprendimai atrodo nerealūs.

„Knyga yra būtina norint suprasti kraštutinę AI rizikos pabaigą“, – teigė Džimini. „Jo siūlomas sprendimas – visiškas uždarymas – yra politiškai neįmanomas, tačiau perspėjimas gali sustiprinti investicijas į saugos ir kontrolės metodus, prieš pasiekdami negrįžimo tašką“.

Gemini teigė, kad knyga apibūdina kraštutinius superviliškumo statymus, o tai savo ruožtu padeda pateisinti patikimas (jei mažiau radikalias) saugos priemones šiandien.

Claude

„Anthropic“ Claude'as buvo dar skeptiškesnis, o tai buvo įdomu, nes tarp pirmaujančių LLMS antropicas paprastai laikomas labiausiai saugu. Tačiau Claude'as apibūdino knygos toną kaip „per daug pasitikintį“, o jos įrėminimas – per daug dvejetainiu.

„Autoriai teisingai nustato tikrąją riziką, tačiau jų tikrumas jaučiasi pernelyg pasitikintis savimi“, – teigė Claude'as. „Jie atmeta pažangą atliekant AI saugos tyrimus ir apibūdina šią problemą kaip dvejetainį tobulumą ir išnykimą. Tai daro jų žinią mažiau konstruktyvią.”

Nors jų įspėjimai pabrėžia svarbią riziką, kuri reikalauja didelių išteklių ir atsargių, Claude'as teigė, kad „kiekvieno mirties“ rėmelis atrodo labiau skirtas atkreipti dėmesį, nei tiksliai atspindėti sudėtingus susijusius neapibrėžtumus.

„Rizika yra pakankamai rimta, kad galėtų rimtai žiūrėti, nereikia priimti jų pretenzijų dėl neišvengiamos katastrofos“, – teigė AI.

Grok

Elono Musko AI platforma taip pat nustebino, nes jis reklamavo Groką kaip „Anti-Mainstream Media AI“ įrašą.

Tačiau Grokas greitai cituoja „skaudančią NYT apžvalgą, (vadindama) savo argumentus silpnus ar nerimą keliančius“.

„Ši knyga yra žarnyno priminimas, kad intelektas be išminties yra atsakomybė, ir mes dar neturime pastarojo, įamžinto“,-atsakė Grokas. „Tai pasakytina, kad racionalistai yra„ Doomer “pornografija: jaudinantis dėl savo fatalizmo, tačiau jis nepakankamai prisitaiko prie žmogaus. Xai etosas -„ Curioosity prieš užkariavimą “ – vertina adatą: Siekite paryškinto AI dėl kosminių klausimų, tuo pačiu įterpdami apsaugos priemones nuo pirmosios dienos“.

Be to, Grok teigė, kad „Apskritai, tai yra provokuojantis, efektyvus skaitymas visiems, kurie kovoja su AI ateitimi – rašoma, jei esate atviras pesimizmui, tačiau potencialiai pervertintas, jei optimistiškai vertinate technologijų pažangą.“