Garsusis „iPhone“, „Sony Hacker“ teigia, kad dirbtinio intelekto kodavimo agentai laukia nelaimės

George'as Hotzas – įsilaužėlis, pirmą kartą nulaužęs „iPhone“ būdamas 17 metų ir sukūręs PlayStation 3, kol „Sony“ padavė jį į teismą, sekmadienį paskelbė tinklaraščio įrašą, kuriame tvirtino, kad masinis dirbtinio intelekto kodavimo agentų pritaikymas baigsis katastrofa arba bent jau beveik jai.

„Aš tai vadinu dabar, AI agentų pritaikymas programinės įrangos kūrimui bus viena brangiausių klaidų šios srities istorijoje“, – rašė Hotzas. „Agentai negali programuoti, ir užtrunka vis ilgiau, kad suprastų, kad jie negali“.

„Išvestis sugenda, bet vis sunkiau ją aptikti. Būtent to ir galima tikėtis iš vis tikslesnio statistinio modelio.”

Įrašas, pavadintas „Amžinasis nuosmukis“, pateikiamas praėjus penkioms dienoms po to, kai Andrejus Karpathy, vienas žymiausių dirbtinio intelekto tyrinėtojų, prisijungė prie Anthropic parengiamųjų mokymų komandos, aiškiai manydamas, kad AI agentai jau pakeitė programinės įrangos kūrimą. Šie du vyrai dabar atstovauja priešingiems diskusijų poliams, kurių pramonė dar neišspręsta, ir abu yra tikrai patikimi, kad galėtų užimti poziciją.

Hotzas nepadarė savo išvados iš šalies. Jis praleido šešis mėnesius naudodamasis agentais realiuose projektuose: Tinygrado dalyse, jo atvirojo kodo giluminio mokymosi sistemoje ir visiškoje USB-PCIe lusto programinės įrangos atvirkštinėje inžinerijoje. „Agentas iš anksto pakelia visą pažangą“, – rašo jis, tada paduoda jums tai, ką jis apibūdina kaip lošimo automato svirtį – patraukite ją ir tikitės, kad baigiamasis darbas bus atliktas.

Taip niekada nebūna.

Ne apie ego

Hotzas numato akivaizdų atstūmimą: programuotojas, kuris apibrėžia dalį savo tapatybės per savo amatą, natūraliai atsispirtų įrankiams, kurie grasina jį pakeisti. Jis į prieštaravimą žiūri rimtai ir atmeta jį iš esmės.

„​​Daugiau galvojau apie savivertės išsaugojimo dalyką. „Google” AFL rado daugiau klaidų nei LLM, ir niekas taip nesijautė. Šachmatai ir „Go” yra populiaresni nei bet kada”, – rašė Hotzas. Ir jis teisus ta prasme, kad šachmatų dirbtinis intelektas dominuoja tarp žmonių dešimtmečius ir žaidimas tik išpopuliarėjo.

Taigi, jo rūpestis nėra pakeistas. Kalbama apie tai, kas nutinka kodo kokybei, kai visi vienu metu naudoja šiuos įrankius, ypač kai „Big Tech“ ir „Wall Street“ nuolat siekia masinio šių įrankių naudojimo.

„Aš beveik manau, kad tai yra tam tikras agentų pardavimo būdas“, – teigia Hotzas. „Baimė dėl nuostolių yra vienas iš vienintelių būdų priversti dideles įmones judėti. Nors manau, kad dėl šios baimės jos daro didelę klaidą.”

Jo pagrindinis argumentas yra organizacinis. Puikiai atliekančios įmonės turi pakankamai įtemptas grįžtamojo ryšio linijas, kad prieš išsiųstų agentų sukeltas problemas. Jie nuskaito kodą, nustato klaidas ir sukalibruoja, kada pasitikėti įrankiu. „Blogiausi atlikėjai neturės savęs patikrinimo“, – rašo jis. Jie naudoja agentus, kad pagamintų 10 kartų daugiau nei ankstesnė produkcija. Didelėje įmonėje ši matematika sukuria kažką konkretaus: greitesnį vidutinės kodo kokybės pablogėjimą, užmaskuotą didžiuliu kiekiu.

Jo teigimu, rezultatas bus „aukso era ir kibirams šlamštų, o tamsus amžius – kokybės brangakmeniams“. Kaip konkretų pavyzdį jis nurodo pranešimus, kad „Apple“ naudoja AI kodavimo įrankius visoje savo inžinerinėje organizacijoje, tada tiesiog klausia: „Ar manote, kad per ateinančius 2 metus „MacOS“ pagerės ar blogės?

Kur stovi stovyklos

Hotzas dabar patenka į tai, ką jis vadina „LeCun/Marcus stovykla“, turėdamas galvoje Yanną LeCuną, vyriausiąjį „Meta“ AI mokslininką ir Gary Marcusą, ilgametį LLM skeptiką. Abu teigė, kad kalbos modeliai yra iš esmės sudėtingi modelių atitikmenys: jie gali imituoti esamo kodo paskirstymą, bet negali samprotauti dėl tikrai naujų problemų iš pirmųjų principų.

„Vibe“ kodavimas – apibūdinimas, ko norima paprasta kalba ir leisti AI generuoti diegimą – per pastaruosius metus labai išaugo, o pagrindinės laboratorijos agentu pagrįstą kodavimą nustatė kaip pavyzdinį produktą. 2025 m. „Microsoft“ pavertė „GitHub Copilot“ visapusiška agentine sistema, o generalinis direktorius Satya Nadella apibūdino tai kaip platformos lygio pokytį, prilygstamą perėjimui prie debesies.

Atstūmimas į Hotzo poziciją nėra abstraktus. Karpathy, kuris anksčiau 2025 m. skeptiškai žiūrėjo į agentus, po naujo modelio pasirodymo pakeitė savo poziciją ir prisijungė prie Anthropic parengiamųjų mokymų komandos gegužės 19 d., likus penkioms dienoms iki „Hotz“ paskelbimo. Jis apibūdino ateinančius kelerius metus pasienyje kaip „ypač formuojančius“.

„Anthropic“ generalinis direktorius Dario Amodei Davose sakė, kad kai kurie „Anthropic“ inžinieriai jau nustojo patys rašyti kodą ir leido modeliams jį tvarkyti, kol peržiūri rezultatus. Hotzas savo ruožtu sako, kad bandė daryti tą patį ir kiekvieną kartą siekė rankinio pataisymo.