Pasienio AI modeliai gali rasti didžiausias kriptovaliutų klaidas. Ekspertai perspėja, kad pramonė nėra pasirengusi

Saugumo tyrinėtojas, naudodamas „Anthropic“ Claude Opus 4.8, per kelias dienas atskleidė esminį „Zcash's Orchard“ privatumo telkinio trūkumą ir atskleidė pažeidžiamumą, kurį ketverius metus peržiūrėjo pirmaujantys nulinių žinių kriptografai.

Atskleidus šią informaciją, ZEC ketvirtadienį sumažėjo maždaug 38 proc. ir iškėlė didesnį susirūpinimą kriptovaliutų pramone, susijusia su paribiais AI modeliais, kurie vis labiau įgudo rasti pažeidžiamumą nei dauguma žmonių.

„Svarbiausia ne tai, kad dirbtinis intelektas gali rasti klaidų“, – sakė SingularityNET įkūrėjas ir generalinis direktorius Benas Goertzelis. Iššifruoti. „Pasikeitė klaida, kurią dabar gali rasti.

Jis sakė, kad užuot tiesiog pažymėję akivaizdžias kodavimo klaidas, pažangūs modeliai vis labiau sugeba samprotauti, ar programinė įranga elgiasi taip, kaip sumanė jos dizaineriai.

Gegužės mėnesį „Shielded Labs“ pasamdytas saugumo tyrinėtojas Tayloras Hornby, padedamas „Anthropic“ Claude Opus 4.8, aptiko kritinį „Zcash's Orchard“ grandinės trūkumą. Dviejose kodo eilutėse paslėpta klaida kilo dėl patikrinimo, kuris, atrodo, patvirtino operacijų įvestis, bet iš tikrųjų nesilaikė numatytų taisyklių, todėl užpuolikas galėjo sukurti padirbtą ZEC ekranuotame telkinyje be aptikimo. Hornby sukūrė veikiantį išnaudojimą, kad patikrintų pažeidžiamumą prieš pranešdamas apie tai kūrėjams. Neatidėliotinos pagalbos priemonės buvo įdiegtos birželio 1 d.

Paniką, kuri ketvirtadienį ir penktadienį užklupo „Zcash“ ir platesnę kriptovaliutų rinką, prisideda ir tai, kad trūkumas buvo neatrastas daugiau nei ketverius metus.

Goertzeliui šis atradimas yra svarbus ne tik todėl, kad dirbtinis intelektas rado pažeidžiamumą, bet ir todėl, kad jis rodo naują saugumo tyrimų modelį.

„Manau, kad tai ankstyvas poslinkio ženklas, kurį bus sunku pervertinti“, – sakė jis. „Saugumo tyrimų modelis, kai saujelė gerbiamų žmonių specialistų atlieka lėtus, meistriškus, giliai patyrusius auditus, neišnyksta, bet nustoja būti visu žaidimu.

Goertzelis teigė, kad „Orchard“ trūkumas priklauso subtilių logikos klaidų klasei, kurias vis dažniau gali aptikti pažangūs AI modeliai, įskaitant išmaniosios sutarties klaidas, prieigos kontrolės gedimus ir situacijas, kai programinė įranga elgiasi kitaip, nei numatė jos dizaineriai. Tobulėjant šioms galimybėms, jis pridūrė, kad saugumo tyrimai pereina prie modelio, pagal kurį žmonių specialistai prižiūri nuolatinę AI pagrįstą peržiūrą, kuri gali analizuoti kodų bazes daug plačiau nei tradiciniai auditai.

Pats „Zcash“ atsakymas gali pasiūlyti tos ateities apžvalgą, sakė Goertzelis.

„Įtariu, kad „Shielded Labs“ pasitelkia tyrėją specialiai ieškoti protokolo lygio trūkumų naudojant pasienio modelį, kol piktybinis veikėjas nespėjo, yra šablonas, o ne išimtis“, – sakė Goertzelis. „Proaktyvi, dirbtinio intelekto papildyta, priešiškai pagrįsta peržiūra tampa ant stalo, o protokolai, kurie jos nepriims, vis dažniau bus tie, kurie sužinos apie savo pažeidžiamumą iš užpuoliko, o ne iš draugiško partnerio.

Pasak Seano Ren, Sahara AI generalinio direktoriaus ir Pietų Kalifornijos universiteto kompiuterių mokslo profesoriaus, AI pažanga taip pat keičia pusiausvyrą tarp užpuolikų ir gynėjų, nes pasienio modeliai gali greitai išbandyti atakų strategijas, pasimokyti iš rezultatų ir atskleisti trūkumus.

„Siekdami sukurti geresnę gynybą, turime naudoti šiuos pasienio AI modelius kaip potencialius užpuolikus, kad išbandytume šias sistemas nepalankiausiomis sąlygomis“, – sakė Renas. Iššifruoti.

Renas teigė, kad „blockchain“ tinklai yra ypač pažeidžiami, nes jų atvirojo kodo kodą galima analizuoti tiesiogiai naudojant pasienio AI modelius, kurie gali greitai išbandyti atakų strategijas ir nustatyti pažeidžiamumą greičiau nei tradicinės saugumo apžvalgos.

„Jei galvojate apie pasienio modelių laboratorijas, tokias kaip OpenAI, Anthropic ir Google DeepMind, jos turi ankstesnę prieigą prie stipriausių nepaskelbtų modelių ir gali atlikti daugybę eksperimentų su viešojo tinklo sistemomis, tokiomis kaip blokų grandinės, taigi jie turi galią“, – sakė jis. „Jei kas nors, turėdamas piktų kėslų, turėtų prieigą prie tų galimybių, jis galėtų vykdyti atakas ir sukurti pažeidžiamumą.

Tas langas gali užsidaryti greičiau, nei daugelis tikisi, ir, anot Danny Jenkinso, kibernetinio saugumo įmonės „ThreatLocker“ generalinio direktoriaus ir įkūrėjo, AI padedamas pažeidžiamumo aptikimas gerėja greičiau, nei daugelis organizacijų gali apsaugoti programinę įrangą, kuria jau pasitiki.

„Turime šį didžiulį atotrūkį, kuriam įveikti prireiks metų ir metų“, – sakė Jenkinsas Iššifruoti. „Visa ši programinė įranga turės visus šiuos pažeidžiamumus, mes ilgą laiką neturėsime jos pataisymų ar atnaujinimų, o žmonės galės labai greitai rasti tuos pažeidžiamumus.

Jenkinsas teigė, kad dirbtinis intelektas iš esmės nekeičia pažeidžiamumo tyrimų, o labai jį pagreitina. Užduotis, dėl kurių saugumo tyrinėtojai kažkada turėdavo peržiūrėti kodą ir atgalinės inžinerijos programinę įrangą rankiniu būdu, dabar šiuolaikiniai modeliai gali atlikti per kelias sekundes.

„Iki AI, kibernetinio saugumo grėsmių ir išnaudojimų kasmet daugėjo“, – sakė jis. „Po AI jis tapo dar greitesnis ir, manau, tapo greitesnis dėl dviejų priežasčių. Viena yra ta, kad dabar galite naudoti dirbtinį intelektą, kad padėtumėte rasti pažeidžiamumą ir išnaudojimus, o žmonių, galinčių tai padaryti, skaičius labai išaugo. Dabar jums nereikia būti scenarijaus vaiku.

Nepaisant šios rizikos, Goertzelis teigė, kad kriptovaliuta taip pat gali būti geriau pritaikyta nei kitos pramonės šakos, nes jos kodas yra atviras, o jos bendruomenės yra labai orientuotos į saugumą.

„Kriptas stovi arčiausiai durų, tačiau tai taip pat yra ta kambario dalis, kuri gali matyti ateinančias duris“, – sakė jis.