AI „Slop Floods Bug Bounty“ programos, kai įmonės kovoja su netikromis ataskaitomis

Dirbtinis intelektas sukelia naują galvos skausmą įmonėms, kurios remiasi klaidų programomis, kad atskleistų programinės įrangos spragas.

Kibernetinio saugumo įmonės ir atvirojo kodo programinės įrangos projektai susiduria su AI generuojamų klaidų ataskaitų antplūdžiu, kurių daugelis yra klaidingi arba klaidinantys. Tai pagal ataskaitą iš „Financial Times“.kuriame teigiama, kad augantis prastos kokybės pateikimų skaičius verčia kai kurias organizacijas pristabdyti klaidų mažinimo programas, nes saugos komandos praleidžia daugiau laiko rūšiuodamos tikrus pažeidžiamumus iš šiukšlių.

Klaidų dovanos taip pat tapo dideliu verslu, kai įmonės, įskaitant „Meta“, „Microsoft“, „Apple“ ir „Crypto.com“, 2025 m. bendrai sumokėjo mažiausiai 58 mln.

Tačiau generatyvūs dirbtinio intelekto įrankiai taip pat palengvina klaidų programų išnaudojimą, nes pateikia daug netikslių ar žemos kokybės pažeidžiamumo ataskaitų.

Pasak San Franciske įsikūrusios „Bugcrowd“, per tris kovo savaites per platformą pateiktų ataskaitų skaičius išaugo daugiau nei keturis kartus. Bendrovė, kurios klientai yra „ChatGPT“ kūrėjas „OpenAI“, teigė, kad dauguma pranešimų buvo netikri.

Dėl AI generuojamų ataskaitų antplūdžio kai kurios įmonės jau pradėjo atšaukti viešąsias premijų programas.

„Atlyginimai už klaidas išliks (bet) jie turės pasikeisti“, – sakė kibernetinio saugumo bendrovės „Sophos“ vyriausiasis informacijos saugumo pareigūnas Ross McKerchar. „Financial Times“..

Balandį kibernetinio saugumo platforma „HackerOne“ ir prieglobos platforma „Nextcloud“ sustabdė savo mokamą premijų programą, o „Nextcloud“ pridūrė, kad „nebus skiriamas joks finansinis atlygis už jokius pateikimus, nepaisant sunkumo“.

„Kaip jūs tikriausiai žinote, tai yra visos pramonės iššūkis ir, kaip ir kiti, mes negalėjome rasti būdų, kaip atsakingai tvarkytis su didžiuliu žemos kokybės ataskaitų padaugėjimu“, – rašė Nextcloud. „Tikimės, kad galėsime iš naujo paleisti programą, kai tik bus rastas patikimas būdas išfiltruoti mažai pastangų reikalaujančias ataskaitas.

Naujienos apie klaidas ateina, nes AI modeliai vis geriau randa pažeidžiamumą. Kovo mėnesį „Anthropic“ pristatė „Mythos“ – į kibernetinę veiklą orientuotą AI modelį, kuris, bendrovės teigimu, gali greičiau nei žmonės atpažinti pažeidžiamumą. Šiuo metu bendrovė slepia modelį, leisdama pasiekti tik tokius, kaip technologijų milžinai, saugos įmonės ir vyriausybės.

Balandį Claude'as Mythosas vidinio testavimo metu nustatė 271 „Mozilla Firefox“ pažeidžiamumą, o anksčiau šį mėnesį saugumo tyrinėtojai teigė, kad modelio peržiūros versija padėjo sukurti išnaudojimą, nukreiptą į „Apple“ M5 lustus.

„Myriad“ naudotojai – prognozavimo rinkos platforma, kurią valdo Iššifruotipatronuojanti įmonė Dastan netiki, kad Claude'as Mythosas bus viešai išleistas iki birželio pabaigos, o šiuo metu tik 18% tikimybė.