OpenAI pristato Daybreak, kai dirbtinio intelekto įmonės plečiasi kibernetinio saugumo srityje

„OpenAI“ pirmadienį pristatė „Daybreak“ – kibernetinio saugumo iniciatyvą, kurios tikslas – padėti kūrėjams ir saugos komandoms greičiau nustatyti spragas, patvirtinti pataisymus ir greičiau apsaugoti programinę įrangą naudojant dirbtinį intelektą.

Skelbime pabrėžiamas platesnis poslinkis, kai dirbtinio intelekto įmonės vis labiau veržiasi į kibernetinį saugumą, nes pažangūs modeliai tobulėja analizuodami kodą, nustatydami programinės įrangos trūkumus ir automatizuodami technines užduotis.

Pranešime apie X OpenAI generalinis direktorius Samas Altmanas pavadino „Daybreak“ „pastangomis paspartinti kibernetinę gynybą ir nuolat apsaugoti programinę įrangą“.

„AI jau yra geras ir netrukus taps itin geras kibernetinio saugumo srityje; norėtume pradėti dirbti su kuo daugiau įmonių dabar, kad padėtume joms nuolat apsisaugoti“, – rašė Altmanas.

„OpenAI“ teigimu, „Daybreak“ sujungia bendrovės AI modelius su „Codex“ – į kodavimą orientuota agentų sistema, kad padėtų saugos komandoms peržiūrėti kodą, analizuoti priklausomybes, modeliuoti grėsmes, patvirtinti pataisas ir ištirti nepažįstamas sistemas. Bendrovė teigė, kad tikslas yra sutrumpinti laiką nuo pažeidžiamumo nustatymo iki jo pašalinimo.

OpenAI iš karto neatsakė į prašymą pakomentuoti Iššifruoti.

Atėjo diena, kai kibernetinio saugumo tyrėjai ir pramonės ekspertai perspėja apie AI varomų kibernetinių atakų grėsmę po Claude Mythos pasirodymo praėjusį mėnesį. Naudodamas „Mythos“, „Firefox“ naršyklės kūrėjas „Mozilla“ teigė, kad galėjo rasti 271 nežinomą naršyklės spragą.

„Dabar AI gali padėti gynėjams samprotauti įvairiose kodų bazėse, nustatyti subtilius pažeidžiamumus, patvirtinti pataisymus, analizuoti nepažįstamas sistemas ir greičiau pereiti nuo atradimo prie ištaisymo“, – sakoma OpenAI pranešime. „Kadangi tomis pačiomis galimybėmis galima piktnaudžiauti, Daybreak suporavo gynybinius pajėgumus su pasitikėjimu, patikrinimu, proporcingomis apsaugos priemonėmis ir atskaitomybe.

Šis pranešimas taip pat pateikiamas, kai didžiosios AI įmonės vis dažniau parduoda savo modelius kibernetinio saugumo ir programinės įrangos inžinerijos užduotims. „OpenAI“ konkurentas „Anthropic“ taip pat vis dažniau parduoda savo „Claude“ modelius, skirtus kodavimui ir su sauga susijusioms užduotims, didėjant konkurencijai tarp AI įmonių, ieškančių verslo klientų.

Nors ekspertai ir toliau nesutaria dėl AI keliamos grėsmės masto, mokslininkai ir vyriausybinės agentūros perspėjo, kad pažangūs AI modeliai gali paspartinti kibernetines atakas, padėdami įsilaužėliams automatizuoti pažeidžiamumo tyrimus, kenkėjiškų programų kūrimą ir išnaudoti kūrimą. Tuo pačiu metu „Google“ mokslininkai neseniai teigė, kad dideli kalbų modeliai vis geriau nustato ir išnaudoja programinės įrangos trūkumus, kurių tradiciniai saugos skaitytuvai dažnai nepastebi.

„OpenAI“ teigė, kad planuoja dirbti su vyriausybe ir pramonės partneriais prieš diegdama kibernetinius gebėjimus palaikančius AI modelius, nes reguliavimo institucijos ir nacionalinio saugumo pareigūnai bando išnagrinėti pažangius AI modelius prieš paleidžiant juos visuomenei.

„Daybreak yra pirmasis saulės šviesos žvilgsnis ryte“, – rašė OpenAI. „Kibernetinės gynybos atveju tai reiškia, kad anksčiau reikia pamatyti riziką, veikti greičiau ir padėti padaryti programinę įrangą atsparią.