Trumpai tariant
- „Google“ grėsmių žvalgybos grupė paskelbė naujausią AI pavojų ataskaitą.
- Ataskaitoje teigiama, kad valstybės remiami įsilaužėliai naudoja tokius įrankius kaip „Google“ „Dvyniai“, kad paspartintų kibernetines atakas.
- Įsilaužėliai domisi agentiniu AI, kad AI galėtų visiškai kontroliuoti atakas.
„Google“ grėsmių žvalgybos grupė (GTIG) dar kartą skambina pavojaus varpais dėl AI rizikos ir paskelbė naujausią ataskaitą apie tai, kaip dirbtinį intelektą naudoja pavojingi valstybės remiami įsilaužėliai.
Ši komanda nustatė, kad padaugėjo modelių išgavimo bandymų, ty intelektinės nuosavybės vagystės metodą, kai kas nors pakartotinai klausia AI modelio, bandydamas išmokti jo vidinę logiką ir atkartoti jį į naują modelį.
Nors tai kelia nerimą, tai nėra pagrindinė rizika, dėl kurios „Google“ reiškia susirūpinimą. Toliau ataskaitoje įspėjami vyriausybės remiami grėsmės veikėjai, naudojantys didelius kalbos modelius (LLM) techniniams tyrimams, taikymui ir greitam niuansuotų sukčiavimo jaukų generavimui.
Ataskaitoje pabrėžiamas susirūpinimas dėl Korėjos Liaudies Demokratinės Respublikos, Irano, Kinijos Liaudies Respublikos ir Rusijos.
Dvyniai ir sukčiavimo išpuoliai
Pranešama, kad šie veikėjai naudoja dirbtinio intelekto įrankius, tokius kaip „Google“ „Gemini“, žvalgybai ir tikslinių profilių sudarymui, dideliu mastu rinkdami atvirojo kodo žvalgybos duomenis, taip pat kurdami itin suasmenintus sukčiavimo sukčiavimus.
„Ši veikla pabrėžia perėjimą prie AI papildyto sukčiavimo įgalinimo, kai LLMS greitis ir tikslumas gali apeiti rankinį darbą, kuris tradiciškai reikalingas aukų profiliavimui“, – teigiama „Google“ pranešime.
„Tikslai jau seniai remiasi tokiais rodikliais kaip prasta gramatika, nepatogi sintaksė arba kultūrinio konteksto trūkumas, padedantis nustatyti sukčiavimo bandymus. Teatro aktoriai dabar vis dažniau pasitelkia LLM, kad sukurtų itin suasmenintus jaukus, kurie atspindėtų tikslinės organizacijos profesinį toną“.
Pavyzdžiui, jei Dvyniams būtų suteikta tikslo biografija, tai galėtų sukurti gerą asmenybę ir padėti sukurti scenarijų, kuris efektyviai patrauktų jų dėmesį. Naudodami dirbtinį intelektą šie grėsmės veikėjai taip pat gali veiksmingiau versti į vietines kalbas ir iš jų.
Išaugus AI gebėjimui generuoti kodą, tai atvėrė duris ir piktavališkam naudojimui, nes šie veikėjai šalina triktis ir generuoja kenkėjiškus įrankius naudodamiesi AI vibracinio kodavimo funkcija.
Ataskaitoje perspėjama apie augantį susidomėjimą eksperimentuoti su agentiniu AI. Tai dirbtinio intelekto forma, kuri gali veikti su tam tikru savarankiškumu, palaikydama tokias užduotis kaip kenkėjiškų programų kūrimas ir jos automatizavimas.
„Google“ atkreipia dėmesį į savo pastangas kovoti su šia problema pasitelkdama įvairius veiksnius. Be grėsmių žvalgybos ataskaitų kūrimo kelis kartus per metus, įmonė turi komandą, nuolat ieškančią grėsmių. „Google“ taip pat imasi priemonių, kad „Dvyniai“ taptų modeliu, kurio negalima naudoti piktybiniams tikslams.
Naudodama „Google DeepMind“ komanda bando nustatyti šias grėsmes, kol jos dar neįmanomos. Efektyviai „Google“ siekia identifikuoti kenkėjiškas funkcijas ir jas pašalinti, kol jos nesukels pavojaus.
Nors iš ataskaitos aišku, kad AI naudojimas grėsmės aplinkoje išaugo, „Google“ pažymi, kad kol kas nėra jokių proveržio galimybių. Vietoj to tiesiog padaugėja priemonių ir rizikos.
Dienos apžvalga Naujienlaiškis
Pradėkite kiekvieną dieną nuo populiariausių naujienų dabar ir originalių funkcijų, tinklalaidės, vaizdo įrašų ir kt.
