UNICEF ragina vyriausybes kriminalizuoti dirbtinio intelekto sukurtą vaikų išnaudojimo medžiagą

UNICEF trečiadienį skubiai paragino vyriausybes kriminalizuoti dirbtinio intelekto sukurtą vaikų seksualinio išnaudojimo medžiagą, nurodydama nerimą keliančius įrodymus, kad per pastaruosius metus mažiausiai 1,2 mln.

Remiantis trečiadienio duomenimis, skaičiai, atskleisti atliekant UNICEF Strategijos ir įrodymų biuro Innocenti, ECPAT International ir INTERPOL vadovaujamą tyrimų projektą Disrupting Harm Phase 2, rodo, kad kai kuriose šalyse šis skaičius atitinka vieną iš 25 vaikų, o tai prilygsta vienam vaikui įprastoje klasėje. pareiškimas ir lydintis leidimo trumpinys.

Tyrimas, pagrįstas nacionaline reprezentatyvia namų ūkių apklausa, kurioje dalyvavo maždaug 11 000 vaikų iš 11 šalių, atskleidžia, kaip nusikaltėliai dabar gali sukurti tikroviškus seksualinius vaiko įvaizdžius be jų įsitraukimo ar sąmoningumo.

Kai kuriose tiriamose šalyse iki dviejų trečdalių teigė nerimaujantys, kad dirbtinis intelektas gali būti naudojamas kuriant netikrus seksualinius jų vaizdus ar vaizdo įrašus, nors, remiantis duomenimis, susirūpinimo lygis įvairiose šalyse labai skiriasi.

„Turime būti aiškūs. Seksualizuoti vaikų vaizdai, sukurti arba manipuliuoti naudojant dirbtinio intelekto įrankius, yra vaikų seksualinio išnaudojimo medžiaga (CSAM)“, – teigė UNICEF. „Deepfake piktnaudžiavimas yra piktnaudžiavimas, ir nėra nieko netikro apie žalą, kurią jis sukelia“.

Skambutis tampa skubus Prancūzijos valdžia surengė kratą X Paryžiaus biuruose antradienį vykdant baudžiamąjį tyrimą dėl įtariamos vaikų pornografijos, susijusios su platformos AI pokalbių robotu Grok, prokurorams iškvietus Eloną Muską ir kelis vadovus į apklausą.

Skaitmeninės neapykantos kovos su skaitmenine neapykanta centro ataskaita, paskelbta praėjusį mėnesį Manoma, kad Grokas sukūrė 23 338 seksualizuotus vaikų vaizdus per 11 dienų laikotarpį nuo gruodžio 29 d. iki sausio 9 d.

Kartu su pareiškimu išplatintame numerio santraukoje pažymima, kad šie pokyčiai žymi „didžiulį pavojaus, su kuriuo vaikai susiduria skaitmeninėje aplinkoje, eskalaciją“, kai vaiko teisė į apsaugą gali būti pažeista „niekada neišsiunčiant žinutės ar net nežinant, kad tai įvyko“.

JK „Internet Watch Foundation“ per mėnesį viename tamsaus interneto forume pažymėjo beveik 14 000 įtariamų dirbtinio intelekto sukurtų vaizdų, maždaug trečdalis buvo patvirtintas kaip nusikaltimas, o Pietų Korėjos valdžia pranešė apie DI ir su klastojimu susijusių seksualinių nusikaltimų mastą dešimteriopai 2022–2024 m., o dauguma įtariamųjų buvo paaugliai.

Organizacija skubiai paragino visas vyriausybes išplėsti vaikų seksualinės prievartos medžiagos apibrėžimus, įtraukiant dirbtinio intelekto sukurtą turinį ir kriminalizuoti jo kūrimą, įsigijimą, turėjimą ir platinimą.

UNICEF taip pat pareikalavo, kad dirbtinio intelekto kūrėjai įgyvendintų saugos principus ir kad skaitmeninės įmonės neleistų platinti tokios medžiagos.

Trumpai reikalaujama, kad valstybės reikalautų, kad įmonės atliktų deramus vaiko teisių patikrinimus, ypač poveikio vaiko teisėms vertinimus, ir kad kiekvienas dirbtinio intelekto vertės grandinės dalyvis įdiegtų saugos priemones, įskaitant atvirojo kodo modelių saugos bandymus prieš išleidimą.

„Žala dėl piktnaudžiavimo klastojimu yra reali ir neatidėliotina“, – perspėjo UNICEF. „Vaikai negali laukti, kol įstatymai pasivys“.

Europos Komisija pradėjo oficialų tyrimą praėjusį mėnesį išnagrinėjo, ar X pažeidė ES skaitmenines taisykles, nes nesutrukdė Grokui kurti nelegalaus turinio FilipinaiIndonezija ir Malaizija uždraudė Grok, o reguliavimo institucijos JK ir Australija taip pat pradėjo tyrimus.