Australijos reguliuotojas žymi Groko vėliavą dėl didėjančio AI vaizdo piktnaudžiavimo skundų

Australijos nepriklausoma interneto saugos reguliavimo institucija ketvirtadienį paskelbė įspėjimą dėl vis dažnėjančio Groko naudojimo seksualizuotiems vaizdams be sutikimo kurti, atskleidusi, kad pastaraisiais mėnesiais jos biure skundų dėl AI pokalbių roboto padaugėjo dvigubai.

Šalies e-saugos komisarė Julie Inman Grant sakė, kad kai kuriuose pranešimuose yra galimas vaikų seksualinio išnaudojimo medžiaga, o kiti yra susiję su suaugusiais, patyrusiais prievartą dėl įvaizdžio.

„Esu labai susirūpinęs dėl vis didėjančio generatyvinio AI naudojimo siekiant seksualizuoti ar išnaudoti žmones, ypač kai tai susiję su vaikais“, – sakė Grantas. paskelbta „LinkedIn“ ketvirtadienį.

Komentarai ateina montuojant tarptautinis atsakas prieš Grokąpokalbių robotas, sukurtas milijardieriaus Elono Musko AI paleidimo xAI, kuris gali būti paragintas tiesiogiai X pakeisti vartotojų nuotraukas.

Grantas perspėjo, kad dirbtinio intelekto gebėjimas generuoti „hiperrealistišką turinį“ leidžia blogiems veikėjams lengviau sukurti sintetinį piktnaudžiavimą, o reguliavimo institucijoms, teisėsaugos institucijoms ir vaikų saugos grupėms sunkiau reaguoti.

Skirtingai nuo konkurentų, tokių kaip ChatGPT, Musko xAI pozicionavo Groką kaip „įtemptą“ alternatyvą, kuri sukuria turinį, kurio kiti AI modeliai atsisako gaminti. Praėjusį rugpjūtį jis pristatė „Spicy Mode“, kad sukurtų aiškų turinį.

Grantas perspėjo, kad Australijos vykdytini pramonės kodeksai reikalauja, kad internetinės paslaugos įgyvendintų apsaugos priemones nuo vaikų seksualinio išnaudojimo medžiagos, nesvarbu, ar ji sukurta dirbtinio intelekto, ar ne.

Praėjusiais metais „eSafety“ ėmėsi priverstinio vykdymo veiksmų prieš plačiai naudojamas „nudify“ paslaugas, priversdamas jas pasitraukti iš Australijos, pridūrė ji.

„Dabar įžengėme į amžių, kai įmonės turi užtikrinti, kad generuojamieji dirbtinio intelekto produktai turėtų atitinkamas apsaugos priemones ir įtaisytus apsauginius turėklus kiekviename gaminio gyvavimo ciklo etape“, – sakė Grantas ir pažymėjo, kad „eSafety“ „ištirs ir imsis atitinkamų veiksmų“, naudodama visą spektrą reguliavimo priemonių.

Deepfake auga

Rugsėjo mėn. Grantas užsitikrino pirmąją Australijos bausmę už klastotę, kai federalinis teismas skyrė Gold Kosto vyrui Anthony Rotondo 212 000 USD (343 500 Australijos dolerių) baudą už tai, kad paskelbė garsių Australijos moterų padirbtą pornografiją.

E. saugos komisaras padavė Rotondo į teismą 2023 m., kai jis nepaisė įspėjimų apie pašalinimą, sakydamas, kad jie jam „nieko nereiškė“, nes jis nebuvo Australijos gyventojas, o tada nuotraukas išsiuntė el. paštu 50 adresų, įskaitant Granto biurą ir žiniasklaidos priemones. ABC naujienos ataskaita.

Australijos įstatymų leidėjai siekia sustiprinti apsaugą nuo nesuderinamų gilių klastočių, viršijančių galiojančius įstatymus.

Nepriklausomas senatorius Davidas Pocockas pristatė lapkričio mėn. priimtą internetinės saugos ir kitų teisės aktų pataisą (Mano veidas, mano teisės) 2025 m. įstatymo projektą, pagal kurį asmenys, kurie dalijasi giliomis klastotėmis be sutikimo, būtų nubausti 102 000 USD (165 000 Australijos USD) bauda, ​​o įmonėms gresia bauda iki 510 000 USD (825 A$).

„Dabar gyvename pasaulyje, kuriame vis dažniau kiekvienas gali sukurti gilią klastotę ir naudoti ją taip, kaip nori“, – sakė Pocockas. pareiškimaskritikuodamas vyriausybę už tai, kad ji „miega prie vairo“ dėl dirbtinio intelekto apsaugos.