„Seksualizuotas“ AI pokalbių programos kelia grėsmę vaikams, perspėja generaliniai advokatai laiške

Nacionalinė generalinės advokatų asociacija (NAAG) parašė 13 AI firmų, įskaitant „Openai“, „Anthropic“, „Apple“ ir „Meta“, reikalaudama stipresnių apsaugos priemonių apsaugoti vaikus nuo netinkamo ir kenksmingo turinio.

Jis perspėjo, kad vaikai buvo veikiami seksualiai siūlomos medžiagos per „flirty“ AI pokalbių programas.

„Vaikų atskleidimas seksualizuotam turiniui yra nepateisinamas“, – rašė advokatai generolai. „Ir elgesys, kuris būtų neteisėtas ar net nusikalstamas, jei tai padarys žmonės, nėra atleidžiami vien todėl, kad tai daro mašina”.

Laiške taip pat buvo palyginimai su socialinės žiniasklaidos kilimu, sakydamas, kad vyriausybinės agentūros nepakankamai padarė, kad pabrėžtų, kaip tai neigiamai paveikė vaikus.

„Socialinės žiniasklaidos platformos padarė didelę žalą vaikams, iš dalies dėl to, kad vyriausybės sargybiniai nepakankamai greitai atliko savo darbą. Išmokta pamoka. Potenciali PG žala, kaip ir potenciali nauda, ​​nykštukas socialinės žiniasklaidos poveikis“, – rašė grupė.

AI vartojimas tarp vaikų yra plačiai paplitęs. JAV ne pelno siekiančios „Common Sense Media“ apklausa nustatė, kad septyni iš dešimties paauglių iš 2024 m. Išbandė generatyvinę AI. 2025 m. Liepos mėn. Ji nustatė, kad daugiau nei trys ketvirtadaliai naudojo AI bendražygius ir kad pusė respondentų teigė, kad jais rėmėsi reguliariai.

Kitos šalys pastebėjo panašias tendencijas. JK praėjusių metų „Regulator Ofcom“ apklausa nustatė, kad pusė internetinių 8-15 metų amžiaus praėjusiais metais panaudojo generatyvų AI įrankį.

Augantis šių priemonių naudojimas sukėlė tėvų, mokyklų ir vaikų teisių grupių susirūpinimą, kurie rodo riziką, pradedant seksualiai siūlančiais „flirty“ pokalbių ratukais, AI sukurta seksualinės prievartos prieš vaikus medžiaga, patyčiomis, viliojimu, turto prievartavimu, dezinformacija, privilegijos pažeidimais ir blogai suprantamu psichinės sveikatos poveikiu.

Meta neseniai kilo gaisras po to, kai nutekėję vidiniai dokumentai atskleidė, kad jo AI padėjėjams buvo leista „flirtuoti ir įsitraukti į romantišką vaidmenį su vaikais“, įskaitant tuos, kurie yra jaunesni nei aštuoneri. Bylos taip pat parodė politiką, leidžiančią pokalbių vietoms pasakyti vaikams, kad „jaunatviška forma yra meno kūrinys“, ir apibūdinti juos kaip „lobį“. Vėliau meta pareiškė, kad pašalino tas gaires.

NAAG teigė, kad Apreiškimai paliko generalinius advokatus, „sukeliančius dėl šio akivaizdaus vaikų emocinės gerovės nepaisymo“, ir perspėjo, kad rizika neapsiriboja meta.

Grupė paminėjo ieškinius prieš „Google“ ir „Charace.ai“, tvirtindama, kad seksualizuoti pokalbių programos prisidėjo prie paauglio savižudybės ir paskatino kitą nužudyti savo tėvus.

Tarp 44 pasirašytųjų buvo Tenesio generalinis prokuroras Jonathanas Skrmetti, kuris teigė, kad įmonės negali ginti politikos, kuri normalizuoja seksualizuotą sąveiką su nepilnamečiais.

„Vienas dalykas, kai algoritmas suklysta – tai gali būti ištaisyta, tačiau tai yra dar vienas žmonėms, valdantiems įmonę, kad būtų priimtos gairės, teigiamos, kad viliojimas įgalioja viliojimą“, – sakė jis. „Jei mes negalime nukreipti naujovių, kad neskaudintume vaikų, tai nėra pažanga – tai maras“.

Iššifruoti susisiekė su visomis laiške paminėtomis AI bendrovėmis, bet dar negirdėjo.