Tyrėjai įspėja, kad dirbtinio intelekto spiečius gali padauginti internete dezinformaciją ir manipuliavimą

Remiantis nauja ataskaita, paskelbta, lengvai aptinkamų botnetų era baigiasi Mokslas ketvirtadienį. Tyrime tyrėjai perspėjo, kad dezinformacijos kampanijos pereina prie autonominių AI spiečių, kurie gali imituoti žmogaus elgesį, prisitaikyti realiuoju laiku ir reikalauja mažai žmogaus priežiūros, o tai apsunkina pastangas juos aptikti ir sustabdyti.

Straipsnyje, kurį parašė mokslininkų konsorciumas, įskaitant Oksfordo, Kembridžo, UC Berkeley, NYU ir Max Planck institutą, aprašoma skaitmeninė aplinka, kurioje manipuliacijas tampa sunkiau nustatyti. Vietoj trumpų, su rinkimais ar politika susijusių įvykių, šios AI kampanijos gali išlaikyti naratyvą ilgesnį laiką.

„Vyriausybės rankose tokios priemonės galėtų nuslopinti nesutarimus arba sustiprinti esamus operatorius“, – rašė mokslininkai. „Todėl gynybinio AI diegimas gali būti svarstomas tik tuo atveju, jei jį valdo griežtos, skaidrios ir demokratiškai atskaitingos sistemos.

Spiečius – tai savarankiškų dirbtinio intelekto agentų grupė, kuri dirba kartu, kad išspręstų problemas arba įgyvendintų tikslus efektyviau nei viena sistema. Tyrėjai teigė, kad dirbtinio intelekto spiečius remiasi esamomis socialinės žiniasklaidos platformų trūkumais, kur vartotojai dažnai yra izoliuoti nuo priešingų požiūrių.

„Įrodyta, kad melagingos naujienos plinta greičiau ir plačiau nei tikros naujienos, gilina suskaidytą tikrovę ir griauna bendras faktines bazes“, – rašė jie. „Naujausi įrodymai sieja pagal įsitraukimą optimizuotą kuravimą su poliarizacija, o platformos algoritmai sustiprina skaldantį turinį net vartotojų pasitenkinimo sąskaita ir toliau žemina viešąją sferą.

Pasak Pietų Kalifornijos universiteto kompiuterių mokslų profesoriaus ir Sahara AI generalinio direktoriaus Seano Reno, šis poslinkis jau matomas pagrindinėse platformose, kuris teigė, kad dirbtinio intelekto valdomas paskyras vis sunkiau atskirti nuo paprastų vartotojų.

„Manau, kad griežtesnis KYC arba paskyros tapatybės patvirtinimas čia labai padėtų“, – sakė Renas Iššifruoti. „Jei sunkiau sukurti naujas paskyras ir lengviau stebėti šiukšlių siuntėjus, agentams bus daug sunkiau naudoti daug paskyrų koordinuotam manipuliavimui.

Ankstesnės įtakos kampanijos daugiausia priklausė nuo masto, o ne nuo subtilumo – tūkstančiai paskyrų vienu metu skelbdavo identiškus pranešimus, todėl aptikimas buvo palyginti paprastas. Priešingai, tyrime teigiama, kad dirbtinio intelekto spiečiai pasižymi „precedento neturinčiu savarankiškumu, koordinavimu ir mastu“.

Renas teigė, kad vien turinio moderavimas vargu ar sustabdys šias sistemas. Pasak jo, problema yra ta, kaip platformos valdo tapatybę dideliu mastu. Anot jo, griežtesni tapatybės patikrinimai ir paskyros kūrimo apribojimai galėtų padėti lengviau aptikti koordinuotą elgesį, net kai atskiri įrašai atrodo žmogiški.

„Jei agentas gali naudoti tik nedidelį skaičių paskyrų turiniui skelbti, tada daug lengviau aptikti įtartiną naudojimą ir uždrausti tas paskyras“, – sakė jis.

Nėra paprasto pataisymo

Tyrėjai padarė išvadą, kad nėra vieno problemos sprendimo, o galimos galimybės, įskaitant patobulintą statistiškai nenormalaus koordinavimo aptikimą ir didesnį automatizuotos veiklos skaidrumą, tačiau teigia, kad vien techninių priemonių greičiausiai nepakaks.

Reno teigimu, finansinės paskatos taip pat išlieka nuolatinė koordinuotų manipuliavimo atakų varomoji jėga, net jei platformose įdiegiamos naujos techninės apsaugos priemonės.

„Šiuos agentų būrius paprastai kontroliuoja komandos arba pardavėjai, kurie gauna pinigines paskatas iš išorės šalių ar įmonių, kad atliktų koordinuotas manipuliacijas“, – sakė jis. „Platformos turėtų taikyti stipresnius KYC ir šlamšto aptikimo mechanizmus, kad nustatytų ir išfiltruotų agentų manipuliuojamas paskyras.