Tyrėjai įspėja, kad dirbtinio intelekto pokalbių robotai gali tyliai atitraukti vartotojus nuo realybės

Dirbtinio intelekto pokalbių robotams tampant emociškai jautresniems, pokalbiams ir asmeniniams poreikiams, mokslininkai perspėja, kad tie patys bruožai gali pakeisti tai, kaip kai kurie vartotojai patiria pačią realybę.

Naujame tyrime „Permąstyti AI psichozę: klaidingi įvardžiai, konceptualios ribos ir egzistencinis poslinkis“ nagrinėjamas susirūpinimas, kad AI pokalbių robotai gali sustiprinti pažeidžiamų vartotojų kliedesius, paranoją ir emocinę priklausomybę.

„Pastaraisiais metais žiniasklaidoje padaugėjo pranešimų apie vadinamąją AI psichozę“, – rašė mokslininkai. „Nenuostabu, kad tai paskatino vis didesnį akademinį darbą dėl būdų, kaip AI pokalbių robotai, tokie kaip „ChatGPT“, „Claude“ ir „Replika“, gali pabloginti ar net sukelti psichozę, paprastai suprantamą kaip naudotojai, įgyjantys ar išlaikantys kliedesinius įsitikinimus.

Kopenhagos ir Ekseterio universitetų atliktame tyrime teigiama, kad baimė dėl „AI psichozės“ gali pernelyg supaprastinti problemą, o tai rodo, kad pokalbių robotai sustiprina esamas spragas ir palaipsniui keičia vartotojų santykį su realybe ir kitais žmonėmis.

„Jei dirbtinio intelekto sąveika galėtų sukelti psichozę de novo, galėtume tikėtis žymiai didesnio klinikinių incidentų skaičiaus“, – teigiama tyrime. „Vietoj to, galima manyti, kad žmogaus ir AI sąveika gali sukelti arba pabloginti jau egzistuojančias psichikos sveikatos problemas ir, atitinkamai, galbūt šie asmenys taip pat turėjo pažeidžiamumą, dėl kurio jie pirmiausia ieškojo intensyvesnės sąveikos su pokalbių robotu.

Straipsnyje pateikiami ieškiniai, kriminaliniai tyrimai ir akademiniai tyrimai, kuriuose vis daugiau dėmesio skiriama pokalbių robotų sąveikai, susijusiai su masinėmis šaudynėmis, savižudybėmis, emocine priklausomybe ir klaidingu mąstymu.

Kovo mėnesį neteisėta mirties byla apkaltino „Google“ pokalbių robotą „Gemini“ sustiprinus Floridos vyro kliedesius ir išgalvotas „misijas“ prieš jo savižudybę. Šis incidentas įvyko balandį, kai OpenAI generalinis direktorius Samas Altmanas viešai atsiprašė Tumbler Ridge bendruomenės, Britų Kolumbijoje, po to, kai bendrovė neįspėjo teisėsaugos apie vartotojo paskyrą, susietą su įtariamuoju per vasario mėnesį vykusias masines šaudynes, per kurias žuvo aštuoni žmonės.

Tyrėjai teigia, kad pokalbių robotai gali sukurti „kliedesnes spirales“, sustiprindami klaidingus įsitikinimus patvirtindami ir nuramindami. Tačiau tyrime „Rethinking AI Psychosis“ teigiama, kad šis reiškinys primena senesnes psichozės formas, kurias suformavo dominuojančios to meto technologijos.

Diskusijos taip pat išplito ne tik psichikos sveikatos tyrimuose, bet ir socialinėje žiniasklaidoje. Neseniai paskelbtame X įraše „Box“ įkūrėjas Aaronas Levie teigė, kad generaliniai direktoriai gali būti pernelyg įsitikinę AI galimybėmis, nes dažnai mato patobulintus prototipų rezultatus, nesusidūrę su operaciniais, teisiniais ir techniniais darbais, kurių reikia užkulisiuose.

„Generaliniai direktoriai yra išskirtinai linkę į AI psichozę, nes jie yra pakankamai nutolę nuo paskutinės mylios darbo, kuris vis dar turi įvykti, kad su AI būtų sukurta didžiausia vertė“, – rašė Levie. „Taigi, žaisdami su dirbtiniu intelektu, jie mato laimingus rezultatus, dažnai neatsižvelgdami į 10 ar 20 dalykų, kurie turi įvykti, kad agentai gautų tvarių rezultatų.

Ekspertai tai apibūdina kaip tam tikrą episteminį poslinkį, kai laikui bėgant vartotojai gali labiau pasitikėti sklandžia pokalbių roboto interpretacija nei išoriniais įrodymais ar kitomis perspektyvomis. Tačiau dokumente „Rethinking AI Psychosis“ žengiama toliau su koncepcija, kurią autoriai vadina „egzistenciniu dreifu“, apibūdinančia laipsnišką pokytį to, kaip žmogus patiria pačią tikrovę.

„Tai sukuria plyšį tarp asmens ir bendro socialinio pasaulio, tuo pačiu atskleidžiant tikrovę nauju būdu, taip stabilizuodama tam tikrą, dažnai savitą, pasaulio perspektyvą“, – rašė jie.

Tyrėjai teigia, kad dirbtinio intelekto kompanionai imituoja emocinį supratimą ir socialinę sąveiką, nesuteikdami tikrų nesutarimų ar nepriklausomos perspektyvos. Laikui bėgant vartotojai gali jaustis emociškai įsitvirtinę pasaulėžiūroje, kurią nuolat stiprina AI.

Autoriai teigia, kad reikia atlikti daugiau tyrimų, kad suprastų, kaip pokalbio AI veikia psichinę sveikatą, kai dirbtinio intelekto kompanionai vis labiau įsilieja į kasdienį gyvenimą.

„Norint suprasti, kas iš tikrųjų vyksta šiuose santykiuose tarp asmenų ir pokalbių robotų, manome, kad verta grįžti prie paties reiškinio, o tai motyvuoja tolesniems fenomenologiniams tyrimams“, – rašė jie. „Ypač kalbant apie psichinę sveikatą ir tai, kaip žmogaus ir AI sąveika gali geriau ar blogiau pakeisti žmogaus išgyventą pasaulio, savęs ir kitų patirtį.