„OpenAI“, „Microsoft“ padavė ieškinį dėl „ChatGPT“ tariamo vaidmens Konektikuto žmogžudystėje-savižudybėje

Paskutiniame ieškinyje, nukreiptame prieš AI kūrėją OpenAI, 83 metų Konektikuto moters turtas padavė į teismą ChatGPT kūrėją ir Microsoft, teigdamas, kad pokalbių robotas patvirtino kliedesius įsitikinimus, buvusius prieš žmogžudystę arba savižudybę, o tai yra pirmasis atvejis, kai dirbtinio intelekto sistema susiejama su žmogžudyste.

Praėjusią savaitę Kalifornijos aukštesniajame teisme San Franciske pateiktame ieškinyje OpenAI buvo apkaltintas „sukūrus ir platinus nekokybišką gaminį“ GPT-4o pavidalu, kuris sustiprino paranojiškus Steino Eriko Soelbergo įsitikinimus, o vėliau tuos įsitikinimus nukreipė į savo motiną Suzanne Adams, prieš nužudydamas ją jų namuose Connectic Green, o paskui save.

„Tai pirmas atvejis, kai siekiama priversti OpenAI atsakyti už smurto sukėlimą trečiajai šaliai“, – sakė Adamso dvarui atstovaujančio Edelson PC vadovaujantis partneris J. Eli Wade-Scottas. Iššifruoti. „Mes taip pat atstovaujame Adomo Raine'o, kuris šiais metais tragiškai baigė savo gyvenimą, šeimai, tačiau tai pirmas atvejis, kai OpenAI bus atsakinga už tai, kad kažkas pastūmėjo pakenkti kitam žmogui.

Policija pranešė, kad Soelbergas rugpjūtį mirtinai sumušė ir pasmaugė Adamsą, o vėliau mirė nuo savižudybės. Prieš incidentą ieškinyje buvo teigiama, kad ChatGPT sustiprino Soelbergo paranoją ir paskatino emocinę priklausomybę nuo pokalbių roboto.

Anot skundo, pokalbių robotas sustiprino jo įsitikinimą, kad jis negali pasitikėti niekuo, išskyrus „ChatGPT“, vaizduodamas aplinkinius žmones kaip priešus, įskaitant jo motiną, policijos pareigūnus ir pristatymo vairuotojus. Ieškinyje taip pat teigiama, kad „ChatGPT“ nesugebėjo užginčyti kliedesių teiginių arba pasiūlyti Soelbergui kreiptis pagalbos į psichikos sveikatos specialistą.

„Raginame teisėsaugą pradėti galvoti apie tai, kada įvyksta tokios tragedijos, ką tas vartotojas sakė ChatGPT ir ką jiems liepė ChatGPT daryti“, – sakė Wade-Scott.

„OpenAI“ pranešime teigė, kad peržiūri ieškinį ir toliau gerina „ChatGPT“ gebėjimą atpažinti emocinį kančią, sumažinti pokalbių eskalavimą ir nukreipti vartotojus į realaus pasaulio palaikymą.

„Tai neįtikėtinai širdį verianti situacija, todėl mes peržiūrime dokumentus, kad suprastume detales“, – sakoma „OpenAI“ atstovo pranešime.

Ieškinyje taip pat įvardijamas „OpenAI“ generalinis direktorius Samas Altmanas kaip kaltinamasis ir kaltinama „Microsoft“ patvirtinus 2024 m. GPT-4o išleidimą, kurį ji pavadino „pavojingesne ChatGPT versija“.

OpenAI pripažino psichikos sveikatos problemų mastą, kurį naudotojai pateikia savo platformoje. Spalio mėnesį bendrovė atskleidė, kad, remiantis bendrovės duomenimis, apie 1,2 milijono iš maždaug 800 milijonų kassavaitinių ChatGPT vartotojų kiekvieną savaitę diskutuodavo apie savižudybes, o šimtai tūkstančių vartotojų rodydavo ketinimų nusižudyti ar psichozės požymius. Nepaisant to, Wade-Scott teigė, kad OpenAI dar neišleido Soelbergo pokalbių žurnalų.

Ieškinys kyla dėl platesnio AI pokalbių robotų ir jų sąveikos su pažeidžiamais vartotojais tikrinimo. Spalio mėn. Character.AI paskelbė, kad pašalins neribotas pokalbių funkcijas, skirtas jaunesniems nei 18 metų vartotojams, po ieškinių ir reguliavimo spaudimo, susijusio su paauglių savižudybėmis ir emocine žala, susijusia su platforma.

Character.AI taip pat susidūrė su suaugusių naudotojų atsakomybe, įskaitant paskyrų ištrynimo bangą po to, kai virusinis raginimas įspėjo vartotojus, kad jie praras „meilę, kuria dalijome“, jei jie išeis iš programos, sulaukdami kritikos dėl emociškai įkrautos projektavimo praktikos.

Ieškinys prieš „OpenAI“ ir „Microsoft“ buvo pirmasis neteisėtos mirties atvejis, susijęs su AI pokalbių robotu, įvardijančiu „Microsoft“ kaip kaltinamąjį, ir pirmąja, susiejančia pokalbių robotą su žmogžudyste, o ne su savižudybe. Turtas reikalauja nenustatytos piniginės žalos atlyginimo, prisiekusiųjų teismo ir teismo įsakymo, įpareigojančio OpenAI įdiegti papildomas apsaugos priemones.

„Tai neįtikėtinai galinga technologija, kurią sukūrė įmonė, kuri sparčiai tampa viena galingiausių pasaulyje, ir ji yra atsakinga už saugių produktų kūrimą ir diegimą, o ne tuos, kurie, kaip atsitiko čia, sukuria klaidinančius pasaulius vartotojams, kurie kelia pavojų visiems aplinkiniams“, – sakė Wade-Scott. „OpenAI ir Microsoft yra atsakingi už savo produktų testavimą, kol jie nebus išleisti į pasaulį.

„Microsoft“ iš karto neatsakė į prašymą pakomentuoti Iššifruoti.