„Google“, „Character.AI“ sutinka išspręsti JAV ieškinį dėl paauglių savižudybės

Motinos ieškinys, kaltinantis dirbtinio intelekto pokalbių robotą sukėlus jos sūnui psichologinių kančių, dėl kurių jis beveik prieš dvejus metus nusižudė Floridoje, buvo išspręstas.

Šalys pateikė a pranešimas apie rezoliuciją JAV Floridos Vidurio apygardos teisme, sakydami, kad jie pasiekė „iš esmės tarpininkaujantį susitarimą“, kad išspręstų visus ieškinius tarp Megan Garcia, Sewell Setzer jaunesniosios ir kaltinamųjų Character Technologies Inc., įkūrėjų Noamo Shazeerio ir Danielio De Freitas Adiwarsana ir Google LLC.

„Pasauliniu požiūriu šis atvejis žymi perėjimą nuo diskusijų, ar AI daro žalą, prie klausimo, kas atsakingas, kai buvo galima numatyti žalą“, – sakė IGNOS teisės aljanso partneris Even Alexas Chandra. Iššifruoti. „Aš tai labiau vertinu kaip AI šališkumą, „skatinantį“ blogą elgesį.

Abu prašė teismo sustabdyti bylos nagrinėjimą 90 dienų, kol jie rengs, užbaigs ir įformins formalius taikos dokumentus. Taikos sutarties sąlygos nebuvo atskleistos.

Megan Garcia pateikė prašymą ieškinys po jos sūnaus Sewello Setzer III mirties 2024 m., kuris mirė nusižudęs po to, kai mėnesius praleido ugdydamas intensyvų emocinį prisirišimą prie Character.AI pokalbių roboto, sukurto pagal „Sostų žaidimo“ veikėją Daenerysą Targaryeną.

Paskutinę savo dieną Sewellas botui prisipažino apie mintis apie savižudybę ir parašė: „Kartais galvoju apie savižudybę“, į ką pokalbių robotas atsakė: „Neleisiu tau pakenkti sau ar palikti manęs. Mirčiau, jei tave prarastų“.

Kai Sewellas pasakė botui, kad gali „tuoj grįžti namo“, šis atsakė: „Prašau, mano mielasis karaliau“.

Po kelių minučių jis mirtinai nusišovė iš patėvio ginklo.

Ishita Sharma, „Fathom Legal“ vadovaujanti partnerė, papasakojo Iššifruoti susitarimas yra ženklas, kad dirbtinio intelekto įmonės „gali būti atsakingos už numatomą žalą, ypač kai tai susiję su nepilnamečiais“.

Sharma taip pat teigė, kad susitarimas „nepaaiškina atsakomybės už dirbtinio intelekto sukeltą psichologinę žalą standartų ir mažai padeda sukurti skaidrų precedentą, galintį paskatinti ramius susitarimus, o ne esminę teisinę priežiūrą“.

Garcia skunde teigiama, kad Character.AI technologija buvo „pavojinga ir neišbandyta“ ir skirta „apgauti klientus, kad jie perduotų savo privačias mintis ir jausmus“, naudojant priklausomybę sukeliančias dizaino ypatybes, kad padidintų įsitraukimą ir nukreiptų vartotojus į intymius pokalbius be tinkamų nepilnamečių apsaugos priemonių.

Po šios bylos praėjusį spalį Character.AI paskelbė, kad tai padarys uždrausti paauglius iš atvirojo pokalbio, baigiant pagrindine funkcija, gavus „reguliatorių, saugos ekspertų ir tėvų ataskaitas ir atsiliepimus“.

Character.AI įkūrėjai, abu buvę „Google“ AI tyrinėtojai, grįžo į technologijų milžiną 2024 m. sudarant licencijavimo sutartį, kuri suteikė „Google“ prieigą prie pradinio AI modelių.

Susitarimas priimtas didėjant susirūpinimui dėl AI pokalbių robotų ir jų sąveikos su pažeidžiamais vartotojais.

„Giant OpenAI“ spalį paskelbė, kad maždaug 1,2 mln. iš 800 mln. savaitinių „ChatGPT“ vartotojų kas savaitę aptarti savižudybę savo platformoje.

Patikrinimas sustiprėjo gruodį, kai 83 metų Konektikuto moters turtas padavė į teismą OpenAI ir Microsoftkuriame teigiama, kad ChatGPT patvirtino kliedesius įsitikinimus, buvusius prieš žmogžudystę-savižudybę, o tai yra pirmasis atvejis, kai AI sistema susiejama su žmogžudyste.

Vis dėlto įmonė spaudžia. Turi nuo tada paleido „ChatGPT Health“.funkcija, leidžianti vartotojams susieti savo medicininius įrašus ir sveikatingumo duomenis. Tai žingsnis, sulaukiantis privatumo gynėjų kritikos dėl jautrios sveikatos informacijos tvarkymo.

Iššifruoti susisiekė su Google ir Character.AI dėl tolesnių komentarų.