„Demoniškas“: dirbtinio intelekto programa, leidžianti vartotojams „kalbėtis“ su mirusiais artimaisiais, susiduria su atsaku

Dirbtinio intelekto startuolis, kurį bendrai įkūrė buvęs „Disney Channel“ aktorius, pristatė mobiliąją programėlę, leidžiančią vartotojams kurti interaktyvias mirusių artimųjų skaitmenines kopijas, sukeldamas greitą pasmerkimą internete ir iš naujo nagrinėjantį klestintį „sielvarto technologijų“ sektorių.

„2Wai“, kurią įkūrė Calum Worthy, žinomas kaip Dez vaizdavimas Disnėjaus seriale „Austin & Ally“ nuo 2011 m. iki 2016 m., ir prodiuseris Russellas Geyseris išleido „iOS“ beta versiją lapkričio 11 d. Programos „HoloAvatar“ funkcija generuoja pokalbio vaizdo pseudoportretus, pokalbius realiu laiku, pokalbius, įkeltą tekstą per tris minutes. 40 kalbų.

Nors pardavinėjama kaip palikimo išsaugojimo priemonė, mirusiojo poilsio galimybė dominavo antraštėse, todėl galima palyginti su distopiniu 2013 m. Juodas veidrodis serija „Būk teisinga“, kurioje sielvartaujanti našlė pagyvina savo velionio vyro skaitmeninį vaiduoklį.

Reklaminis vaizdo įrašas, kurį Worthy paskelbė savo X paskyroje su 1,2 milijono sekėjų, sulaukė 22 milijonų peržiūrų ir daugiau nei 5800 atsakymų. Jame vaizduojama nėščia moteris, kuri vaizdo įrašu skambina savo velionės motinos AI pramogai, kad gautų patarimo, o paskui greitai pereina prie avataro, skaitančio pasakas prieš miegą savo naujagimiui, o vėliau konsultuojančią savo suaugusią anūką, kurį vaidina Worthy.

„O kas, jei mylimi žmonės, kurių netekome, galėtų tapti mūsų ateities dalimi? klipas klausia. „Su 2Wai trys minutės gali trukti amžinai. Worthy tęsė: „2wai mes kuriame gyvą žmonijos archyvą, po vieną istoriją.

Mechanika ir kilmė

„HoloAvatars“ veikia naudojant „2Wai“ patentuotą „FedBrain“ technologiją, kuri apdoroja sąveiką įrenginyje, kad užtikrintų privatumą ir apribotų atsakymus į vartotojo patvirtintus duomenis, taip sumažinant AI „haliucinacijas“. Programa taip pat palaiko gyvus vartotojus, kurie kuria pseudoportretus, skirtus gerbėjų įsitraukimui ar mokymui – Worthy skaitmeniniai dvyniai dalijasi „Disney“ anekdotų užkulisiais.

Šiuo metu nemokama beta versija, ji pereis prie pakopinio prenumeratos modelio, kurio kaina neskelbiama, bet tikėtina, kad ji bus 10–20 USD per mėnesį, remiantis panašiomis AI paslaugomis.

Šis projektas siejamas su 2023 m. SAG-AFTRA streiku, kai atlikėjai protestavo prieš neteisėtus dirbtinio intelekto panašumus.

„Pastaruosius 20 metų dirbdamas aktoriumi, rašytoju ir prodiuseriu, pats patyriau, koks sudėtingas yra užmegzti prasmingus santykius su gerbėjais visame pasaulyje“, – sakė Worthy birželį. „Kalbos barjerai, laiko juostos ir biudžetai riboja galimybę iš tikrųjų prisijungti.

2Wai birželio mėnesį iš neatskleistų investuotojų surinko 5 mln.

Susirūpinimas dėl etikos ir privatumo

Visuomenės reakcija buvo nepaprastai neigiama, X naudotojai smerkė programą kaip „košmarų kurą“, „demonišką“, „distopišką“ ir išnaudojamą sielvarto komercializavimą.

Vienas virusinis atsakymas tai pavadino „vienu blogiausių, psichoziškiausių dalykų, kuriuos aš kada nors mačiau“, teigdamas, kad tai „paverčia žmones psichoziniais“ imituojant praradimą, o ne jį apdorojant. Kitas jį pavadino „ne niekšišku“ ir reikalavo, kad „vaizdo įrašai tai daro“ archyvavimui, o ne AI spėlionėms.

Teisės ekspertai atkreipia dėmesį į tai, kad mirties robotai yra teisinėje ir etinėje pilkojoje zonoje, nes gali būti sukonstruoti be aiškaus mirusiojo sutikimo, atskleidžia gilius tiek mirusiojo, tiek gedinčiojo asmeninius duomenis ir sukuria dviprasmybių dėl skaitmeninio avataro ir su juo susijusių duomenų nuosavybės.

Privatumo įstatymai paprastai saugo gyvus žmones ir nesiūlo pomirtinių apsaugos priemonių arba jų visai nėra, todėl likę gyvi artimieji gali būti pažeidžiami dėl komercinio sielvarto išnaudojimo naudojant prenumeratos modelius ir nereglamentuojamą prieigą prie interviu, balso įrašų ir kitos jautrios medžiagos. Be to, tokių robotų gebėjimas sąveikauti, mokytis ir nukrypti nuo įrašytų duomenų kelia pavojų mirusiojo palikimui ir iššūkius, kaip visuomenė naršo gedulą, atmintį ir prasmingą praradimo uždarymą.

Programoje pateikiami mirusių pseudoportretų pasirinkimo ir šeimos patvirtinimai, tačiau kritikai abejoja vykdymu. „Jūs grobitės giliausiais žmogiškais jausmais ir ieškote būdų, kaip juos panaudoti savo pelnui“, – rašė vienas X vartotojas, pavadinęs kūrėjus „parazitais“.

Investuotojų ir pramonės požiūriai

2Wai finansavimas atspindi atsargų optimizmą dirbtinio intelekto draugystėje, tačiau pinigų gavimas iš sielvarto išlieka „trečiojo bėgio“ niša. Rizikos įmonės vengė panašių startuolių, susidūrusios su etiniais spąstais; Eternal Digital Assets, kapinių ir AI hibridas, praėjusiais metais buvo uždarytas dėl didelio susidomėjimo.

2Wai prisijungia prie perpildytos sielvarto technologijų srities. „HereAfter AI“ (įkurta 2019 m.) iš interviu prieš mirtį kuria „Gyvenimo istorijos avatarus“, pabrėždama sutikimą. „StoryFile“ siūlo interaktyvius vaizdo įrašus iš įrašytų seansų, naudojamų memorialuose, pavyzdžiui, Edo Asnerio; 2024 m. ji pateikė bankroto bylą pagal 11 skyrių, skolinga 4,5 mln.

2017 m. paleista pokalbių roboto paslauga „Replika“ leidžia vartotojams imituoti mirusįjį teksto žinutėmis ar skambučiais, tačiau susidūrė su atsakomybe po to, kai 2023 m. atnaujinimas „nužudė“ suasmenintus robotus ir 2023 m. belgo savižudybę, susijusią su ekologinio nerimo pokalbiais.

Jokios federalinės taisyklės nereglamentuoja pomirtinių skaitmeninių panašumų, tačiau Kalifornijos AB 1836 (pasirašytas 2024 m. rugsėjį) draudžia neleistinas AI kopijas mirusių atlikėjų balsų ar vaizdų audiovizualiniuose kūriniuose be turto sutikimo, už tai skiria baudas iki 10 000 USD arba faktinę žalą. Įstatymų leidėjai tikisi, kad tai ne įžymybės, kurias skatina rinkimų klastojimas.

2Wai ne iš karto atsakė Iššifruoti prašymas komentuoti.