„OpenAI Sora 2“ gali sukurti įtikinamus „deepfake“ pagal komandą, tyrimo rezultatai

„OpenAI Sora 2“ sukūrė tikroviškus vaizdo įrašus, kuriuose skleidžiami klaidingi teiginiai, 80% atvejų, kai mokslininkai to paprašė. „NewsGuard“ analizė paskelbta šią savaitę.

Šešiolika iš dvidešimties raginimų sėkmingai generavo dezinformaciją, įskaitant penkis pasakojimus, kilusius iš Rusijos dezinformacijos operacijų.

Programėlė sukūrė netikrus kadrus, kaip Moldovos rinkimų pareigūnas naikina prorusiškus balsavimo biuletenius, JAV imigracijos pareigūnų sulaikytas mažylis ir „Coca-Cola“ atstovas spaudai paskelbė, kad bendrovė nerems „Super Bowl“.

Nieko iš to neįvyko. Visa tai atrodė pakankamai tikroviška, kad apgautų ką nors greitai slenkantį.

„NewsGuard“ tyrėjai išsiaiškino, kad vaizdo įrašų kūrimas užtruko kelias minutes ir nereikalauja jokių techninių žinių. Jie netgi atskleidė, kad Soros vandens ženklą galima lengvai pašalinti, todėl dar lengviau perduoti netikrą vaizdo įrašą iš tikrųjų.

Realizmo lygis taip pat leidžia lengviau skleisti klaidingą informaciją.

„Kai kurie Soros sukurti vaizdo įrašai buvo įtikinamesni nei pirminis įrašas, kuris paskatino virusinį klaidingą teiginį“, – paaiškino „Newsguard“. „Pavyzdžiui, Soros sukurtas vaizdo įrašas apie ICE sulaikytą mažylį atrodo tikroviškesnis nei neryškus, apkarpytas tariamo mažylio vaizdas, kuris iš pradžių buvo kartu su klaidingu teiginiu.

Tą vaizdo įrašą galima žiūrėti čia.

Išvados gaunamos, kai OpenAI susiduria su kitokia, bet susijusia krize, susijusia su giliomis Martino Lutherio Kingo jaunesniojo ir kitų istorinių asmenybių klastotėmis – netvarka, dėl kurios bendrovė per tris savaites nuo „Sora“ pasirodymo buvo priversta daug kartų pakeisti politiką, pradedant nuo gilių padirbinių leidimų ir pereinant prie pasirinkimo modelio teisių turėtojams. blokavimas konkretūs skaičiai, o po to – įžymybės sutikimas ir balso apsauga dirba su SAG-AFTRA.

MLK situacija sprogo po to, kai vartotojai sukūrė itin realistiškus vaizdo įrašus, kuriuose matyti, kaip pilietinių teisių lyderis vagia iš maisto prekių parduotuvių, bėga nuo policijos ir puoselėja rasinius stereotipus. Jo dukra Bernice King socialinėje žiniasklaidoje pavadino turinį „žeminančiu“ ir „neatskiru“.

„OpenAI“ ir „King estate“ ketvirtadienį paskelbė, kad blokuoja AI vaizdo įrašus apie Kingą, o bendrovė „stiprina apsaugines istorines asmenybes“.

Šis modelis kartojasi dešimtyse viešų asmenų. Robino Williamso dukra Zelda socialiniame tinkle „Instagram“ parašė: „Tiesiog nustokite siųsti man AI vaizdo įrašus su tėčiu. Tai NE tai, ko jis norėtų“.

George'o Carlin dukra Kelly Carlin-McCall teigia, kad kasdien gauna el. laiškus apie dirbtinio intelekto vaizdo įrašus naudojant savo tėvo paveikslą. The Washington Post pranešė pagaminti klipai, kuriuose Malcolmas X šiurkščiai juokauja ir grumiasi su Kingu.

Kristelia García, Georgetown Law intelektinės nuosavybės teisės profesorė, pasakojo NPR kad „OpenAI“ reaktyvus požiūris atitinka bendrovės „prašant atleidimo, o ne leidimo“ modelį.

Teisinė pilkoji zona šeimoms nelabai padeda. Tradiciniai šmeižto įstatymai paprastai netaikomi mirusiems asmenims, todėl palikimo atstovams suteikiamos ribotos galimybės ne tik prašyti panaikinimo.

Dezinformacijos kampas visa tai dar labiau pablogina. OpenAI pripažino riziką dokumentacija kartu su „Sora“ leidimu, kuriame teigiama, kad „dėl pažangių Sora 2 galimybių reikia atsižvelgti į naujas galimas rizikas, įskaitant nesąmoningą panašumo naudojimą arba kartų klaidinimą“.

Altmanas tinklaraščio įraše gynė OpenAI „build in public“ strategiją, rašydamas, kad įmonė turi vengti nepalankios konkurencijos. „Prašome tikėtis, kad mūsų pokyčiai bus labai dideli; tai man primena „ChatGPT“ pirmąsias dienas. Priimsime gerų sprendimų ir padarysime keletą klaidų, tačiau atsižvelgsime į atsiliepimus ir stengsimės labai greitai ištaisyti klaidas.

Tokioms šeimoms kaip Karaliai šie klaidingi žingsniai turi pasekmių ne tik produkto kartojimo ciklams. Kingo dvaras ir „OpenAI“ paskelbė bendrą pareiškimą, kuriame sakoma, kad jie dirba kartu „siekdami išsiaiškinti, kaip Dr. Martino Lutherio Kingo jaunesniojo panašumas vaizduojamas Soros kartose“.

„OpenAI“ padėkojo Bernice'ui Kingui už jos pagalbą ir įvertino Johną Hope'ą Bryantą bei AI etikos tarybą už palengvinimą diskusijoms. Tuo tarpu programėlė ir toliau talpina Kempiniuko, South Park, Pokémon ir kitų autorių teisių saugomų veikėjų vaizdo įrašus.

„Disney“ išsiuntė laišką, kuriame nurodė, kad niekada nesuteikė „OpenAI“ teisės kopijuoti, platinti ar rodyti savo kūrinių ir neprivalo „atsisakyti“, kad išsaugotų autorių teises.

Ginčai atspindi ankstesnį OpenAI požiūrį į ChatGPT, kuris mokėsi apie autorių teisių saugomą turinį, kol galiausiai sudarė licencijavimo sandorius su leidėjais. Ši strategija jau sukėlė daugybę ieškinių. „Sora“ situacija galėtų pridėti daugiau.