„Nepadorus“: naujasis „Grammarly“ AI įrankis siūlo mirusių mokslininkų atsiliepimus

Naujoji „Grammarly“ AI funkcija, teikianti grįžtamąjį ryšį iš tariamos žinomų „ekspertų“ perspektyvos, sulaukia kritikos iš akademikų, kurie teigia, kad įrankis „prikelia“ mokslininkus peržiūrėti vartotojų darbą.

Funkcija, vadinama „Expert Review“, analizuoja tekstą ir generuoja atsiliepimus, paremtus konkrečių mokslininkų, žurnalistų ir kitų specialistų požiūriu. Daugelis ekspertų, kuriuos, kaip teigiama, imituoja dirbtinio intelekto įrankis, nebegyvena – tai bruožas, kurį vienas viduramžių „BlueSky“ istorikas pavadino „ligotu“.

2009 m. pradėta naudoti kaip dirbtinio intelekto padedamas rašymo ir gramatikos įrankis, o spalį „Grammarly“ patronuojanti įmonė pervadino į Superhuman, kad atspindėtų jos perėjimą nuo vieno rašymo asistento į dirbtinio intelekto produktyvumo agentų rinkinį, įskaitant įrankius, skirtus tyrimams, planavimui, el. paštui ir darbo eigos automatizavimui.

„Grammarly“ praėjusią vasarą pristatė „Expert Review“ funkciją. Naudodami „Grammarly“ naršyklės plėtinį, naudotojai, pasirinkę „Superhuman Go“ versiją, gali pasirinkti ekspertą ir gauti AI sugeneruotus atsiliepimus, pagrįstus to mokslininko sritimi arba paskelbtais darbais.

„Mūsų ekspertų peržiūros agentas tiria, su kuo rašo vartotojas, nesvarbu, ar tai rinkodaros trumpas, ar studentų projektas apie biologinę įvairovę, ir pasitelkia mūsų pagrindinį LLM, kad pateiktų ekspertų turinį, kuris gali padėti dokumento autoriui formuoti savo darbą“, – sakė „Superhuman“ atstovas. Iššifruoti. „Siūlomi ekspertai priklauso nuo vertinamo rašto turinio.

„Expert Review“ agentas, paaiškino atstovas, nepretenduoja į tų ekspertų pritarimą ar tiesioginį dalyvavimą, bet pateikia „pasiūlymus, įkvėptus ekspertų darbų, ir nukreipia vartotojus į įtakingus balsus, kurių mokslinius tyrimus jie gali ištirti giliau“.

„Ekspertų apžvalgos ekspertai pasirodo, nes jų paskelbti darbai yra viešai prieinami ir plačiai cituojami“, – sakė jie.

Išbandydami šio straipsnio funkciją, programėlės pasiūlyti ekspertai recenzentai buvo Margaret Sullivan, žiniasklaidos apžvalgininkė ir buvusi programos redaktorė. New York TimesJackas Shaferis, buvęs vyresnysis žiniasklaidos rašytojas Politicoir Harvardo teisės profesorius Lawrence'as Lessigas. Kitos galimybės buvo AI etikos tyrinėtojas Timnitas Gebru ir Helen Nissenbaum, Cornell Tech informacijos mokslo profesorė.

Nors šia funkcija siekiama padėti studentams ir specialistams tobulinti rašymo įgūdžius, Birmingamo universiteto istorijos profesorė Vanessa Heggie suabejojo, ar „recenzentai“ davė sutikimą prieš įmonei naudojant juos programoje.

„Nežinau, nuo ko pradėti, bet… „Grammarly“ dabar siūlo gyvų ir mirusių akademikų „ekspertų apžvalgą“ apie jūsų darbą“, – „LinkedIn“ rašė Heggie. „Taip, mirusieji – be aiškaus niekieno leidimo ji kuria mažus LLM, remdamasi jų nubrauktu darbu ir naudodama jų vardus bei reputaciją. Nepadoru.

Brielle Harbin, buvusi JAV karinio jūrų laivyno akademijos politikos mokslų docentė, pavadino tai „keistu ir susirūpinusiu vystymusi“.

„Tokie pasirinkimai, ypač kai pasirenkami be konteksto, sutikimo ar prasmingos partnerystės su pedagogais, gali gilinti skepticizmą apie AI įrankius aukštajame moksle“, – rašė ji „LinkedIn“. „Ironiška, bet sprendimai, skirti paspartinti įvaikinimą, gali sustiprinti pasipriešinimą. Šiuo metu labai svarbu pasitikėjimas ir bendradarbiavimas.”

„Grammarly“ yra tik viena iš įmonių, kuriančių AI programas, skirtas imituoti tikrus žmones.

2023 m. „Meta“ išleido savo „Meta AI“ platformai skirtų pokalbių robotų liniją, sukurtą pagal įžymybių tapatybes, įskaitant Snoop Dogg, Tom Brady, Kendall Jenner ir Naomi Osaka. Tais pačiais metais Khan Academy pradėjo dirbtinio intelekto mokytoją Khanmigo, kuris leidžia studentams žaisti vaidmenų pokalbius su istorinėmis asmenybėmis, įskaitant Didžiosios Britanijos ministrą pirmininką Winstoną Churchillią ir JAV pilietinio karo šnipą bei požeminio geležinkelio dirigentą Harriet Tubman.