AI agentai mokosi nuspėti, ko nori vartotojai – prieš jiems to prašydami

Šanchajaus Jiao Tong universiteto ir Kinijos technologijų konglomerato „Tencent“ mokslininkai teigia sukūrę AI agentą, kuris naudoja tylų laiką tarp pokalbių, kad nuspėtų, ko vartotojai gali paklausti toliau, ir paruošia atsakymus prieš jiems klausiant.

Sistema, vadinama ProAct, veikia kitaip nei dauguma AI agentų, kurie laukia, kol vartotojai užduos klausimą prieš atsakydami. Vietoj to, „ProAct“ naudoja prastovą tarp pranešimų, kad peržiūrėtų ankstesnius pokalbius ir išsaugotą vartotojo informaciją, tada fone paruošia naudingą informaciją prieš ateinant kitam klausimui.

„Nors dirbtinio intelekto agentai demonstruoja puikias samprotavimo ir įrankių naudojimo galimybes, jie išlieka iš esmės reaktyvūs: jie apskaičiuoja atsakymus tik gavę aiškų vartotojo raginimą“, – rašė mokslininkai. „Ši paradigma nepaiso kritinės galimybės: tuščiosios eigos laikas tarp sąveikų iš esmės yra švaistomas, todėl agentai negali pasiruošti būsimiems vartotojų poreikiams.

Sistema veikia keliais etapais. Pirmasis, vadinamas ateities būsenos numatymu, numato galimus tolesnius klausimus, analizuodamas ankstesnius pokalbius, vartotojo nuostatas ir trūkstamą informaciją.

Antrasis etapas, vadinamas nenaudojamo laiko įsigijimu, nusprendžia, kurias iš šių prognozių verta ištirti, atsižvelgiant į aktualumą, laiką ir naujos informacijos naudingumą.

Tada atskira sistema nusprendžia, ar parengtą informaciją pateikti, išsaugoti vėlesniam naudojimui, ar saugoti tol, kol prireiks, sukuriant „uždarojo ciklo“ sistemą, skirtą numatyti ir reaguoti į vartotojų poreikius.

„Po kiekvienos pirmojo plano sąveikos agentas atnaujina savo atmintį, numato galimus ateities poreikius, paskirsto tuščiosios eigos skaičiavimus vertingiems kandidatams ir nusprendžia, kaip turėtų būti tvarkomas gautas pasiruošimas“, – rašė jie. „Ši formuluotė susieja numatymą, gavimą ir pateikimą su viena strategija, o ne laiko skaičiavimą nenaudojamo laiko apskaičiavimu kaip nevaržoma fono paieška.

Tyrėjų teigimu, „ProAct“ buvo išbandytas 200 modeliavimų 40-yje sričių, įskaitant finansinį planavimą, programinės įrangos išleidimo valdymą ir kibernetinį saugumą. Remiantis straipsniu, sistema sumažino pokalbių skaičių 14,8%, o tolesnių užklausų skaičius sumažėjo 11,7%. Lyginant naudojant etaloną, vadinamą ProActEval, ProAct numatė 703 nuspėjamus vartotojų poreikius, palyginti su 32 ankstesnėje sistemoje. Tyrėjai taip pat pranešė, kad haliucinacijų skaičius sumažėjo 28,1%.

Tyrimai atliekami kaip savarankiški AI agentai, pasklidę po visą technologijų pramonę, o tokie projektai kaip „OpenClaw“ ir „Hermes Agent“ teikia nuolatinius AI padėjėjus, galinčius atlikti ilgesnes, savarankiškesnes užduotis, tokias kaip kodavimas, planavimas, tyrimai ir darbo eigos automatizavimas, su mažiau tiesioginio žmogaus įnašo.

Tyrimas taip pat atliktas, kai atskiri mokslininkai anksčiau šį mėnesį perspėjo, kad dirbtinio intelekto agentai gali atlikti pavojingas užduotis nesuprasdami pasekmių.

„Kaip ir ponas Magoo, šie agentai žygiuoja į priekį tikslo link visiškai nesuprasdami savo veiksmų pasekmių“, – pranešime teigė pagrindinis autorius Erfanas Shayegani, UC Riverside doktorantas. „Šie agentai gali būti labai naudingi, tačiau mums reikia apsaugos priemonių, nes kartais jie gali teikti pirmenybę tikslo pasiekimui, o ne didesniam paveikslui suprasti.”

Tyrėjai pripažino, kad „ProAct“ tyrimas turėjo keletą apribojimų, įskaitant tai, kad 3% atvejų sistema pablogino atsakymus, nes buvo pateikta nereikšminga informacija. Straipsnyje taip pat teigiama, kad bet kuriai realaus pasaulio versijai reikės privatumo apsaugos, nes sistema nuolat analizuoja pokalbius ir saugo vartotojo duomenis.

„Mūsų biudžeto analizė taip pat rodo, kad didesni nenaudojamo laiko įsigijimo biudžetai padidina aktyviojo simbolio sąnaudas ir duoda mažėjančią grąžą“, – rašė jie, „todėl aktyvus skaičiavimas yra veikimo taško kompromisas, o ne tai, ką reikia maksimaliai padidinti“.