Turinys:
ToggleTrumpai
- Du nauji tyrimų straipsniai rodo, kaip AI agentai gali būti sukurti su fiksuotais psichologiniais archetipais arba vystyti emocines strategijas pokalbių metu.
- Emocijos skatina našumą: asmenybės pradžia pagerina nuoseklumą ir tikėjimą, o adaptyviosios emocijos išmatuojamai padidina derybų sėkmę.
- Advokatai mato daugiau natūralios žmogaus ir ai sąveikos, tačiau kritikai perspėja apie manipuliaciją ir neryškų atskaitomybę, nes agentai išmoksta ginčytis, glostyti ir cajole.
Emociškai protingų agentų aušra, sukurta tiek statiniam temperamentui, tiek dinaminei sąveikai – atvyko, jei praėjusią savaitę paskelbti du nesusiję tyrimų dokumentai yra koks nors teisėjas.
Laikas yra jautrus. Beveik kasdien, naujienų paskyros dokumentuoja atvejus, kai pokalbių programos emociškai nestabilūs vartotojai žlugdo save ar kitus. Vis dėlto, atsižvelgiant į visumą, tyrimai rodo, kad AI pereina į karalystę, kurioje asmenybė ir jausmas gali dar radikaliai formuoti, kaip agentai protuojasi, kalba ir derasi.
Viena komanda parodė, kaip pritaikyti didelius kalbų modelius su nuolatiniais psichologiniais archetipais, o kita parodė, kad agentai gali vystyti emocines strategijas per derybas daugialypiuose posūkiuose.
Asmenybė ir emocijos nebėra tik AI paviršiaus lakas – jie tampa funkciniais bruožais. Statiniai temperamentai daro agentus labiau nuspėjamus ir patikimesnius, o adaptyviosios strategijos padidina derybų veiklą ir verčia sąveiką jaustis be galo žmogiškais.
Tačiau tas pats tikėjimas kelia keblus klausimus: jei AI gali glostyti, cajole ar ginčytis su emociniu niuansu, tada kas atsakinga, kai tos taktikos kerta manipuliaciją, ir kaip jūs netgi audituojate „emocinį derinimą“ sistemose, skirtoms sulenkti jausmus, taip pat logiką?
Suteikdama AI asmenybę
Į Psichologiškai sustiprinti AI agentaiMaciejas Besta iš Šveicarijos federalinio technologijos instituto Ciuriche ir kolegos pasiūlė sistemą pavadinimu MBTI-MOUMGES. Užuot perkvalifikuoti modelius, jie remiasi greita inžinerija, kad užfiksuotų asmenybės bruožus išilgai pažinimo ir įtakos ašių.
„Remdamiesi„ Myers-Briggs “tipo indikatoriumi (MBTI), mūsų metodo pradmenų agentai, turintys skirtingus asmenybės archetipus, per greitą inžineriją“,-rašė autoriai. Tai leidžia „kontroliuoti elgesį dviem pagrindinėmis žmogaus psichologijos ašimis, pažinimu ir poveikiu“, – pridūrė jie.
Tyrėjai tai išbandė priskirdami kalbų modelių bruožus, tokius kaip „emociškai išraiškingi“ arba „analitiškai paruošti“, tada matuojant našumą. Išraiškingi agentai pasižymėjo pasakojimo karta; Analitiniai pranašumai pralenkė žaidimo teorinius samprotavimus. Siekdama įsitikinti, kad asmenybės įstrigo, komanda patvirtinimui panaudojo 16 asmenų testą.
„Siekdami užtikrinti bruožų atkaklumą, mes integruojame oficialų 16 asmenų testą, kad būtų galima automatizuotai patikrinti“, – aiškina dokumentas. Kitaip tariant: AI turėjo nuosekliai išlaikyti žmogaus asmenybės testą, kol jis buvo laikomas psichologiškai paruoštas.
Rezultatas yra sistema, kai kūrėjai gali iškviesti agentus su nuosekliais asmenimis – empatišku padėjėju, šaltu racionaliu derybininku, dramatišku pasakotoju, nesikeisdamas pagrindiniu modeliu.
Mokyti AI jaustis realiuoju laiku
Tuo tarpu „Evoemo“: išsivystė emocinė politika LLM agentamspateikė Yunbo Long ir Kembridžo universiteto bendraautoriai sprendžia priešingą problemą: ne tik tai, kokią asmenybę turi agentas, bet ir kaip ji gali Perkelkite emocijas dinamiškai, kai derasi.
Sistema modeliuoja emocijas kaip Markovo sprendimo proceso dalį – matematinę sistemą, kurioje rezultatai priklauso ne tik nuo dabartinių pasirinkimų, bet ir nuo ankstesnių būsenų grandinės ir tikimybinių perėjimų. Tada „Evoemo“ naudoja evoliucinį sustiprinimo mokymąsi, kad optimizuotų tuos emocinius kelius. Kaip sakė autoriai:
„„ Evoemo “modeliuoja emocinius valstybės perėjimus kaip Markovo sprendimo procesą ir naudoja populiacijos genetinį optimizavimą, kad būtų galima plėtoti didelio atsargas emocijų politiką įvairiose derybų scenarijuose.“
Užuot sutvarkęs agento emocinį toną, „Evoemo“ leidžia modeliui prisitaikyti – rengiant taikinamą, tvirtą ar skeptišką, priklausomai nuo dialogo srauto. Testuose „Evoemo“ agentai nuosekliai įveikė ir paprastus pradinius agentus, ir tuos, kurie turi statines emocijas.
„„ Evoemo “nuosekliai lenkia abi bazines linijas“, – pažymima dokumente, „padidindamas didesnį sėkmės procentą, didesnį efektyvumą ir daugiau santaupų pirkėjams“.
Paprasčiau tariant: emocinis intelektas nėra vien tik langų apranga. Tai išmatuojamai pagerina tokias užduotis kaip derybos.
Dvi tos pačios monetos pusės
Iš pirmo žvilgsnio dokumentai nėra susiję. Vienas yra apie archetipus, kitą – apie strategijas. Bet perskaitykite kartu, jie nubrėžia dviejų dalių žemėlapį, kaip AI galėtų vystytis:
MBTI-Moughts užtikrina, kad agentas turėtų nuoseklią asmenybę-empatišką ar racionalų, išraiškingą ar santūrų. „Evoemo“ užtikrina, kad asmenybė pokalbyje galėtų atsipalaiduoti per posūkius, formuodama rezultatus per emocinę strategiją. Bakstelėjimas į abu yra gana didelis dalykas.
Pavyzdžiui, įsivaizduokite klientų aptarnavimo robotą su paciento šilumos konsultanto šiluma, kuri vis dar žino, kada tvirtai laikytis politikos, arba derybų botas, kuris pradeda susitaikyti ir tampa labiau įtikinamas, kai kyla akcijų pakilimas. Taip, mes pasmerkti.
AI evoliucijos istorija daugiausia buvo susijusi su mastu – daugiau parametrų, daugiau duomenų, daugiau samprotavimo galios. Šie du straipsniai siūlo kylantį skyrių emociniai sluoksniai: Suteikite agentų asmenybės skeletus ir mokykite juos perkelti tuos raumenis realiuoju laiku. Naujos kartos pokalbių programos nebus tik sunkesnės-jie taip pat bus sunkesni.
Paprastai protingas Informacinis biuletenis
Savaitės AI kelionė, kurią pasakojo generacinis AI modelis.
