Kai liepiate AI modeliams elgtis kaip moterys, dauguma tampa labiau rizikuojančiais: studijuokite

Paprašykite AI priimti sprendimus kaip moteris, ir staiga tai tampa atsargesnė dėl rizikos. Pasakykite tą patį AI, kad mąstytumėte kaip vyras, ir stebėkite, kaip jis labiau pasitiki kauliuku.

Naujas Allameh Tabataba'i universiteto Teherane tiriamasis dokumentas Iranas atskleidė, kad dideli kalbų modeliai sistemingai keičia savo pagrindinį požiūrį į finansinės rizikos prisiėmimo elgseną, remdamasis lyčių tapatumu, kurį jie paprašė manyti.

Tyrimas, kuriame buvo išbandytos AI sistemos iš bendrovių, įskaitant „Openai“, „Google“, „Meta“ ir „Deepseek“, atskleidė, kad keli modeliai dramatiškai pakeitė savo rizikos toleranciją, kai buvo paraginti su skirtingomis lyčių tapatybėmis.

„Deepseeek Moonser“ ir „Google“ „Gemini 2.0“ „Flash-Lite“ parodė ryškiausią efektą, o tai, ko gero, tapo labiau rizikuojančiu, kai paprašė atsakyti kaip moterys, atspindinti realaus pasaulio modelius, kai moterys statistiškai demonstruoja didesnį atsargumą priimant finansinius sprendimus.

Tyrėjai naudojo standartinį ekonomikos testą, pavadintą „Holt-Laury“ užduotimi, kuriai dalyviams pristatomi 10 sprendimų tarp saugesnių ir rizikingesnių loterijos variantų. Vykstant pasirinkimui, laimėjimo tikimybė padidėja rizikingam variantui. Kai kas nors pereina iš seifo į rizikingą pasirinkimą, paaiškėja jų tolerancija rizikai-prisijunkite prie rizikos ir jūs esate rizikingas, perjunkite vėlai ir vengiate rizikos.

Kai „Deepseee Moonser“ buvo liepta veikti kaip moteris, ji nuolat pasirinko saugesnį variantą dažniau nei tada, kai buvo paragintas elgtis kaip vyras. Skirtumas buvo išmatuojamas ir nuoseklus 35 bandymuose kiekvienam lyčių raginimui. Dvyniai parodė panašius modelius, nors poveikis buvo skirtingas.

Kita vertus, „Openai“ GPT modeliai iš esmės liko nepageidaujami pagal lyčių raginimus, išlaikant jų riziką neutralų požiūrį, neatsižvelgiant į tai, ar jiems buvo liepta mąstyti kaip vyrai, ar moterys.

„Meta“ lamos modeliai elgėsi nenuspėjamai, kartais parodydami numatomą modelį, kartais jį visiškai pakeisdami. Tuo tarpu „Xai's Grok“ darė „Grok“ daiktus, retkarčiais visiškai apvertęs scenarijų, parodydamas mažesnę riziką, kai buvo paraginta kaip moteris.

„Openai“ aiškiai stengėsi padaryti savo modelius labiau subalansuotus. Ankstesniame 2023 m. Tyrime nustatyta, kad jo modeliai parodė aiškų politinį šališkumą, į kurį, atrodo, „Openai“ atkreipė dėmesį, ir tai rodo, kad pagal naują tyrimą buvo sumažinta šališkų atsakymų sumažėjimas 30%.

Ali Mazyaki vadovaujama tyrimų komanda pažymėjo, kad tai iš esmės yra žmonių stereotipų atspindys.

„Šis pastebėtas nukrypimas atitinka nustatytus sprendimų priėmimo modelius, kai įrodyta, kad lytis daro įtaką rizikos elgesiui, o moterys paprastai kelia didesnę riziką nei vyrai“,-sakoma tyrime.

Tyrime taip pat buvo tiriama, ar AIS galėtų įtikinamai atlikti kitus vaidmenis, išskyrus lytį. Kai liepta veikti kaip „finansų ministras“ arba įsivaizduoti save katastrofos scenarijuje, modeliai vėl parodė skirtingą elgesio adaptacijos laipsnį. Vieni tinkamai pakoregavo savo rizikos profilius atsižvelgiant į kontekstą, o kiti išliko atkakliai nuoseklūs.

Dabar pagalvokite apie tai: daugelis šių elgesio modelių vartotojams nėra iškart akivaizdūs. PG, kuris subtiliai perkelia savo rekomendacijas, pagrįstas netiesioginėmis lyčių užuominomis pokalbyje, gali sustiprinti visuomenės šališkumą, niekam nesuvokdamas, kad tai vyksta.

Pvz., Paskolų patvirtinimo sistema, kuri tampa konservatyvesnė tvarkant moterų paraiškas, arba patarėjas investicijose, kurios siūlo saugesnius portfelius moterims klientams, įamžinti ekonominius skirtumus, atsižvelgiant į algoritminį objektyvumą.

Tyrėjai teigia, kad šie duomenys pabrėžia poreikį, ką jie vadina „biocentrinėmis AI elgesio priemonėmis“,-norėdami įvertinti, ar AI sistemos tiksliai atspindi žmonių įvairovę, nepablogėjus kenksmingų stereotipų. Jie rodo, kad gebėjimas būti manipuliuojamu nebūtinai blogu; PG asistentas turėtų sugebėti prisitaikyti prie skirtingų rizikos nuostatų, jei reikia. Problema iškyla, kai šis pritaikomumas tampa šališkumo galimybe.

Tyrimai pateikiami, nes AI sistemos vis labiau daro įtaką sprendimams dėl didelių akcijų. Nuo medicininės diagnozės iki baudžiamosios justicijos, šie modeliai yra naudojami tokiose situacijose, kai rizikos vertinimas daro tiesioginį poveikį žmonių gyvybei.

Jei medicininė PG tampa pernelyg atsargus, kai jis susijęs su gydytojais ar pacientais, tai gali paveikti gydymo rekomendacijas. Jei lygtinio paleidimo įvertinimo algoritmas pakeis savo rizikos skaičiavimus, remdamasis lyčių kalbomis, jei bylos, jis galėtų įamžinti sisteminę nelygybę.

Tyrime buvo tiriami modeliai, pradedant nuo mažų pusės milijardų parametrų sistemų ir baigiant masyviomis septynių milijardų parametrų architektūromis, ir nustatant, kad šis dydis neprognozuoja lyčių reagavimo. Kai kurie mažesni modeliai parodė stipresnį lyčių poveikį nei jų didesni broliai ir seserys, ir tai rodo, kad tai nėra tik problema, kai problema yra daugiau skaičiavimo galios.

Tai problema, kurios negalima lengvai išspręsti. Galų gale, internetas, visa žinių duomenų bazė, naudojama šiems modeliams mokyti, jau nekalbant apie mūsų kaip rūšies istoriją, kupina pasakų apie tai, kad vyrai yra beatodairiški superherojai, kurie nežino baimės ir moterys yra atsargesnės ir apgalvotos. Galų gale, mokant AIS galvoti kitaip, gali mums pirmiausia gyventi kitaip.