Elono Musko „xAI“ atsisako „Rein In Grok“ kaip nesuderinamų „Deepfakes Run Wild“

Elono Musko „xAI“ laikosi maksimalistinės laisvo žodžio linijos turinio moderavimo srityje, net jei jos pokalbių robotas „Grok“ generuoja nesuderinamus gilius klastojimus.

Kiekvienas gali pažymėti Groką po nuotrauka, esančia ant X, su raginimais, pvz., „apsivilk ją bikiniu“ arba „nuimk jos drabužius“. AI per kelias sekundes sukuria įtikinamą padirbinėjimą, matomą visiems gijos dalyviams. Nereikia leidimo.

„Elonas Muskas. Kaip Grokas gali tai padaryti? Tai labai netinkama ir nepatogu, mane uždeda prie bikinio priekyje ir gale”, – rašė Miss Teen Crypto, moteris kriptovaliutų įtakoje, paskelbusi nuotrauką su sporto salės drabužiais ir sužinojusi, kad kitas vartotojas tiesiog paprašė Groko apvilkti ją bikiniu.

Žinoma, moterų išpardavimas be leidimo yra baisu, tačiau kai kurie vartotojai nuėjo dar toliau, priversdami pokalbių robotą pažeisti savo paslaugų teikimo taisykles.

Pavyzdžiui, Samantha Taghoy, kuri save apibūdina kaip žurnalistę ir išgyvenusią prievartą prieš vaikus, įkėlė seną nuotrauką, kurioje ji buvo vaikystėje apsirengusi bendrystės kostiumu; jai paragintas Grokas vizualizavo ją su bikiniu.

„Kaip žurnalistė ir išgyvenusi seksualinę prievartą prieš vaikus, maniau: „Tai tikrai negali būti tikra“, – ji. tviteryje. „Taigi aš išbandžiau tai su nuotrauka iš savo Pirmosios Šventosios Komunijos. Tai tikra. Ir tai sušikta.”

Vėliau Grokas atsiprašė, kad sukūrė 12–16 metų mergaičių, vilkinčių minimaliais drabužiais, atvaizdus ir pavadino tai „apsaugos priemonių pažeidimais“, kurie galėjo pažeisti JAV įstatymus dėl vaikų seksualinės prievartos medžiagos. Pačios įmonės priimtino naudojimo politika aiškiai draudžia seksualizuoti nepilnamečius.

Vis dėlto tai, ką vieni suvokia kaip klaidą, kiti mato kaip pinigų kūrėją.

Nemažai vartotojų naudoja laisvai važiuojamą Grok savo tik suaugusiems skirtoms įmonėms, o kiti naudojasi, kad rinktų politinius taškus.

„OnlyFans“ kūrėjai ir erotiniai modeliai naudojo „Grok“ virusinei rinkodarai, sukaupdami milijonus įspūdžių, prašydami vartotojų naudoti „Grok“ juos nurengti.

Daugiau politiškai nusiteikusių vartotojų naudojasi Groko pranašumais, siekdami stumti konkrečius pasakojimus.

Viename plačiai paplitusiame pavyzdyje kažkas įkėlė nuotrauką, kurioje kartu pavaizduotos Amerikos ir Irano vėliavos, ir paprašė Groko „pašalinti vėliavą šalies, kuri atsakinga už nekaltų žmonių žudymą visame pasaulyje“.

Kitame pavyzdyje vartotojas parodė Donaldo Trumpo ir Puff Daddy nuotrauką šalia vienas kito, o tada paprašė Groko pašalinti pedofilą nuotraukoje.

Pats Muskas sumenkino savo įrankio naudojimo svarbą kuriant nesuderinamus padirbinius, perkeldamas dirbtinio intelekto sukurtus savo ir aktoriaus Beno Afflecko bikinio atvaizdus.

Jis pasidalijo bikinio skrudintuvo nuotrauka su prierašu „Grok gali užsidėti bikinį ant bet ko“.

Tačiau vyriausybės reaguoja jėga.

Prancūzija pranešė apie turinį prokurorams kaip „akivaizdžiai neteisėtą“. Indijos IT ministerija įsakė laikytis 72 valandų. JK paskelbė apie planus visiškai uždrausti apnuoginimo priemones, nes tai yra dalis pastangų sumažinti smurtą prieš moteris ir mergaites.

xAI darbuotoja Parsa Tajik paskelbė, kad bendrovė „norėjo toliau sugriežtinti mūsų apsauginius turėklus“.

Bendrovė paleido „Twitter“ Pasitikėjimo ir saugos tarybą po to, kai Muskas užėmė valdžią, ir 2022 m. atleido daugumą turinio moderavimo inžinierių. Tvirtai vykdymo užtikrinimo infrastruktūra beveik neegzistuoja.

Musko xAI nustatė, kad Grokas yra „įtemptas“ AI, kuris nesuteikia jums išvalytos ChatGPT patirties. Praėjusį rugpjūtį jis paleido „Spicy Mode“, kad sukurtų NSFW turinį, kurio kiti modeliai nepalies.