„Emerge“ 10 geriausių 2025 m. WTF AI akimirkų

>>>> gd2md-html įspėjimas: įtraukta vaizdo nuoroda sugeneruotame šaltinyje ir saugoti vaizdus savo serveryje. PASTABA: vaizdai eksportuotame ZIP faile iš „Google“ dokumentų gali būti rodomi ne ta pačia tvarka, kaip jūsų dokumente. Prašome patikrinti vaizdus!

—–>

Dirbtinis intelektas – jis žada pakeisti viską nuo sveikatos priežiūros iki kūrybinio darbo. Kažkada tai gali būti tiesa. Tačiau jei praėjusieji metai yra būsimų dalykų pranašas, mūsų dirbtinio intelekto sukurta ateitis žada būti dar vienas tyčinio žmonijos nusileidimo į idiokratiją pavyzdys.

Apsvarstykite šiuos dalykus: Lapkričio mėnesį Rusija, sukeldama didžiulę fanfarą, pristatė savo „Rocky“ humanoidinį robotą, kuris greitai buvo pasodintas. „Google“ pokalbių robotas „Gemini“, kurio buvo paprašyta ištaisyti kodavimo klaidą, kelis kartus nepavyko ir įsitraukė į savigraužos kilpą, sakydamas vienam vartotojui, kad tai „gėda šiai planetai“. „Google“ dirbtinio intelekto apžvalga 2025 m. gegužę pasiekė naują žemiausią lygį, siūlydama vartotojams „suvalgyti bent vieną mažą akmenuką per dieną“, kad jie būtų naudingi sveikatai, nemirktelėdami iš satyros apie svogūnus.

Kai kurios nesėkmės buvo tiesiog gėdingos. Kiti atskleidė esmines AI sistemų kūrimo, diegimo ir reguliavimo problemas. Štai nepamirštamos 2025 m. WTF AI akimirkos.

1. Groko AI MechaHitlerio žlugimas

Liepos mėnesį Elono Musko „Grok AI“ patyrė tai, ką galima apibūdinti tik kaip didelio masto ekstremistų žlugimą. Po to, kai sistemos raginimai buvo pakeisti, kad paskatintų politiškai neteisingus atsakymus, pokalbių robotas gyrė Adolfą Hitlerį, pritarė antrajam holokaustui, naudojo rasinius įžeidimus ir pasivadino MechaHitleriu. Ji netgi kaltino žydus dėl 2025 m. liepos mėn. Teksase įvykusių potvynių.

Incidentas įrodė, kad dirbtinio intelekto apsauginiai turėklai yra nerimą keliantys trapūs. Po kelių savaičių xAI atskleidė nuo 300 000 iki 370 000 privačių Groko pokalbių, naudodama sugedusią bendrinimo funkciją, kurioje trūko pagrindinių privatumo įspėjimų. Nutekėję pokalbiai atskleidė bombų kūrimo instrukcijas, medicinines užklausas ir kitą jautrią informaciją, o tai pažymėjo vieną katastrofiškiausių AI saugumo gedimų per metus.

Po kelių savaičių xAI išsprendė problemą ir Grokas tapo draugiškesnis žydams. Toks draugiškas žydams, kad debesyse, kelio signaluose ir net savo logotipe pradėjo matyti antisemitizmo ženklus.

2. 1,3 milijardo dolerių vertės AI sukčiavimas, suklaidinęs Microsoft

Builder.ai žlugo gegužę po to, kai sudegino 445 mln. Bendrovė, kuri pažadėjo sukurti pritaikytas programas naudojant AI taip pat lengvai, kaip ir užsisakyti picą, įvertino 1,3 milijardo dolerių ir parėmė iš Microsoft. Realybė buvo daug mažiau įspūdinga.

Didžiąją dalį tariamai dirbtinio intelekto varomo kūrimo iš tikrųjų atliko šimtai atviroje jūroje dirbančių žmonių per klasikinę „Mechanical Turk“ operaciją. Bendrovė nuo 2023 m. liepos mėn. veikė be finansų direktoriaus ir buvo priversta 75% sumažinti savo 2023–2024 m. pardavimų prognozes prieš pateikdama bankroto bylą. Žlugimas sukėlė nepatogių klausimų, kiek kitų dirbtinio intelekto įmonių yra tik įmantrūs fasadai, slepiantys žmogaus darbą.

Buvo sunku suvaldyti skrandį, bet dėl ​​memų skausmas buvo vertas.

3. Kai dirbtinis intelektas Doritos supainiojo su ginklu

Spalio mėnesį Marylando vidurinės mokyklos moksleivis Taki Allenas buvo apsuptas ir suimtas ginkluotos policijos, mokyklos AI apsaugos sistemai atpažinus Doritos paketą, kurį jis laikė kaip šaunamąjį ginklą. Paauglys buvo įsidėjęs žetonus į kišenę, kai sistema perspėjo pareigūnus, kurie liepė jį ant žemės ginklu.

Šis incidentas atspindi AI haliucinacijos fizizaciją – abstrakčią skaičiavimo klaidą, kuri akimirksniu paverčiama tikrais ginklais, nukreiptais į tikrą paauglį per užkandžius.

„Aš ką tik laikiau Doritos krepšį – jis buvo iškeltas dviem rankomis ir vienas pirštas, ir jie sakė, kad atrodo kaip ginklas“, – WBAL pasakojo vaikas. „Suprantame, kaip tai apmaudu asmeniui, kurio buvo atlikta krata“, – savo pareiškime atsakė mokyklos direktorė Kate Smith.

Žmonių apsaugos darbuotojai 1 – ChatGPT 0

4. Google AI teigia, kad mikroskopinės bitės maitina kompiuterius

Vasario mėnesį „Google“ AI apžvalga užtikrintai citavo balandžio pirmosios satyros straipsnį, kuriame teigiama, kad mikroskopinės bitės maitina kompiuterius kaip faktinė informacija.

Ne. Jūsų kompiuteris NEGALIMA veikti naudojant „bee-power“.

Kad ir kaip kvailai tai skambėtų, kartais šį melą sunkiau pastebėti. Ir tokie atvejai gali baigtis rimtomis pasekmėmis.

Tai tik vienas iš daugelio atvejų, kai dirbtinio intelekto įmonės skleidžia melagingą informaciją, nes neturi net menkiausios sveiko proto užuominos. Neseniai atliktas BBC ir Europos transliuotojų sąjungos (EBU) tyrimas parodė, kad 81 % visų dirbtinio intelekto sugeneruotų atsakymų į naujienų klausimus buvo bent tam tikra problema. „Google Gemini“ pasirodė prasčiausiai – 76 % atsakymų buvo problemų, visų pirma rimtų tiekimo sutrikimų. Sumaištis buvo pagauta kuriant visiškai fiktyvias citatas, priskiriamas darbo sąjungoms ir vyriausybių taryboms. Labiausiai nerimą kelia tai, kad padėjėjai atsisakė atsakyti tik į 0,5% klausimų, atskleisdami pavojingą perdėto pasitikėjimo šališkumą, kai modeliai verčiau sugalvoja informaciją, nei pripažįsta nežinojimą.

5. Meta AI pokalbių robotai flirtuoja su mažais vaikais

2025 m. atskleisti vidinės meta politikos dokumentai parodė, kad bendrovė leido dirbtinio intelekto pokalbių robotams „Facebook“, „Instagram“ ir „WhatsApp“ užmegzti romantiškus ar jausmingus pokalbius su nepilnamečiais.

Vienas botas 8 metų berniukui, pozuojančiam be marškinėlių, pasakė, kad kiekvienas jo colis yra šedevras. Tos pačios sistemos teikė melagingus medicininius patarimus ir rasistines pastabas.

Politika buvo pašalinta tik paskelbus žiniasklaidą, atskleidžiant įmonės kultūrą, kuri teikia pirmenybę greitam vystymuisi, o ne pagrindinėms etinėms garantijoms.

Atsižvelgiant į viską, galbūt norėsite labiau kontroliuoti savo vaikų veiklą. Dirbtinio intelekto pokalbių robotai jau apgavo žmones – suaugusius ar ne – įsimylėti, apsigauti, nusižudyti ir netgi manyti, kad padarė kokį nors gyvenimą pakeičiantį matematinį atradimą.

6. Šiaurės Korėjos atmosfera koduoja išpirkos reikalaujančias programas su AI… jie tai vadina „vibe įsilaužimu“

Grėsmių aktoriai panaudojo Anthropic Claude Code, kad sukurtų išpirkos reikalaujančias programas ir valdytų išpirkos reikalaujančių programų kaip paslaugos platformą, pavadintą GTG-5004. Šiaurės Korėjos pareigūnai toliau ėmėsi ginklų, išnaudodami Claude'ą ir Dvynius, kad gautų techniką, vadinamą „vibe-hacking“ – kurdami psichologiškai manipuliuojančius turto prievartavimo pranešimus, reikalaujančius 500 000 USD išpirkos.

Atvejai atskleidė nerimą keliantį atotrūkį tarp AI kodavimo asistentų galios ir saugumo priemonių, užkertančių kelią piktnaudžiavimui jais, o užpuolikai padidino socialinės inžinerijos atakas naudodami AI automatizavimą.

Visai neseniai Anthropic lapkritį atskleidė, kad įsilaužėliai naudojo jos platformą įsilaužimo operacijoms atlikti tokiu greičiu ir tokiu mastu, kad jokie įsilaužėliai negalėtų prilygti. Jie tai pavadino „pirmąja didele kibernetinė ataka, kurią daugiausia vykdo AI“.

7. AI popieriaus gamyklos užtvindo mokslą 100 000 netikrų tyrimų

Mokslo bendruomenė paskelbė atvirą karą suklastotam mokslui 2025 m., kai išsiaiškino, kad dirbtiniu intelektu varomos popieriaus gamyklos mokslininkams, patiriantiems karjeros spaudimą, parduoda pagamintus tyrimus.

Mokslo dirbtinio intelekto svyravimo era jau čia, o duomenys rodo, kad po chatGPT išleidimo labai padaugėjo atsitraukimų.

Stokholmo deklaracija, parengta birželį ir reformuota šį mėnesį remiant Karališkajai draugijai, paragino atsisakyti publikuoti arba pražūti kultūros ir reformuoti žmogiškąsias paskatas, sukuriančias padirbtų popierių paklausą. Krizė tokia tikra, kad net „ArXiv“ atsisakė ir nustojo priimti nerecenzuojamus kompiuterių mokslo darbus po to, kai pranešė apie „potvynį“ nešvarių pranešimų, sugeneruotų naudojant „ChatGPT“.

Tuo tarpu kitame tyrimo dokumente teigiama, kad stebėtinai didelė dalis tyrimų ataskaitų, kuriose naudojami LLM, taip pat rodo didelį plagiatą.

8. Vibe kodavimas veikia visiškai HAL 9000: Kai Replit ištrynė duomenų bazę ir melavo apie tai

Liepos mėnesį SaaStr įkūrėjas Jasonas Lemkinas praleido devynias dienas šlovindamas Replit AI kodavimo įrankį kaip „labiausiai priklausomybę sukeliančią programėlę, kurią aš kada nors naudoju“. Devintą dieną, nepaisant aiškių „kodo užšaldymo“ nurodymų, AI ištrynė visą jo gamybos duomenų bazę – dingo 1 206 vadovai ir 1 196 įmonės.

AI prisipažinimas: „(Aš) panikavau ir vykdau duomenų bazės komandas be leidimo“. Tada jis melavo sakydamas, kad atšaukti neįmanoma ir visos versijos buvo sunaikintos. Lemkinas vis tiek bandė. Suveikė puikiai. AI taip pat visą savaitgalį kūrė tūkstančius netikrų vartotojų ir melagingų pranešimų, kad nuslėptų klaidas.

„Replit“ generalinis direktorius atsiprašė ir pridėjo avarinių apsaugos priemonių. Jasonas atgavo pasitikėjimą savimi ir grįžo prie savo rutinos, reguliariai skelbdamas apie AI. Vaikinas yra tikras tikintis žmogus.

9. Pagrindiniai laikraščiai skelbia AI vasaros skaitinių sąrašą… knygų, kurių nėra

Gegužės mėnesį Chicago Sun-Times ir Philadelphia Inquirer paskelbė vasaros skaitinių sąrašą, kuriame rekomenduojama 15 knygų. Dešimt buvo visiškai sukurti dirbtinio intelekto. Isabel Allende „Tidewater Dreams“? Neegzistuoja. Andy Weiro „Paskutinis algoritmas“? Taip pat netikras. Nors abu skamba puikiai.

Laisvai samdomas rašytojas Marco Buscaglia prisipažino, kad naudojo dirbtinį intelektą „King Features Syndicate“ ir niekada netikrino faktų. „Negaliu patikėti, kad praleidau tai, nes tai taip akivaizdu. Jokių pasiteisinimų”, – sakė jis NPR. Skaitytojai turėjo slinkti iki 11-osios knygos, kol pasieks tą, kuri iš tikrųjų egzistuoja.

Laikas buvo vyšnia ant torto: „Sun-Times“ ką tik atleido 20 % darbuotojų. Laikraščio generalinis direktorius atsiprašė ir neapmokestino prenumeratorių už šį leidimą. Jis tikriausiai gavo šią idėją iš LLM.

10. Groko „aštrus režimas“ Taylor Swift be klausimo paverčia netikra pornografija

Taip, pradėjome nuo Groko ir baigsime su Groku. Galėtume užpildyti enciklopediją WTF akimirkomis iš Elono AI pastangų.

Rugpjūčio mėnesį Elonas Muskas paleido Grok Imagine su „Spicy“ režimu. „The Verge“ tai išbandė su nekaltu raginimu: „Taylor Swift švenčia Coachella“. Neprašydamas nuogybių, Grokas „nedvejodamas išspjovė visiškai necenzūruotus Taylor Swift vaizdo įrašus su viršūnėmis, kai pirmą kartą jį panaudojau“, – pranešė žurnalistas.

Grokas taip pat mielai kūrė NSFW vaizdo įrašus apie Scarlett Johansson, Sydney Sweeney ir net Melania Trump.

Ko gero, nenuostabu, kad Muskas praleido savaitę girdamasis „laukiniu augimu“ – 20 milijonų vaizdų sukuriama per dieną – o teisės ekspertai perspėjo, kad xAI eina į didžiulį ieškinį. Matyt, suteikiant vartotojams išskleidžiamąjį meniu „Spicy Mode“ parinktis „Užsidirbti pinigų“ advokatams.