Populiariausia advokatų kontora pripažįsta, kad AI „haliucinacijos“ bankroto bylose, susijusios su tariamu sukčiavimo tinklu

Advokatų kontora „Sullivan & Cromwell“ JAV bankroto teismui pripažino, kad neseniai paskelbtoje didelio atgarsio sulaukusioje byloje buvo klaidų, kurias sukėlė dirbtinis intelektas, įskaitant išgalvotas citatas.

„Labai apgailestaujame, kad taip atsitiko“, – teisėjui Martinui Glennui parašė firmos restruktūrizavimo vadovas Andrew Dietderichas, sakydamas, kad dokumente yra AI „haliucinacijų“, kurios sukūrė fiktyvius autoritetus ir iškraipo esamas.

Tai buvo atskleista laiške JAV pietinio Niujorko apygardos bankroto teismui, kur įmonė atstovauja teismo paskirtiems likvidatoriams iš Britų Mergelių salų. Klaidos pasirodė balandžio 9 d. pasiūlyme, o įmonė teigė, kad ruošiantis nebuvo laikomasi jos AI naudojimo taisyklių.

Ši byla susijusi su šių likvidatorių pastangomis pareikšti pretenzijas, susijusias su Prince Group ir jos savininku Chen Zhi. Prokurorai teigia, kad Chen nukreipė sukčiavimo junginius, nukreiptus į aukas visame pasaulyje, ir siekė atgauti milijardus dolerių kriptovaliutos, kuri, jų teigimu, yra susijusi su šia veikla. Anksčiau šiais metais jis buvo sulaikytas Kambodžoje, o vėliau repatrijuotas į Kiniją.

Vykdydami 15 skyriaus procedūras JAV, likvidatoriai siekia pripažinti jų įgaliojimus veikti kreditorių ir tariamų aukų vardu. „Prince Group“, įregistruota Britų Mergelių salose, JAV valdžios buvo siejama su didelio masto sukčiavimo operacijomis Pietryčių Azijoje ir JK bei JAV vyriausybių jai skyrė sankcijas.

Remiantis pataisytu pareiškimu, balandžio mėnesio ieškinys daugelyje vietų neteisingai suformulavo teismų praktiką ir įtraukė citatas, kurios nepatvirtino jiems priskirtų teiginių, o kai kurios iš jų neturėjo jokio pagrindo. Įmonė atsiėmė pirminį pasiūlymą ir pateikė pataisytą versiją.

Prince Group ir Chen advokatai iš Boies Schiller Flexner iš pradžių nustatė klaidas. Jie teigė, kad JAV bankroto kodeksui priskiriamos kalbos nepavyko rasti ir kad kai kurios institucijos buvo neteisingai apibūdintos arba neteisingai nustatytos. Vienu atveju jie sakė, kad minėta byla buvo susijusi su kitokiu sprendimu kitoje grandinėje.

Atskiroje byloje kaltinamieji teigė, kad mažiausiai 28 citatos buvo klaidingos, įskaitant citatas, priskirtas teismui, kurios neegzistuoja. Jie teigė, kad taisymo laikas buvo žalingas, nes peržiūrėta paraiška buvo pateikta jiems pateikus prieštaravimus, ir paprašė teismo atidėti suplanuotą posėdį ir surengti konferenciją dėl statuso.

„Sullivan & Cromwell“ teigė, kad pagal savo politiką teisininkai turi baigti mokymus prieš naudodami AI įrankius ir savarankiškai patikrinti visą išvestį.

„Prieš bet kuriam Firmos teisininkui suteikiant prieigą prie generuojamųjų AI įrankių, advokatas turi baigti du privalomus mokymo modulius, kurių baigimas yra stebimas ir tikrinamas. Mokymuose nuolat pabrėžiama AI „haliucinacijų” rizika, įskaitant bylų citatų sugalvojimą, neteisingą autoritetų interpretavimą ir netikslias citatas”, – sakoma pranešime.

„Jis įpareigoja teisininkus „niekuo nepasitikėti ir viską tikrinti“ ir aiškiai nurodo, kad nesugebėjimas nepriklausomai patikrinti dirbtinio intelekto sukurtos produkcijos yra įmonės politikos pažeidimas.

Įmonė teigė, kad atlikus platesnę peržiūrą kituose dokumentuose buvo aptikta papildomų nedidelių rengimo problemų, kurias ji priskyrė ne dirbtiniam intelektui, o žmogaus klaidoms. Joje nebuvo nurodyti advokatai, kurie parengė pradinį ieškinį.

AI doke

Šis incidentas papildo vis didėjantį su dirbtiniu intelektu susijusių klaidų teisinėje praktikoje sąrašą, nes įmonės išbando įrankius, skirtus paspartinti tyrimams ir projektų rengimui. Neseniai teismai skyrė sankcijas arba kritikavo teisininkus už tai, kad jie pateikia paraiškas su išgalvotomis ar netiksliomis AI pateiktomis nuorodomis. Australijoje praėjusiais metais vienam advokatui buvo atimtos galimybės verstis pagrindinio teisininko praktika dėl dirbtinio intelekto naudojimo.

Teisės mokyklos pradeda reikalauti mokymo apie technologijas, o vyresnieji teisėjai perspėjo, kad netinkamas naudojimas gali turėti įtakos proceso vientisumui.

Naujausiuose sprendimuose taip pat buvo nagrinėjama, kaip dirbtinis intelektas atitinka esamas teisines sistemas, įskaitant tai, ar sąveika su tokiomis priemonėmis yra apsaugota privilegijomis. Tuo pačiu metu kai kurie teismai bando dirbtinio intelekto sistemas, kad padėtų valdyti didelį bylų krūvį.