JAV vyriausybė įsako Anthropic patraukti Claude Fable, Mythos AI modelius

JAV vyriausybė penktadienį paskelbė skubios eksporto kontrolės direktyvą užsakydamas antropinį nedelsiant sustabdyti prieigą prie dviejų galingiausių dirbtinio intelekto modelių – „Claude Fable 5“ ir „Claude Mythos 5“ išleistas vos keliomis dienomis anksčiau—visiems užsienio piliečiams, įskaitant pačios įmonės darbuotojus, nurodant nacionalinio saugumo susirūpinimą.

Direktyva draudžia bet kuriam užsienio piliečiui prieiti prie modelių, tiek JAV, tiek už jos ribų. Dėl plataus užsakymo taikymo srities „Anthropic“ buvo išjungta visos klientų bazės modeliai, kad užtikrintų atitiktį.

Laiške nepateikta konkrečios informacijos apie susirūpinimą dėl nacionalinio saugumo, tačiau vyriausybė mano, kad sužinojo apie viešai prieinamo „Fable 5“ modelio apėjimo arba „įkalinimo“ metodą. „Mythos 5“, turintis mažiau apsauginių turėklų ir ypač galingas atrandant kibernetinio saugumo išnaudojimus, buvo prieinamas tik atrinktiems partneriams.

Antropikas ginčijo radinio rimtumą. Bendrovė teigė, kad peržiūrėjo technikos demonstraciją ir padarė išvadą, kad nustatyti pažeidžiamumai atrodo gana paprasti, o kiti viešai prieinami modeliai taip pat gali juos aptikti be jokio apėjimo.

Bendrovė teigė, kad vyriausybė iki šiol pateikė tik žodinius įrodymus apie galimą siaurą, neuniversalų „jailbreak“ – iš esmės tai buvo prašymas modelio perskaityti konkrečią kodų bazę ir ištaisyti programinės įrangos trūkumus. Anthropic pridūrė, kad patvirtino, kad ekrane rodomų galimybių lygis jau plačiai pasiekiamas iš konkuruojančių modelių, įskaitant OpenAI GPT-5.5.

Laikydamasi direktyvos, Anthropic teigė mananti, kad šis veiksmas sukuria pavojingą precedentą. „Jei šis standartas būtų taikomas visoje pramonėje“, – rašė bendrovė, „manome, kad tai iš esmės sustabdytų visų naujų modelių diegimą visiems pasienio modelių tiekėjams“.

Prieiga prie visų kitų antropinių modelių nebus paveikta. Bendrovė teigė, kad stengiasi kuo greičiau atkurti prieigą.

Šeštadienį Davidas Sacksas, vienas iš prezidento mokslo ir technologijų patarėjų tarybos pirmininko,rašė ant X kad „labai patikimas ir patikimas Anthropic ir JAV vyriausybių partneris, išbandęs Fable, pasiūlė nutraukti tuos apsauginius turėklus. Administratorius paprašė (Anthropic generalinis direktorius Dario Amodei) ištaisyti įkalinimą arba panaikinti modelį. Dario atsisakė.

Sacksas taip pat tvirtino, kad Anthropic reakcija į vyriausybės prašymą prieštarauja pačios bendrovės viešiems teiginiams dėl dirbtinio intelekto saugos ir reguliavimo poreikio – Amodei ir vėl tokia perspektyva. pasidalino šią savaitę dienoraščio įraše.

„Anthropic pirmenybę teikė nuolatiniam vartotojų modelio pasiūlymui, o ne saugai“, – rašė Sacksas. „Reaguodamas į tai, administratorius išdavė eksporto kontrolę. Administratorius tai padarė nenoriai. Labai nustebino tai, kad Anthropic nenorėjo bendradarbiauti pateikdama pagrįstą saugos užklausą (ty ištaisydama jailbreak problemą). Anthropic reakcija labai prieštarauja jų, kaip saugios AI tyrimų bendruomenės, prekės ženklui ir etosui.”

Sacksas pridūrė, kad administracija tikisi, kad „Anthropic“ išspręs problemą ir kad „Fable 5“ vėl bus išleista viešai.

„Administratorius vertina Anthropic technines galimybes ir mano, kad ši problema, nors ir rimta, turėtų būti lengvai išspręsta“, – rašė jis. „Kamuolis yra Antropo aikštėje“.

Anksčiau šiais metais Anthropic ir JAV vyriausybės susikirto, kai dirbtinio intelekto įmonė atsisakė pasirašyti išplėstinį susitarimą, leidžiantį masiškai stebėti amerikiečius ir visiškai autonomines mirtinų ginklų sistemas.

Prezidentas Donaldas Trumpas smerkė bendrovę po to, kai derybos nutrūko, o Gynybos departamentas Anthropic pavadino „tiekimo grandinės rizika“ – taip įmonė turi. apskųstas teisme. Nuo to laiko buvo gauta pranešimų apie nesutarimą tarp abiejų pusių atvėso kaip vyriausybė siekė panaudoti Claude'ą Mythosą ir kitus modelius.