Antropinis generalinis direktorius įspėja, kad AI darosi per galinga – išleisdamas galingą AI

„Anthropic“ generalinis direktorius Dario Amodei trečiadienį pareiškė, kad vyriausybės nebegali dirbtinio intelekto reguliavimo laikyti problema, kurią reikia tirti, ir kad Jungtinėms Valstijoms reikia privalomų saugos reikalavimų galingiausiems dirbtinio intelekto modeliams.

Esė, pavadintoje „Politika dėl AI eksponentinio“, Amodei teigia, kad skaidrumo reikalavimų nebepakanka, ir ragina įpareigoti reguliuoti pasienio AI sistemas.

„AI tobulėja žaibišku tempu – tik per ketverius metus AI modeliai tapo nuo to, kad vos galėjo parašyti nuoseklią kodo eilutę, o didžiosiose AI įmonėse didžiąją kodo dalį rašo“, – rašė Amodei.

Amodei esė paskelbta, kai Anthropic išplečia prieigą prie Claude'o Mythos, antradienį paleidžiant Mythos 5 – ribotą AI modelį, skirtą kibernetinio saugumo organizacijoms ir vyriausybės partneriams. Tyrėjai, įskaitant JK AI saugumo institutą, nustatė, kad jis gali savarankiškai vykdyti sudėtingas kibernetines atakas.

Anot Amodei, jo pasiūlymas yra pasiskolintas iš reguliavimo struktūros, kurią naudoja Federalinė aviacijos administracija.

„Pasienio AI modeliai, kaip ir lėktuvai, turėtų būti tikrinami ir tikrinami, o jų išleidimas turėtų būti užblokuotas arba panaikintas kaip grėsmė visuomenės saugumui, jei jie neatitinka aukštų saugos standartų“, – rašė jis. „Esu dėkingas matydamas, kad Trumpo administracijos vykdomasis įsakymas vis labiau juda link didesnio vyriausybės vaidmens dirbtinio intelekto srityje, nors Anthropic pasiūlyme rekomenduojami dar tolesni veiksmai.

Remiantis Amodei pasiūlymu, reguliavimo sistema reikalauja privalomo trečiųjų šalių pažangių AI modelių testavimo, vyriausybės institucijos, kuri blokuotų nesaugų diegimą, ir reikalavimų, kad įmonės apsaugotų modelių svorį, atliktų saugos testus ir praneštų apie rimtus incidentus. Jis taip pat ragina vyriausybes pasirengti dirbtinio intelekto skatinamam darbo vietų perkėlimui ir pažangai kuriant vaistus, apriboti vidaus teisėsaugos priežiūrą ir autonominius ginklus bei stiprinti demokratinių šalių bendradarbiavimą svarbiausių AI technologijų srityje.

„Pirma, ilgalaikis darbo perkėlimas yra nepageidautinas ir pavojingas, todėl turėtume daryti viską, ką galime, kad jį sumažintume arba išvengtume, o ne tam, kad tai atsirastų“, – rašė jis, nurodydamas ankstesnius atvejus, kai perspėjo apie darbo perkėlimą. „Antra, bet koks atsakas į dirbtinio intelekto sukeltą darbo perkėlimą turi būti susijęs ir su poreikiu aprūpinti visus ekonomiškai, ir į poreikį žmonėms rasti prasmę, tikslą ir agentūrą.

Esė taip pat pateikiama tą pačią savaitę, kai Anthropic išleido Claude Fable 5, visuomenei skirtą Claude Mythos 5 versiją, kuri nukreipia tam tikrus užklausas, susijusias su kibernetiniu saugumu, biologija, chemija ir AI kūrimu, į mažiau pajėgų Claude Opus 4.8 kaip apsaugą nuo netinkamo naudojimo. Paleidimas sulaukė kūrėjų ir tyrėjų kritikos dėl didesnio „Fable“ žetonų naudojimo, privalomų 30 dienų duomenų saugojimo reikalavimų ir apsaugos priemonių, kurios gali sumažinti modelio galimybes nepranešant naudotojams.

Amodei raginimas keisti dirbtinio intelekto kūrimo politiką taip pat ateina, kai Anthropic ruošiasi viešai. Anksčiau šį mėnesį bendrovė pateikė dokumentus JAV vertybinių popierių ir biržų komisijai dėl pirminio viešo siūlymo, kai surinko 65 mlrd.

Nors Amodei šią problemą suformulavo kaip lenktynes ​​tarp technologinės pažangos ir viešosios politikos, kritikai suabejojo, ar raginimai griežtinti dirbtinio intelekto reguliavimą iš tikrųjų tarnauja visuomenės gerovei. Balandį „OpenAI“ generalinis direktorius Samas Altmanas apkaltino „Anthropic“ naudojant „baime pagrįstą rinkodarą“ reklamuojant Claude'ą Mythosą, teigdamas, kad susirūpinimas dėl pažangaus AI gali būti panaudotas siekiant pateisinti technologijos valdymo sutelkimą tarp kelių įmonių.

„Galite tai pagrįsti įvairiais būdais, o kai kurie iš jų yra tikri, pavyzdžiui, kils pagrįstų saugumo problemų“, – sakė Altmanas. „Bet jei tai, ko norite, yra „mums reikia dirbtinio intelekto kontrolės, tik mums, nes esame patikimi žmonės“, manau, kad baime pagrįsta rinkodara tikriausiai yra veiksmingiausias būdas tai pateisinti.

Amodei atmetė idėją, kad susirūpinimas dėl pažangaus AI pirmiausia yra viešųjų ryšių problema, vietoj to teigdamas, kad baimės dėl technologijos atspindi pagrįstą susirūpinimą, į kurį reikia atsižvelgti.

„Žmonės nerimauja dėl dirbtinio intelekto, nes jie teisingai suvokia, kad jo rizika yra reali, o ne todėl, kad dirbtinio intelekto vadovai buvo nepakankamai panglosiški“, – sakė jis, turėdamas omenyje išgalvotą filosofą Panglossą iš Voltero Candide'o, kuris yra žinomas dėl nepajudinamo optimizmo, kad viskas yra geriausia, nepaisant aplinkybių.

„Manau, kad mano, kaip AI lyderio, pareiga ir toliau būti skaidriai apie šias rizikas, o visuomenės susirūpinimas dėl šio skaidrumo reiškia demokratinę atskaitomybę, kuri veikia taip, kaip turėtų“, – sakė jis.