Anthropic predložio bizaran prag za zabranu AI modela: 50 mrtvih kao granica?

jakovradojevic
3 Min Read

Anthropic predložio bizaran prag za zabranu AI modela: 50 mrtvih kao granica?

Kompanija Anthropic, jedan od najvećih igrača u svetu veštačke inteligencije i tvorac modela Claude, našla se u centru burne rasprave nakon što je u javnost dospeo predlog njihovog internog politike o tome kada bi jedan AI model trebalo zabraniti. Prema ovom predlogu, koji je prvi uočio Telegraf.rs, model bi se mogao smatrati dovoljno opasnim za zabranu tek ako izazove smrt više od 50 ljudi.

Šta zapravo piše u predlogu?

Na prvi pogled, brojka od 50 zvuči kao iz nekog distopijskog filma, ali kontekst je nešto drugačiji. Anthropic je navodno razmatrao okvir za takozvane “katastrofalne rizike” kod naprednih AI sistema, gde se pokušava kvantifikovati kada je šteta dovoljno velika da opravda potpuno gašenje modela. Problem je što ovakav prag deluje zastrašujuće visoko — pogotovo ako se uporedi sa načinom na koji regulišemo druge tehnologije.

Zamislite da neki proizvođač automobila kaže: “Pa dobro, zabranićemo model tek kada u nesrećama pogine više od 50 ljudi.” Zvuči apsurdno, zar ne? Upravo tu leži suština kritike koja se sručila na Anthropic.

Zašto je ovo važno za celu AI industriju?

Ova rasprava nije samo interni problem jedne kompanije. Ona otvara pitanje kako će se uopšte meriti i regulisati šteta koju AI može da nanese. Trenutno ne postoji univerzalni standard — ni u EU, ni u SAD — koji definiše šta je “prihvatljiv nivo rizika” kod modela opšte namene. Predlozi poput ovog iz Anthropica, koliko god zvučali ekstremno, zapravo pokušavaju da popune tu prazninu.

Kritičari, međutim, tvrde da ovakvi pragovi stvaraju lažni osećaj sigurnosti i da regulatori ne bi trebalo da se oslanjaju na brojeve koje same kompanije predlažu. Jer, na kraju krajeva, kompanija koja razvija model ima jasan interes da prag bude što viši.

Šta kaže Anthropic?

Kompanija se još nije zvanično oglasila povodom konkretnih navoda, ali iz ranijih izjava njihovih čelnika jasno je da zagovaraju takozvani “responsibly scaling” pristup — postepeno povećanje sposobnosti modela uz paralelno pojačavanje mera bezbednosti. Pitanje je samo da li je brojka od 50 ljudi zaista deo zvanične politike ili je reč o radnom nacrtu koji je iscurio u javnost pre nego što je uopšte usvojen.

Bilo kako bilo, jedna stvar je sigurna: rasprava o tome kako meriti rizik od AI sistema tek je počela, a ovakvi predlozi će sigurno biti tema brojnih konferencija i regulatornih rasprava u narednim mesecima. Ako ništa drugo, bar smo dobili materijal za razmišljanje — i to onaj koji neće tako brzo izaći iz mode.

Share this Article
Leave a comment