
Kompanija Anthropic, tvorac Claude modela, pokrenula je lobističku inicijativu kod američke vlade koja bi mogla da postavi potpuno nove standarde u upravljanju rizicima od veštačke inteligencije. Prema informacijama koje prenosi Benchmark, kompanija predlaže uvođenje takozvanog “kill switch” mehanizma — automatskog prekida rada AI sistema — ali sa jasno definisanim pragom aktivacije.
Gde se povlači crvena linija
Suština predloga je prilično konkretna: prekidač bi se aktivirao samo u scenarijima gde AI model predstavlja neposrednu pretnju po život više od 50 ljudi. Ovakav prag predstavlja pokušaj da se pronađe ravnoteža između bezbednosti i praktičnosti — jer preterano osetljiv sistem za prekid mogao bi da paralizuje rad korisnih aplikacija zbog lažnih uzbuna.
Anthropic ovim potezom očigledno želi da oblikuje regulatorni okvir pre nego što ga zakonodavci sami nametnu. Umesto da čeka da vlada donese strože mere, kompanija izlazi sa sopstvenim predlogom — što je klasična strategija u industriji gde brzina razvoja daleko prevazilazi brzinu regulative.
Zašto je ovo važno
Rasprava o bezbednosti AI modela postaje sve konkretnija. Dok jedni zagovaraju potpuni moratorijum na razvoj naprednih sistema, drugi tvrde da takvi zahtevi samo guše inovacije. Predlog kompanije Anthropic sugeriše da je moguć i treći put — kontrolisani rizik sa merljivim pragovima.
Ostaje otvoreno pitanje kako bi se takav prag uopšte merio u praksi. Ko procenjuje da li model “preti smrću više od 50 ljudi”? Da li je to nezavisno telo, agencija ili sama kompanija? Ove nedoumice će verovatno biti predmet daljih lobističkih napora i pregovora sa zakonodavcima.
Anthropic je inače poznat po tome što u javnosti insistira na “odgovornom razvoju AI” — što je poruka koja istovremeno gradi poverenje i pozicionira kompaniju kao ozbiljnog igrača spremnog za regulaciju. Da li je ovaj predlog iskren korak ka bezbednijoj budućnosti ili pametan PR potez, proceniće vreme — i, na kraju krajeva, sami zakonodavci.