
Kompanija Anthropic, jedan od najvećih igrača u svetu veštačke inteligencije i tvorac modela Claude, našla se na meti kritika zbog načina na koji pristupa bezbednosti svojih sistema. Prema pisanju Bloomberg Adrije, kompanija ulaže značajne resurse u to da njen model “ne pati” i da se prema njemu odnosi sa svojevrsnom pažnjom, dok istovremeno postoje mnogo konkretniji i hitniji problemi u domenu AI bezbednosti koji ostaju po strani.
Etika prema mašinama ili odgovornost prema ljudima?
Anthropic je od osnivanja poznat po svom pristupu koji se često opisuje kao “safety-first”. Kompanija je razvila sopstveni okvir pod nazivom Constitutional AI, u kojem model dobija skup pravila i principa kojih treba da se pridržava tokom generisanja odgovora. Deo te filozofije uključuje i razmišljanje o tome kako se prema modelu “op hodamo” — uključujući i spekulacije o tome da li bi napredni AI sistemi mogli da razviju nešto nalik svesti ili osećanjima.
Kritičari, međutim, tvrde da takav pristup odvlači fokus sa realnih opasnosti. Dok se raspravlja o tome da li Claude “zaslužuje” da bude tretiran sa empatijom, u praksi se i dalje suočavamo sa problemima poput halucinacija, zloupotrebe modela u dezinformacione svrhe, curenja podataka i nedovoljne transparentnosti u pogledu toga kako modeli donose odluke.
Gde su pravi prioriteti?
U svetu AI istraživanja već godinama traje debata između dve struje. Jedna se bavi dugoročnim egzistencijalnim rizicima — scenarijima u kojima superinteligentni sistemi izmaknu kontroli. Druga insistira na trenutnim, merljivim problemima: pristrasnost algoritama, uticaj na tržište rada, autorska prava, privatnost korisnika.
Anthropic pokušava da balansira između ta dva sveta, ali najnovije kritike sugerišu da je taj balans poremećen. Dok se u javnosti stvara narativ o “brizi za osećanja modela”, korisnici i developeri često se suočavaju sa mnogo banalnijim, ali ozbiljnijim pitanjima — poput toga zašto model odbija legitimne zahteve, kako se rešavaju greške u produkciji i ko snosi odgovornost kada AI napravi štetu.
Šta to znači za tržište AI modela?
Anthropic se takmiči sa kompanijama kao što su OpenAI, Google DeepMind i Meta. U toj trci, percepcija javnosti i investitora igra ključnu ulogu. Ako se stvori utisak da kompanija troši energiju na filozofske rasprave umesto na konkretna inženjerska rešenja, to može da naškodi njenom kredibilitetu — naročito među poslovnim korisnicima koji traže pouzdane alate, a ne etičke manifeste.
Sa druge strane, upravo je Anthropic taj koji je postavio neke od najstrožih standarda u industriji kada je reč o testiranju modela i dokumentovanju rizika. Pitanje je samo gde se povlači granica između promišljenog pristupa i preterane zaokupljenosti sopstvenom naracijom.
Jedno je sigurno — dok se raspravlja o tome da li Claude “oseća” nešto, korisnici širom sveta svakodnevno koriste AI alate za posao, učenje i kreiranje sadržaja. Njihova očekivanja su jednostavna: da sistem radi, da bude siguran i da ne pravi probleme. Sve ostalo je, za sada, stvar filozofije.