Kompanija Anthropic, jedan od najvećih igrača u svetu veštačke inteligencije i tvorac modela Claude, odlučila je da napravi značajan korak ka većoj transparentnosti i bezbednosti svojih sistema. Prema informacijama koje prenosi PC Press, ova kompanija je izabrala globalnog konsultantskog giganta Accenture za sprovođenje nezavisnih procena bezbednosti svojih AI modela.
Ovo partnerstvo dolazi u trenutku kada se celokupna industrija veštačke inteligencije suočava sa sve većim pritiskom regulatora, ali i javnosti, da obezbedi da napredni AI sistemi budu sigurni, pouzdani i etički usklađeni. Anthropic, koji se od svog osnivanja pozicionirao kao kompanija koja bezbednost stavlja ispred brzine razvoja, sada želi da tu tvrdnju potkrepi i spoljnom verifikacijom.
Zašto je nezavisna procena ključna?
Samoprocena bezbednosti, ma koliko bila temeljna, uvek nosi rizik od pristrasnosti. Kada kompanija sama ocenjuje sopstvene modele, javlja se pitanje koliko su ti nalazi zaista objektivni. Uključivanjem Accenture kao nezavisnog trećeg lica, Anthropic šalje jasnu poruku: želimo da naše tvrdnje o bezbednosti budu proverene od strane nekoga ko nema direktan interes u tome da rezultati budu pozitivni.
Accenture nije slučajan izbor. Ova kompanija već godinama gradi praksu vezanu za odgovornu veštačku inteligenciju i ima timove koji se bave procenom rizika, testiranjem modela i usklađivanjem sa regulativama poput predloga EU AI Act. Njihovo angažovanje podrazumevaće, između ostalog, testiranje modela na potencijalno štetne izlaze, procenu robusnosti sistema i analizu scenarija zloupotrebe.
Šta to znači za tržište AI modela?
Ovaj potez mogao bi da postane novi standard u industriji. Dok neke kompanije i dalje same objavljuju izveštaje o bezbednosti, sve je jasnije da će nezavisna verifikacija vremenom postati očekivana, ako ne i obavezna. Za klijente koji uvode AI modele u poslovne procese — bilo da je reč o bankama, zdravstvu ili javnoj upravi — mogućnost da vide da je model prošao spoljnu proveru može biti presudna pri donošenju odluka.
Anthropic ovim potezom ne samo da jača sopstveni kredibilitet, već i vrši pritisak na konkurenciju. Ako Accenture potvrdi da su Claude modeli bezbedni prema dogovorenim kriterijumima, to postavlja lestvicu koju će i drugi morati da prate. U trci za dominaciju u AI sektoru, poverenje postaje jednako važno kao i performanse modela.
Ostaje da se vidi koliko će detaljni nalazi biti javno dostupni i da li će Anthropic dozvoliti da se negativni rezultati, ukoliko ih bude, objave bez ulepšavanja. Upravo ta spremnost da se rizikuje reputacija u ime transparentnosti biće pravi test koliko je ova inicijativa iskrena, a koliko marketinški potez.