Kompanija Anthropic, jedan od najvećih igrača u svetu veštačke inteligencije i tvorac modela Claude, odlučila je da napravi značajan korak ka većoj transparentnosti. Naime, otvorili su vrata svojim najnaprednijim AI modelima za spoljne testove, ali ne samo za hakere — kako bi se moglo pomisliti na prvi pogled — već i za bezbednosne istraživače, akademske institucije i stručnjake koji se bave procenom rizika.
Zašto je ovo važno?
Do sada su najmoćniji AI modeli uglavnom bili zatvoreni u laboratorijama kompanija koje su ih razvijale. Samo interni timovi imali su pristup njihovim punim mogućnostima, dok je javnost mogla da vidi tek “peglane” verzije. Anthropic sada menja tu sliku. Cilj je da se pre nego što modeli dođu do šire javnosti, temeljno ispitaju sve potencijalne opasnosti — od zloupotrebe u sajber napadima do stvaranja dezinformacija.
Ova odluka dolazi u trenutku kada se sve češće postavlja pitanje: ko kontroliše najmoćnije AI sisteme? Otvaranjem pristupa spoljnim ekspertima, Anthropic želi da pokaže da bezbednost ne sme da bude samo interna stvar. Uostalom, ako model može da napiše malware ili da zaobiđe bezbednosne protokole, bolje je da to otkriju oni koji će na vreme upozoriti.
Šta to znači za budućnost AI?
Ovakav potez mogao bi da postane novi standard u industriji. Ako se pokaže da spoljni testovi daju korisne uvide, druge kompanije — poput OpenAI, Google DeepMind ili Meta — mogle bi da krenu istim putem. To bi dugoročno moglo da dovede do globalnog okvira za bezbednost AI modela, nečega što za sada ne postoji ni u naznakama.
Ipak, ostaje otvoreno pitanje koliko će pristup zaista biti “otvoren”. Anthropic verovatno neće deliti sve detalje o arhitekturi modela, već samo omogućiti testiranje u kontrolisanim uslovima. To je razumljiv kompromis između bezbednosti i zaštite intelektualne svojine.
Za sada, jasno je jedno: hakeri nisu jedini koji će testirati najmoćnije AI modele. U igru ulaze i oni koji žele da ih učine sigurnijim. A to je, u svetu veštačke inteligencije koji se razvija brže od zakona, možda i najvažnija vest.
Izvor: Informer