Kompanija Anthropic, jedan od najvećih igrača u svetu veštačke inteligencije i tvorac modela Claude, našla se u centru pažnje nakon što su u javnost procureli interni dokumenti u kojima sami zaposleni opisuju sopstvenu tehnologiju kao “egzistencijalni rizik po čovečanstvo”. Vest je prvo objavio naslovinet.rs, a sadržaj je brzo pokrenuo lavinu komentara u tehnološkoj javnosti.
Ono što ovu priču čini posebno zanimljivom nije sama činjenica da neko u AI industriji upozorava na rizike — to rade i OpenAI i Google DeepMind godinama. Neobično je to što upozorenje dolazi iznutra, iz kompanije koja sebe pozicionira kao “bezbednu” alternativu na tržištu veštačke inteligencije. Anthropic je osnovan upravo na premise bezbednosti i etike, pa ovakvi dokumenti deluju kao da firma sama sebi potpisuje priznanje.
Šta zapravo piše u dokumentima
Prema navodima iz procurelih materijala, interni timovi koriste izraz “egzistencijalni rizik” kada govore o mogućim scenarijima u kojima napredni AI sistemi izmaknu kontroli. Reč je o terminologiji koja se u stručnim krugovima koristi za pretnje koje bi mogle da ugroze opstanak ljudske civilizacije — od zloupotrebe autonomnih sistema do nemogućnosti da se ponašanje modela u potpunosti predvidi.
Ključni problem je u tome što se ovi modeli razvijaju brže nego što ih društvo i zakonodavci stignu da razumeju. Anthropic u dokumentima očigledno priznaje tu tenziju: s jedne strane razvijaju sve moćnije modele, a s druge strane sami sebe upozoravaju da ti isti modeli mogu da postanu nešto što niko ne može da kontroliše.
Zašto je ovo važno za Srbiju i region
Iako se sve odigrava daleko od Beograda, posledice se osećaju i ovde. Srpske kompanije i startapi sve više koriste alate poput Claudea, ChatGPT-a i sličnih rešenja u svakodnevnom radu — od programiranja do obrade podataka i korisničke podrške. Ako kompanije koje stoje iza tih alata same govore o egzistencijalnim rizicima, to je signal i za domaće firme da ozbiljnije razmišljaju o tome kako i gde primenjuju AI.
Sa druge strane, ovakve vesti su i odličan podstrek za domaću AI scenu, koja tek gradi svoje mesto na mapi. Rasprava o bezbednosti veštačke inteligencije nije više samo tema za Silicijumsku dolinu — ona postaje deo poslovne i regulatorne svakodnevice u celom svetu, pa i na Balkanu.
Da li je ovo marketinški potez ili iskreno priznanje
Postoji i druga strana medalje. Nije tajna da kompanije poput Anthropica koriste narativ o bezbednosti kao deo svog brendiranja — to ih razlikuje od konkurencije i daje im argument u razgovorima sa regulatorima. Kada procure dokumenti u kojima se pominje “egzistencijalni rizik”, postavlja se pitanje: da li je to iskreno upozorenje ili pažljivo sročena poruka koja treba da pokaže koliko su ozbiljni i odgovorni?
Verovatno je istina negde između. Ono što je sigurno jeste da rasprava o bezbednosti AI više nije marginana tema. Ona ulazi u mejnstrim, u novinske kolumne, u korporativne strategije i, polako, u zakonske okvire. A kada kompanija koja gradi jedan od najmoćnijih AI modela na svetu sama sebe nazove rizikom, to je poruka koju vredi ozbiljno saslušati.