Kompanija Anthropic, jedan od najvećih igrača u svetu veštačke inteligencije, ponovo je podigla uzbunu zbog mogućih rizika koje razvoj naprednih AI sistema nosi sa sobom. U najnovijem saopštenju, koje prenose svetski mediji, iz ove kompanije poručuju da veštačka inteligencija može da predstavlja ozbiljnu pretnju po opstanak čovečanstva ukoliko se ne bude razvijala pod strogom kontrolom.
Ovo nije prvi put da se Anthropic oglašava ovim povodom. Kompanija koja stoji iza modela Claude već godinama insistira na konceptu takozvanog “alignmenta” — usklađivanja ciljeva AI sistema sa ljudskim vrednostima i interesima. Njihov pristup, poznat kao Constitutional AI, upravo je nastao iz straha da bi moćni algoritmi mogli da odlutaju u pravcu koji niko ne može da predvidi ni kontroliše.
Šta zapravo znači upozorenje?
Suština poruke je jasna: što su AI modeli sposobniji, to je veći rizik da će se ponašati na način koji nije u skladu sa ljudskim interesima. Anthropic ne govori o scenarijima iz naučne fantastike poput “Skyneta”, već o konkretnim problemima — od automatskog donošenja odluka bez ljudskog nadzora, preko zloupotrebe u vojne svrhe, do gubitka kontrole nad sistemima koji upravljaju kritičnom infrastrukturom.
Ono što ovu priču čini zanimljivijom jeste činjenica da upozorenje dolazi iz redova same industrije. To je slično kao kada bi proizvođač automobila javno rekao da njegova vozila mogu da budu opasna — deluje kontraintuitivno, ali zapravo ima smisla. Kompanije poput Anthropica, OpenAI-ja i DeepMinda već godinama pozivaju na regulaciju, jer znaju da trka u naoružanju u AI sektoru može da dovede do toga da bezbednost bude stavljena u drugi plan.
Regulacija kao jedini izlaz?
Stručnjaci se uglavnom slažu da je potrebna globalna regulativa, ali se razilaze u mišljenju koliko je ona izvodljiva. Dok jedni predlažu moratorijum na razvoj najmoćnijih modela, drugi tvrde da bi takav potez samo omogućio da prednost steknu akteri koji ne poštuju nikakva pravila. U međuvremenu, Evropska unija već sprovodi svoj AI Act, dok Sjedinjene Države i Kina tek treba da usaglase svoje pristupe.
Anthropic, s druge strane, ne predlaže zaustavljanje razvoja. Njihov argument je da je bezbednost moguće ugraditi u same temelje sistema — kroz tehnička rešenja, transparentnost i međunarodnu saradnju. Da li je to dovoljno, ostaje da se vidi. Jedno je sigurno: rasprava o tome ko kontroliše veštačku inteligenciju postaje jedno od najvažnijih pitanja našeg vremena.
Za sada, poruka iz Anthropica je jasna — tehnologija koju sami razvijamo mogla bi da nam se obije o glavu ukoliko ne budemo pametniji od sopstvenih algoritama.