Kompanija Anthropic, jedan od najvećih igrača u svetu veštačke inteligencije, objavila je uznemirujuće upozorenje — napredni AI sistemi mogli bi da predstavljaju ozbiljnu pretnju opstanku čovečanstva. Ova vest dolazi direktno iz njihovih redova, što joj daje posebnu težinu, jer nije reč o teorijskom strahu nekog skeptika, već o proceni ljudi koji sami razvijaju najmoćnije modele današnjice.
Anthropic, poznat po svom modelu Claude, već godinama insistira na takozvanom „alignment” pristupu — ideji da AI treba da bude usklađen sa ljudskim vrednostima i interesima. No, njihovo najnovije upozorenje ide korak dalje: priznaju da postoji realna mogućnost da, ukoliko se razvoj nastavi bez adekvatnih kontrola, dođe do scenarija u kojem veštačka inteligencija izmiče ljudskoj kontroli.
Zašto ovo nije samo prazna priča
Ključna razlika između Anthropica i većine drugih kompanija jeste njihov pristup — oni od samog početka ulažu u istraživanje bezbednosti AI sistema. Osnivači, među kojima su i bivši istraživači iz OpenAI-ja, napustili su tu kompaniju upravo zbog neslaganja oko prioriteta između brzine razvoja i bezbednosti. Njihovo najnovije upozorenje stoga treba čitati kao ozbiljan signal, a ne kao marketinški trik.
U svetu gde se modeli poput GPT-4, Gemini i Claude takmiče u moći i brzini, pitanje ko kontroliše tu moć postaje sve važnije. Anthropic tvrdi da bi neograničen razvoj, bez jasnih regulatornih okvira, mogao da dovede do situacije u kojoj AI sistemi donose odluke koje niko nije predvideo — a koje mogu imati nepovratne posledice.
Šta to konkretno znači za nas
Za običnog korisnika ovo može da zvuči apstraktno, ali implikacije su itekako konkretne. Od automatizovanih sistema u zdravstvu i saobraćaju, do algoritama koji odlučuju o kreditima ili zapošljavanju — AI već sada oblikuje svakodnevni život. Ako ti sistemi postanu toliko kompleksni da ih ni njihovi tvorci ne razumeju u potpunosti, rizik od grešaka eksponencijalno raste.
Anthropic ne poziva na zaustavljanje razvoja AI-ja — naprotiv. Njihov argument je da je bezbednost upravo ono što omogućava održiv napredak. Bez nje, svaki korak napred može da bude i korak ka katastrofi. To je poruka koju bi trebalo da čuju i kreatori politika i investitori koji u AI ulivaju milijarde.
U svetlu ovakvih upozorenja, sve je jasnije da trka za što moćnijim modelima mora da ide ruku pod ruku sa ozbiljnim istraživanjem rizika. Pitanje nije da li će AI promeniti svet — već kakav će taj svet biti.