Bivši zaposleni u kompaniji OpenAI uputio je dramatično upozorenje javnosti o potencijalnim opasnostima koje nosi dalji razvoj veštačke inteligencije. Prema njegovim rečima, trenutni AI sistemi prave ozbiljne greške, a čovečanstvo rizikuje scenario koji bi mogao da dovede do nestanka ljudske vrste ukoliko se razvoj ne bude odvijao pod strožom kontrolom.
Ova izjava dolazi u trenutku kada se cela industrija nalazi u trci za razvojem sve moćnijih modela, a kompanije poput OpenAI, Google DeepMind i Anthropic objavljuju nove verzije svojih sistema gotovo svakog meseca. Upozorenje bivšeg insajdera dodatno podgreva debatu koja već godinama tinja u stručnim krugovima — da li je bezbednost AI sistema dovoljno ozbiljno shvaćena?
Šta tačno zvuči alarmantno
Suština upozorenja svodi se na nekoliko ključnih tačaka. Prva je da veliki jezički modeli i dalje prave greške koje nisu trivijalne — od halucinacija do pogrešnih zaključaka u kritičnim situacijama. Druga, ozbiljnija, jeste da se ti sistemi sve više koriste u domenima gde greška može imati nesagledive posledice: medicini, infrastrukturi, vojnoj industriji i autonomnim odlukama.
Treća tačka tiče se same dinamike razvoja. Bivši zaposleni tvrdi da kompanije često forsiraju brzinu ispred bezbednosti, jer tržišna utakmica ne dozvoljava pauzu. To je klasičan problem „trke u naoružanju” — kada svi ubrzavaju, niko ne želi da bude taj koji će prvi da uspori.
Kontekst: nije ovo prvi put
Treba napomenuti da ovo nije prvi put da ljudi iz same industrije dižu glas. Tokom 2023. godine, grupa istraživača i rukovodilaca potpisala je otvoreno pismo u kojem se poziva na pauzu u razvoju najmoćnijih AI sistema. Tada je potpisano i ime Sem Altman, izvršnog direktora OpenAI-ja, što je izazvalo pomešane reakcije javnosti.
Ono što razlikuje najnovije upozorenje jeste to što dolazi od nekoga ko je bio unutar sistema i imao uvid u način na koji se donose odluke. Takva svedočanstva obično imaju veću težinu od apstraktnih teorijskih rasprava, iako ih treba čitati sa dozom opreza — bivši zaposleni često imaju i lične motive, bilo da je reč o frustraciji, želji za pažnjom ili pokušaju da se skrene odgovornost.
Šta to praktično znači za nas
Za obične korisnike, ova priča možda zvuči daleko i apokaliptično. Ali suština je zapravo vrlo konkretna: regulativa. Evropska unija već primenjuje AI Act, dok Sjedinjene Države i dalje nemaju jedinstveni zakonski okvir. Srbija je, u ovom trenutku, u ranoj fazi razvoja svoje AI strategije, što otvara prostor da se greške drugih izbegnu — ili da se ponove.
Ključno pitanje nije da li će veštačka inteligencija „nestati” ili „preuzeti svet”. Ključno pitanje je ko kontroliše razvoj, po kojim pravilima i uz kakvu odgovornost. Upozorenja poput ovog bivšeg zaposlenog u OpenAI-ju treba shvatiti kao poziv na budnost, a ne kao proročanstvo propasti.
Izvor: K1 info