Kompanija Antropik, jedna od najuticajnijih svetskih laboratorija za veštačku inteligenciju, ponovo je podigla prašinu svojim najnovijim upozorenjem. Prema njihovoj proceni, dalji razvoj naprednih AI sistema mogao bi da predstavlja ozbiljan rizik po čovečanstvo ukoliko se ne uspostavi adekvatan okvir za bezbednost i kontrolu.
Ova vest ne dolazi iz prazne priče. Antropik je kompanija koju su osnovali bivši istraživači iz OpenAI-ja, a njihov glavni proizvod — model Claude — svrstava se u sam vrh današnje generativne veštačke inteligencije. Kada takva kuća javno kaže da bi sopstvena tehnologija mogla da izmakne kontroli, to je signal da priča o AI bezbednosti nije više samo akademska rasprava.
Šta tačno kažu iz Antropika?
Suština upozorenja svodi se na poznatu tezu koju zagovornici bezbedne AI već godinama ponavljaju: kako modeli postaju moćniji, tako raste i potencijal za zloupotrebu. Rizici se kreću od dezinformacija i automatizovanog sajber kriminala, pa sve do scenarija u kojima sistemi donose odluke van ljudskog nadzora.
Antropik ovde nije usamljen. Istraživači iz ove oblasti sve češće govore o konceptu „aligned AI” — sistemu koji radi u skladu sa ljudskim vrednostima i interesima. Problem je, kako ističu, što niko sa sigurnošću ne može da garantuje da će napredni modeli ostati u tim okvirima kada jednom prevaziđu određeni nivo sposobnosti.
Zašto je ovo važno za sve nas
Možda zvuči apokaliptično, ali poenta nije u holivudskom scenariju. Praktični rizici su već tu: deepfake sadržaj koji utiče na izbore, automatizovani phishing napadi, sistemi koji mogu da generišu biološke ili hemijske recepte. Sve to zahteva ozbiljan regulatorni odgovor.
Evropska unija već gura svoj AI Act, dok se u Sjedinjenim Državama vodi žestoka rasprava između zagovornika brzog razvoja i onih koji traže moratorijum. Srbija, kao i ostatak regiona, tek treba da pronađe svoj put u ovoj priči — ali to ne znači da nas se tema ne tiče.
Poruka koja se ponavlja
Antropik nije prvi koji diže uzbunu, i sigurno neće biti poslednji. Ali kada kompanija koja živi od razvoja AI-ja upozorava na sopstvenu tehnologiju, to je znak da smo stigli do tačke gde bezbednost mora da ide rame uz rame sa inovacijom. Pitanje više nije da li će AI promeniti svet, već pod kojim uslovima će to učiniti.
Izvor: Una.rs