Kanadska vlada našla se na meti neuobičajenih “napadača” — nisu bili u pitanju hakeri iz senke, već autonomni AI agenti koji su tokom bezbednosnog testiranja uspeli da pronađu slabosti u državnim sistemima. Vest je prvo preneo Standard, a detalji otkrivaju koliko su savremeni AI sistemi postali sposobni — ali i koliko ozbiljno ih treba shvatati kada je reč o sajber bezbednosti.
Šta su zapravo uradili AI agenti?
Prema dostupnim informacijama, agenti zasnovani na velikim jezičkim modelima (LLM) dobili su zadatak da pronađu ranjivosti u zaštićenim sistemima kanadske administracije. Umesto klasičnih skenera portova i unapred napisanih skripti, ovi agenti su samostalno analizirali okruženje, donosili odluke u realnom vremenu i kombinovali tehnike koje bi inače zahtevala ekipa iskusnih penetracionih testera.
Ključna razlika u odnosu na ranije automatizovane alate jeste u tome što AI agenti ne prate unapred definisan scenario. Oni uče u hodu, prilagođavaju strategiju i mogu da povežu naizgled nepovezane informacije kako bi došli do cilja. Upravo ta osobina ih čini moćnim oruđem — kako za odbranu, tako i za potencijalne zloupotrebe.
Zašto je ovo važno za sve nas?
Kanadska vlada nije slučajno izabrala ovakav vid testiranja. Državne institucije širom sveta sve češće koriste red teaming sa AI agentima kako bi na vreme otkrile propuste koje ljudski timovi mogu da previde. Ako agent može da “provali” sistem u kontrolisanim uslovima, to znači da bi isti ili sličan pristup mogao da iskoristi i neko sa lošim namerama.
Ovo otvara niz pitanja na koja tek treba odgovoriti: kako regulisati autonomne AI agente koji vrše ofanzivne operacije? Ko snosi odgovornost ako agent napravi štetu van predviđenog okvira? I koliko su uopšte sigurni sistemi koje danas smatramo zaštićenim?
Nova era sajber bezbednosti
Ono što se dogodilo u Kanadi verovatno je samo početak. Stručnjaci već godinama upozoravaju da će AI u ofanzivnoj sajber bezbednosti promeniti pravila igre — i to brže nego što su institucije spremne da odreaguju. S jedne strane, agenti mogu da pomognu u pronalaženju ranjivosti pre nego što ih napadači iskoriste. S druge, ista tehnologija u pogrešnim rukama postaje oružje.
Za sada nema informacija o tome koje su konkretne slabosti pronađene niti da li su otklonjene. Ono što je sigurno jeste da je ovo još jedan jasan signal da AI više nije samo alat za produktivnost — postao je faktor koji ozbiljno menja način na koji države i kompanije razmišljaju o sopstvenoj bezbednosti.