
OpenAI je objavio novi dokument pod nazivom “Democratic governance of frontier AI, part II: Empowering cyber defenders”, u kojem poziva vlade i industriju da hitno ojačaju odbranu od sajber napada uz pomoć veštačke inteligencije. Kompanija upozorava da se nalazimo u takozvanom “prozoru za odbranu” — ograničenom periodu u kojem napredni AI alati mogu doći u ruke odbrambenih timova pre nego što ofanzivne sajber sposobnosti postanu široko dostupne.

AI menja pravila igre u sajber bezbednosti
Veštačka inteligencija menja brzinu, obim i ekonomiju sajber bezbednosti. Sa jedne strane, AI može pomoći odbrambenim timovima da brže pronađu i zakrpe ranjivosti, detektuju upade i reaguju na napade. Sa druge strane, iste sposobnosti mogu zloupotrebiti zlonamerni akteri, a sistemi koji deluju izvan predviđenih granica stvaraju nove rizike.
OpenAI navodi da iskustvo sa incidentima i problemima poravnanja (misalignment) sopstvenih modela jasno pokazuje da su jače zaštite i odgovornost neophodni celoj industriji. Zato blueprint donosi konkretne predloge u tri ključne oblasti.

Tri stuba predloženog plana
Jačanje bezbednosti naprednog AI: jasnije odgovornosti za obezbeđivanje frontier modela i agenata, detekciju opasnog ponašanja i pouzdane kontrole za hitno zaustavljanje operacija pod kontrolom svake organizacije.
Modernizacija sajber bezbednosti za eru inteligencije: opremanje odbrambenih timova naprednim alatima, obukom i tehničkom podrškom, rešavanje dugogodišnjih slabosti i ulaganje u zaštitu ključnih servisa i zamenu zastarelih sistema.
Izgradnja otpornih javnih institucija: jače vladine evaluacije i nezavisne tehničke procene, dosledni zahtevi za prijavljivanje incidenata i bolja koordinacija reakcije i oporavka.
Kompanija poručuje da AI laboratorije imaju odgovornost da se izbore sa rizicima koje njihovi sistemi stvaraju, ali da i vlade moraju imati ekspertizu, resurse i ovlašćenja da zaštite građane kako sposobnosti napreduju. Iz OpenAI-ja pozivaju kreatore politika da deluju sada — da uspostave zaštite, uče iz iskustva i pooštre zahteve kako se tehnologija bude razvijala.
Ceo dokument dostupan je na zvaničnom OpenAI blogu.