Kada bivši direktor Centralne obaveštajne agencije (CIA) izađe sa ovakvim upozorenjem, nije reč o scenariju iz naučnofantastičnog filma. Reč je o proceni čoveka koji je godinama sedeo na vrhu američke obaveštajne mašinerije i imao uvid u najosetljivije tehnološke projekte. Njegova poruka je jasna: veštačka inteligencija bi već do 2030. godine mogla da donosi odluke u vojnim operacijama bez direktnog ljudskog nadzora.
Ova tema nije nova, ali dobija potpuno drugu težinu kada dolazi iz usta nekoga ko je znao gde se nalaze prave crvene linije. Prema njegovim rečima, tempo razvoja AI sistema daleko nadmašuje brzinu kojom se uspostavljaju međunarodni okviri za njihovu upotrebu. Drugim rečima, tehnologija je već odmakla, a pravila se tek pišu.
Od pomoćnika do donosioca odluka
Do sada je vojna upotreba veštačke inteligencije uglavnom bila ograničena na analizu podataka, prepoznavanje obrazaca i podršku pri donošenju odluka. Čovek je uvek bio taj koji pritiska dugme. Ali granica između “podrške” i “autonomije” sve je tanja. Autonomni dronovi, sistemi za protivvazdušnu odbranu i algoritmi za elektronsko ratovanje već danas rade u režimima u kojima je ljudska reakcija prespora da bi bila relevantna.
Stručnjaci za bezbednost upozoravaju da bi do 2030. godine AI mogao da preuzme i strateški nivo odlučivanja — od raspoređivanja jedinica do procene rizika eskalacije. To otvara niz pitanja na koja još nemamo odgovore: ko snosi odgovornost ako algoritam pogreši? Kako se pravda rat koji je vodila mašina?
Trka bez sudije
Ono što dodatno zabrinjava jeste činjenica da se ova trka odvija bez zajedničkog sudije. Sjedinjene Države, Kina i Rusija razvijaju sopstvene AI vojne programe, ali ne postoji univerzalni sporazum koji bi postavio granice. Ujedinjene nacije godinama pokušavaju da pokrenu ozbiljne pregovore o autonomnom oružju, ali bez konkretnog rezultata.
Paralelno sa vojnim aplikacijama, civilna AI industrija nastavlja da se razvija brzinom koja ostavlja regulatore u prašini. Isti modeli koji pišu tekst ili generišu slike mogu se, uz relativno male modifikacije, primeniti u potpuno drugačijim kontekstima. To je ono što ovakva upozorenja čini realnim, a ne teorijskim.
Šta to znači za nas
Srbija i region nisu direktno u centru ove priče, ali nisu ni izvan nje. Kroz članstvo u međunarodnim organizacijama i kroz nabavku vojne opreme, i manje zemlje postaju deo globalnog ekosistema u kojem AI igra sve veću ulogu. Pitanje etike i kontrole ovakvih sistema nije više stvar daleke budućnosti — to je tema koja traži odgovor danas.
Ako ništa drugo, poruka bivšeg šefa CIA je podsetnik da tehnologija ne čeka. Ona se razvija, primenjuje i donosi odluke — često pre nego što smo spremni da o njima razgovaramo.
Izvor: Telegraf.rs