Dok se svet i dalje prilagođava naglom razvoju generativne veštačke inteligencije, glasovi iz same industrije postaju sve glasniji u zahtevima za strožom kontrolom. Najnovije upozorenje stiže od bivšeg zaposlenog u kompaniji OpenAI, koji tvrdi da napredni AI sistemi zahtevaju regulatorni okvir sličan onom koji važi za nuklearne elektrane.
Prema izveštaju portala Press.rs, bivši insajder iz najpoznatije svetske AI laboratorije smatra da trenutni pristup razvoju veštačke inteligencije nosi rizike koji se ne mogu porediti sa običnim softverskim greškama. Argument je jasan: ako sistem može da donosi odluke koje utiču na globalnu bezbednost, onda njegovo testiranje i puštanje u rad moraju proći kroz mnogo strože filtere nego što je to sada slučaj.
Od “open source” do “high risk”
Ova izjava dolazi u trenutku kada se OpenAI, ali i drugi tech giganti poput Googlea i Mete, nalaze pod lupom javnosti. Dok jedni zagovaraju ubrzani razvoj kako bi se osigurala konkurentnost, sve je više onih koji veruju da smo zakoračili u neistraženu teritoriju bez mape. Poređenje sa nuklearnom energijom nije slučajno — ono implicira da su i korist i potencijalna šteta ogromni, te da je neophodan nadzor nezavisan od korporativnih interesa.
Stručnjaci za AI etiku već godinama upozoravaju na “trku u naoružanju” u razvoju modela. Predlog bivšeg OpenAI inženjera ide korak dalje, sugerišući da bi kompanije morale da dobiju dozvole za rad slične onima koje izdaje nuklearna regulatorna komisija. To bi podrazumevalo rigorozne bezbednosne provere, audit revizije i obavezu transparentnosti kada su u pitanju najmoćniji modeli.
Šta to znači za budućnost tehnologije?
Ako se ovakvi zahtevi pretvore u zakon, to bi moglo značajno da uspori “move fast and break things” filozofiju koja je godinama vodila Silicijumsku dolinu. Sa druge strane, zagovornici regulacije tvrde da je bolje usporiti sada nego se suočiti sa posledicama sistema koji je izmakao kontroli. Ostaje da se vidi da li će ovi apeli naići na plodno tlo u zakonodavnim telima širom sveta, ili će ostati samo još jedno u nizu upozorenja koje tržište ignoriše.
Jedno je sigurno — debata o tome ko kontroliše veštačku inteligenciju tek počinje, a granica između inovacije i opreza nikada nije bila tanja.