
Kompanija Anthropic, tvorac modela Claude i jedan od najvećih igrača u svetu veštačke inteligencije, izašla je sa predlogom koji bi mogao značajno da promeni način na koji se danas reguliše AI. Njihova ideja je jednostavna, ali dalekosežna: ako neki napredni model može da ugrozi više od 50 ljudskih života, trebalo bi da bude blokiran pre nego što uopšte dođe do korisnika.
Ovo nije prvi put da Anthropic zagovara stroža pravila. Kompanija je od osnivanja poznata po tome što u prvi plan stavlja bezbednost AI sistema, pa ne čudi što sada traži da se granica povuče mnogo jasnije nego što je to slučaj u važećim propisima.
Šta konkretno predlažu
Suština predloga je da se za najmoćnije modele uvede obavezna procena rizika pre puštanja u upotrebu. Ako procena pokaže da bi model mogao da izazove štetu koja ugrožava više od 50 života — bilo kroz zloupotrebu, bilo kroz nekontrolisano ponašanje — model bi morao da bude zaustavljen. To bi važilo za sisteme koji su dovoljno sposobni da samostalno deluju u realnom svetu, poput agenata koji donose odluke bez stalnog nadzora čoveka.
Prag od 50 života zvuči dramatično, ali ima svoju logiku. Cilj je da se rizik kvantifikuje i da se rasprava pomeri sa apstraktnog „moglo bi da bude opasno” na nešto merljivo. Na taj način bi i regulatori i kompanije imali jasniji okvir kada je neki model prešao crvenu liniju.
Zašto je ovo važno za celu industriju
Anthropic ovim predlogom praktično poziva konkurenciju — pre svega OpenAI i Google — da se pridruže sličnom pristupu. Ako se ovakav standard usvoji, to bi moglo da postane nešto poput zajedničkog minimuma za sve ozbiljne AI laboratorije. U suprotnom, postoji rizik da se trka u sposobnostima modela nastavi bez jasnih kočnica.
Treba imati u vidu da je ovo za sada predlog, a ne zakon. Ali sam potez govori mnogo o tome kako najveći igrači razmišljaju o budućnosti. Bezbednost AI sistema polako prestaje da bude marketinška fraza i postaje stvarni kriterijum po kojem će se meriti ozbiljnost jedne kompanije.
Za korisnike u Srbiji i regionu ovo je relevantno iz praktičnog razloga: ako ovakva pravila zažive, modeli koji stižu na tržište biće pažljivije testirani, ali bi neki napredni alati mogli i da kasne sa dolaskom. Kako god da se završi, jasno je da se rasprava o granicama veštačke inteligencije zahuktava — i da će Anthropic u njoj igrati sve glasniju ulogu.
Izvor: Standard | Prije svega