Anthropic traži precizan “kill switch” za AI modele: prekid samo ako preti smrću više od 50 ljudi

jakovradojevic
3 Min Read
Anthropic traži precizan "kill switch" za AI modele: prekid samo ako preti smrću više od 50 ljudi

Kompanija Anthropic, jedna od najvećih svetskih laboratorija za veštačku inteligenciju, lobira kod američke vlade da se takozvani “kill switch” — mehanizam za prinudno zaustavljanje AI modela — aktivira samo u ekstremnim slučajevima. Prema navodima koje prenosi Naslovi.net, prag za aktivaciju bio bi vezan za scenario u kojem model ugrožava živote više od 50 ljudi.

Ova rasprava dolazi u trenutku kada regulatorna tela u SAD ubrzano rade na okviru za upravljanje rizicima od naprednih AI sistema. Ideja o “kill switch”-u nije nova, ali je dosad bila više stvar naučne fantastike nego konkretne legislative. Anthropic očigledno želi da taj mehanizam bude krajnje restriktivan, kako ne bi bio zloupotrebljen ili aktiviran iz političkih razloga.

Šta zapravo znači prag od 50 ljudi

Prag od preko 50 potencijalnih smrtnih slučajeva zvuči hladno i birokratski, ali u praksi predstavlja pokušaj da se definiše kada je rizik toliko ozbiljan da opravdava prinudno gašenje modela. To je, u suštini, pokušaj da se napravi razlika između “lošeg odgovora” i katastrofalnog scenarija u kojem AI izaziva realnu štetu u fizičkom svetu.

Anthropic pritom ne krije da je reč o lobiranju. Kompanija je poznata po tome što javno zagovara “bezbednosno usmeren” razvoj AI-a, pa ovaj potez treba posmatrati i kao nastavak te strategije — ali i kao pokušaj da se utiče na oblik zakona pre nego što on bude usvojen.

Zašto je ovo važno i za Srbiju

Iako se rasprava vodi u Vašingtonu, njeni efekti će se osetiti globalno. Velike AI kompanije svoje modele plasiraju širom sveta, a regulatorni okviri koje SAD uspostavi često postaju de facto standard. Za domaće developere i startape koji grade na AI API-jima, jasna pravila o tome kada i kako model može biti ugašen znače predvidivost — a predvidivost je, u svetu cloud computing-a i AI infrastrukture, jednako važna kao i sama tehnologija.

Ostaje da se vidi da li će američki zakonodavci prihvatiti Anthropicov predlog ili će postaviti strože kriterijume. Jedno je sigurno: rasprava o “kill switch”-u tek je počela, a pitanje gde povući granicu između bezbednosti i preterane regulacije biće jedan od ključnih AI sporova narednih godina.

Share this Article
Leave a comment