{"id":5295,"date":"2026-10-31T22:57:09","date_gmt":"2026-10-31T22:57:09","guid":{"rendered":"https:\/\/11000.dev\/index.php\/2026\/10\/31\/anthropic-trazi-ostrija-pravila-ai-model-koji-ugrozi-vise-od-50-zivota-bio-bi-blokiran\/"},"modified":"2026-10-31T22:57:09","modified_gmt":"2026-10-31T22:57:09","slug":"anthropic-trazi-ostrija-pravila-ai-model-koji-ugrozi-vise-od-50-zivota-bio-bi-blokiran","status":"publish","type":"post","link":"https:\/\/11000.dev\/index.php\/2026\/10\/31\/anthropic-trazi-ostrija-pravila-ai-model-koji-ugrozi-vise-od-50-zivota-bio-bi-blokiran\/","title":{"rendered":"Anthropic tra\u017ei o\u0161trija pravila: AI model koji ugrozi vi\u0161e od 50 \u017eivota bio bi blokiran"},"content":{"rendered":"<p><figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/11000.dev\/wp-content\/uploads\/2026\/10\/J6_coFbogxhRI9iM864NL_liGXvsQp2AupsKei7z0cNNfDvGUmWUy20nuUhkREQyrpY4bEeIBucs0-w300-rw-369.webp\" alt=\"Anthropic tra\u017ei o\u0161trija pravila: AI model koji ugrozi vi\u0161e od 50 \u017eivota bio bi blokiran\" \/><\/figure>\n<p>Kompanija <strong>Anthropic<\/strong>, tvorac modela Claude i jedan od najve\u0107ih igra\u010da u svetu ve\u0161ta\u010dke inteligencije, iza\u0161la je sa predlogom koji bi mogao zna\u010dajno da promeni na\u010din na koji se danas reguli\u0161e AI. Njihova ideja je jednostavna, ali dalekose\u017ena: ako neki napredni model mo\u017ee da ugrozi vi\u0161e od 50 ljudskih \u017eivota, trebalo bi da bude blokiran pre nego \u0161to uop\u0161te do\u0111e do korisnika.<\/p>\n<p>Ovo nije prvi put da Anthropic zagovara stro\u017ea pravila. Kompanija je od osnivanja poznata po tome \u0161to u prvi plan stavlja bezbednost AI sistema, pa ne \u010dudi \u0161to sada tra\u017ei da se granica povu\u010de mnogo jasnije nego \u0161to je to slu\u010daj u va\u017ee\u0107im propisima.<\/p>\n<h2>\u0160ta konkretno predla\u017eu<\/h2>\n<p>Su\u0161tina predloga je da se za najmo\u0107nije modele uvede obavezna procena rizika pre pu\u0161tanja u upotrebu. Ako procena poka\u017ee da bi model mogao da izazove \u0161tetu koja ugro\u017eava vi\u0161e od 50 \u017eivota \u2014 bilo kroz zloupotrebu, bilo kroz nekontrolisano pona\u0161anje \u2014 model bi morao da bude zaustavljen. To bi va\u017eilo za sisteme koji su dovoljno sposobni da samostalno deluju u realnom svetu, poput agenata koji donose odluke bez stalnog nadzora \u010doveka.<\/p>\n<p>Prag od 50 \u017eivota zvu\u010di dramati\u010dno, ali ima svoju logiku. Cilj je da se rizik kvantifikuje i da se rasprava pomeri sa apstraktnog \u201emoglo bi da bude opasno&#8221; na ne\u0161to merljivo. Na taj na\u010din bi i regulatori i kompanije imali jasniji okvir kada je neki model pre\u0161ao crvenu liniju.<\/p>\n<h2>Za\u0161to je ovo va\u017eno za celu industriju<\/h2>\n<p>Anthropic ovim predlogom prakti\u010dno poziva konkurenciju \u2014 pre svega OpenAI i Google \u2014 da se pridru\u017ee sli\u010dnom pristupu. Ako se ovakav standard usvoji, to bi moglo da postane ne\u0161to poput zajedni\u010dkog minimuma za sve ozbiljne AI laboratorije. U suprotnom, postoji rizik da se trka u sposobnostima modela nastavi bez jasnih ko\u010dnica.<\/p>\n<p>Treba imati u vidu da je ovo za sada predlog, a ne zakon. Ali sam potez govori mnogo o tome kako najve\u0107i igra\u010di razmi\u0161ljaju o budu\u0107nosti. <strong>Bezbednost AI sistema<\/strong> polako prestaje da bude marketin\u0161ka fraza i postaje stvarni kriterijum po kojem \u0107e se meriti ozbiljnost jedne kompanije.<\/p>\n<p>Za korisnike u Srbiji i regionu ovo je relevantno iz prakti\u010dnog razloga: ako ovakva pravila za\u017eive, modeli koji sti\u017eu na tr\u017ei\u0161te bi\u0107e pa\u017eljivije testirani, ali bi neki napredni alati mogli i da kasne sa dolaskom. Kako god da se zavr\u0161i, jasno je da se rasprava o granicama ve\u0161ta\u010dke inteligencije zahuktava \u2014 i da \u0107e Anthropic u njoj igrati sve glasniju ulogu.<\/p>\n<p>Izvor: <a href=\"https:\/\/news.google.com\/rss\/articles\/CBMi2wFBVV95cUxPTnhhSktNSEFENkcyS0VPdDczY1ZSSVpUTEVIdXRrWi1VSDhxQThsM2xpTF8tR3c2b01CMTJYNkZnMmZQYjJpRjNYTXQyNlFqQmk0WEk4UzBtQ0lnUFdMeEEyYUhMVnhvRkVJTE5Sa3hpdlB0RmIxdGpkRTRIWmJqWlROZHNyZXlYOTF3eERldUN2YkJDR3JrWE1Ib1BOX2lFM0daRmp2UFk3QkJxQTdNbEZXak54WXVyNlRaazhDeUFNNURUSHRPWlN6b3ZlTFV4VVlOT3Z4U3VTdTA?oc=5\" target=\"_blank\" rel=\"noopener\">Standard | Prije svega<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Kompanija Anthropic, tvorac modela Claude i jedan od najve\u0107ih igra\u010da u svetu ve\u0161ta\u010dke inteligencije, iza\u0161la je sa predlogom koji bi mogao zna\u010dajno da promeni na\u010din na koji se danas reguli\u0161e AI. Njihova ideja je jednostavna, ali dalekose\u017ena: ako neki napredni model mo\u017ee da ugrozi vi\u0161e od 50 ljudskih \u017eivota, trebalo bi da bude blokiran pre [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":5294,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[103,104],"tags":[],"class_list":["post-5295","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ai","category-tehnologija"],"_links":{"self":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/5295","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/comments?post=5295"}],"version-history":[{"count":0,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/5295\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media\/5294"}],"wp:attachment":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media?parent=5295"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/categories?post=5295"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/tags?post=5295"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}