{"id":4516,"date":"2026-10-21T15:57:28","date_gmt":"2026-10-21T15:57:28","guid":{"rendered":"https:\/\/11000.dev\/index.php\/2026\/10\/21\/anthropic-predlozio-bizaran-prag-za-zabranu-ai-modela-50-mrtvih-kao-granica\/"},"modified":"2026-10-21T15:57:28","modified_gmt":"2026-10-21T15:57:28","slug":"anthropic-predlozio-bizaran-prag-za-zabranu-ai-modela-50-mrtvih-kao-granica","status":"publish","type":"post","link":"https:\/\/11000.dev\/index.php\/2026\/10\/21\/anthropic-predlozio-bizaran-prag-za-zabranu-ai-modela-50-mrtvih-kao-granica\/","title":{"rendered":"Anthropic predlo\u017eio bizaran prag za zabranu AI modela: 50 mrtvih kao granica?"},"content":{"rendered":"<p><figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/11000.dev\/wp-content\/uploads\/2026\/10\/J6_coFbogxhRI9iM864NL_liGXvsQp2AupsKei7z0cNNfDvGUmWUy20nuUhkREQyrpY4bEeIBucs0-w300-rw-335.webp\" alt=\"Anthropic predlo\u017eio bizaran prag za zabranu AI modela: 50 mrtvih kao granica?\" \/><\/figure>\n<\/p>\n<p>Kompanija Anthropic, jedan od najve\u0107ih igra\u010da u svetu ve\u0161ta\u010dke inteligencije i tvorac modela Claude, na\u0161la se u centru burne rasprave nakon \u0161to je u javnost dospeo predlog njihovog internog politike o tome kada bi jedan AI model trebalo zabraniti. Prema ovom predlogu, koji je prvi uo\u010dio <a href=\"https:\/\/news.google.com\/rss\/articles\/CBMi4AFBVV95cUxQU19YWnlKNU5ma2RyZ0hSWWlBTUwyUFlLSlV1QXBKQUU5dUdCUzdTRTY2N1BiZGM5TGo4aVVkVWpyNDRkRFFKeVBOY19BUUptUkdscXUwMFhsdVNfVDNRUThPN0pEbnU0MjdRUnF5cGJpMHpNTU9FamJPU0FhaUtWdTkzSWYwemVBc3FaLUZoSllOcmRxQkhnejVPMHo0eC1EWEFlUXprZG1nUmhLZjlaSG1FMTJVb1ZUanFZNnczX0V4eWF6VzNGWkpUallCNFVLbjlJb1pmdmtmRTZVaXE1QQ?oc=5\">Telegraf.rs<\/a>, model bi se mogao smatrati dovoljno opasnim za zabranu tek ako izazove smrt vi\u0161e od 50 ljudi.<\/p>\n<h2>\u0160ta zapravo pi\u0161e u predlogu?<\/h2>\n<p>Na prvi pogled, brojka od 50 zvu\u010di kao iz nekog distopijskog filma, ali kontekst je ne\u0161to druga\u010diji. Anthropic je navodno razmatrao okvir za takozvane &#8220;katastrofalne rizike&#8221; kod naprednih AI sistema, gde se poku\u0161ava kvantifikovati kada je \u0161teta dovoljno velika da opravda potpuno ga\u0161enje modela. Problem je \u0161to ovakav prag deluje zastra\u0161uju\u0107e visoko \u2014 pogotovo ako se uporedi sa na\u010dinom na koji reguli\u0161emo druge tehnologije.<\/p>\n<p>Zamislite da neki proizvo\u0111a\u010d automobila ka\u017ee: &#8220;Pa dobro, zabrani\u0107emo model tek kada u nesre\u0107ama pogine vi\u0161e od 50 ljudi.&#8221; Zvu\u010di apsurdno, zar ne? Upravo tu le\u017ei su\u0161tina kritike koja se sru\u010dila na <strong>Anthropic<\/strong>.<\/p>\n<h2>Za\u0161to je ovo va\u017eno za celu AI industriju?<\/h2>\n<p>Ova rasprava nije samo interni problem jedne kompanije. Ona otvara pitanje kako \u0107e se uop\u0161te meriti i regulisati \u0161teta koju AI mo\u017ee da nanese. Trenutno ne postoji univerzalni standard \u2014 ni u EU, ni u SAD \u2014 koji defini\u0161e \u0161ta je &#8220;prihvatljiv nivo rizika&#8221; kod modela op\u0161te namene. Predlozi poput ovog iz Anthropica, koliko god zvu\u010dali ekstremno, zapravo poku\u0161avaju da popune tu prazninu.<\/p>\n<p>Kriti\u010dari, me\u0111utim, tvrde da ovakvi pragovi stvaraju la\u017eni ose\u0107aj sigurnosti i da <strong>regulatori<\/strong> ne bi trebalo da se oslanjaju na brojeve koje same kompanije predla\u017eu. Jer, na kraju krajeva, kompanija koja razvija model ima jasan interes da prag bude \u0161to vi\u0161i.<\/p>\n<h2>\u0160ta ka\u017ee Anthropic?<\/h2>\n<p>Kompanija se jo\u0161 nije zvani\u010dno oglasila povodom konkretnih navoda, ali iz ranijih izjava njihovih \u010delnika jasno je da zagovaraju takozvani &#8220;responsibly scaling&#8221; pristup \u2014 postepeno pove\u0107anje sposobnosti modela uz paralelno poja\u010davanje mera bezbednosti. Pitanje je samo da li je brojka od 50 ljudi zaista deo zvani\u010dne politike ili je re\u010d o radnom nacrtu koji je iscurio u javnost pre nego \u0161to je uop\u0161te usvojen.<\/p>\n<p>Bilo kako bilo, jedna stvar je sigurna: rasprava o tome kako meriti rizik od AI sistema tek je po\u010dela, a ovakvi predlozi \u0107e sigurno biti tema brojnih konferencija i regulatornih rasprava u narednim mesecima. Ako ni\u0161ta drugo, bar smo dobili materijal za razmi\u0161ljanje \u2014 i to onaj koji ne\u0107e tako brzo iza\u0107i iz mode.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Kompanija Anthropic, jedan od najve\u0107ih igra\u010da u svetu ve\u0161ta\u010dke inteligencije i tvorac modela Claude, na\u0161la se u centru burne rasprave nakon \u0161to je u javnost dospeo predlog njihovog internog politike o tome kada bi jedan AI model trebalo zabraniti. Prema ovom predlogu, koji je prvi uo\u010dio Telegraf.rs, model bi se mogao smatrati dovoljno opasnim za [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":4515,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[103,104],"tags":[],"class_list":["post-4516","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ai","category-tehnologija"],"_links":{"self":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/4516","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/comments?post=4516"}],"version-history":[{"count":0,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/4516\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media\/4515"}],"wp:attachment":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media?parent=4516"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/categories?post=4516"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/tags?post=4516"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}