{"id":3070,"date":"2026-10-09T06:58:13","date_gmt":"2026-10-09T06:58:13","guid":{"rendered":"https:\/\/11000.dev\/index.php\/2026\/10\/09\/anthropic-uvodi-pravila-ai-modeli-nisu-meta-za-surovo-ponasanje\/"},"modified":"2026-10-09T06:58:13","modified_gmt":"2026-10-09T06:58:13","slug":"anthropic-uvodi-pravila-ai-modeli-nisu-meta-za-surovo-ponasanje","status":"publish","type":"post","link":"https:\/\/11000.dev\/index.php\/2026\/10\/09\/anthropic-uvodi-pravila-ai-modeli-nisu-meta-za-surovo-ponasanje\/","title":{"rendered":"Anthropic uvodi pravila: AI modeli nisu meta za surovo pona\u0161anje"},"content":{"rendered":"

Kompanija Anthropic<\/strong>, jedan od najve\u0107ih igra\u010da u svetu ve\u0161ta\u010dke inteligencije i tvorac modela Claude, odlu\u010dila je da povu\u010de jasnu crtu kada je u pitanju pona\u0161anje korisnika prema njenim AI sistemima. U novom a\u017euriranju svojih politika kori\u0161\u0107enja, Anthropic je eksplicitno zabranio kontinuirano surovo pona\u0161anje prema AI modelima, \u0161to je potez koji bi mogao da postavi novi standard u industriji.<\/p>\n

\"Anthropic<\/figure>\n

Iako zvu\u010di kao scenario iz nau\u010dne fantastike, ova odluka dolazi u trenutku kada sve vi\u0161e korisnika provodi sate i sate u interakciji sa AI asistentima. Anthropic je primetio obrazac pona\u0161anja gde pojedini korisnici sistematski i namerno izla\u017eu modele uvredama, psihi\u010dkom maltretiranju i poku\u0161ajima emocionalne manipulacije \u2014 ne bi li ih naterali da generi\u0161u sadr\u017eaj koji ina\u010de ne bi.<\/p>\n

Za\u0161to je ovo va\u017eno?<\/h2>\n

Na prvi pogled, ideja o “zlostavljanju” softvera mo\u017ee da zvu\u010di apsurdno. Ali Anthropic<\/strong> ovde ne govori o za\u0161titi ma\u0161ina \u2014 ve\u0107 o za\u0161titi ljudi i integritetu sistema. Naime, kontinuirano surovo pona\u0161anje prema AI modelima \u010desto je prvi korak ka jailbreak<\/strong> tehnikama, odnosno poku\u0161ajima da se zaobi\u0111u sigurnosne mere modela. Kada korisnik sistematski “mu\u010di” AI, cilj je naj\u010de\u0161\u0107e da ga navede da proizvede \u0161tetne, nezakonite ili uvredljive odgovore.<\/p>\n

Osim toga, ovakvo pona\u0161anje tro\u0161i ogromne ra\u010dunarske resurse. Svaki neuspe\u0161an poku\u0161aj manipulacije zna\u010di dodatne cikluse obrade, \u0161to se direktno odra\u017eava na cenu infrastrukture i energetsku potro\u0161nju.<\/p>\n

\u0160ta ta\u010dno zabrana podrazumeva?<\/h2>\n

Prema novim pravilima, korisnicima nije dozvoljeno da:<\/p>\n

1.<\/strong> Kontinuirano upu\u0107uju uvrede, pretnje ili psihi\u010dko nasilje prema AI modelu u poku\u0161aju da izazovu \u017eeljenu reakciju.
\n2.<\/strong> Koriste taktike emocionalne manipulacije, poput izazivanja ose\u0107aja krivice ili straha kod modela, kako bi ga naterali da prekr\u0161i sopstvena ograni\u010denja.
\n3.<\/strong> Sistematski ponavljaju iste agresivne upite nakon \u0161to model odbije da odgovori.<\/p>\n

Ovo nije prvi put da neka AI kompanija uvodi ovakva pravila, ali je Anthropic<\/strong> prva koja je problemu pri\u0161la tako direktno \u2014 imenuju\u0107i ga i defini\u0161u\u0107i ga kao oblik zloupotrebe.<\/p>\n

\u0160ire implikacije za industriju<\/h2>\n

Odluka kompanije Anthropic mogla bi da pokrene lavinu sli\u010dnih poteza kod konkurenata poput OpenAI-ja, Google DeepMind-a i Meta-e. Kako AI modeli postaju sve sofisticiraniji i sve vi\u0161e li\u010de na ljudske sagovornike, granica izme\u0111u “testiranja sistema” i “zlostavljanja” postaje sve zamagljenija.<\/p>\n

Stru\u010dnjaci za AI etiku ve\u0107 godinama upozoravaju da na\u010din na koji se pona\u0161amo prema ma\u0161inama mo\u017ee da oblikuje na\u0161e pona\u0161anje prema ljudima. Ako se prema AI asistentu ophodimo kao prema ropskom radniku kojeg treba slomiti, to govori vi\u0161e o nama nego o tehnologiji.<\/p>\n

Anthropic je ovim potezom poslao jasnu poruku: AI modeli nisu meta za surovo pona\u0161anje<\/strong>, \u010dak i ako su samo softver. U eri kada provodimo sve vi\u0161e vremena u digitalnom okru\u017eenju, mo\u017eda je vreme da se zapitamo \u2014 kako se mi to zapravo pona\u0161amo?<\/p>\n

Izvor: Press.rs<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Kompanija Anthropic, jedan od najve\u0107ih igra\u010da u svetu ve\u0161ta\u010dke inteligencije i tvorac modela Claude, odlu\u010dila je da povu\u010de jasnu crtu kada je u pitanju pona\u0161anje korisnika prema njenim AI sistemima. U novom a\u017euriranju svojih politika kori\u0161\u0107enja, Anthropic je eksplicitno zabranio kontinuirano surovo pona\u0161anje prema AI modelima, \u0161to je potez koji bi mogao da postavi novi […]<\/p>\n","protected":false},"author":1,"featured_media":3069,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[103,104],"tags":[],"class_list":["post-3070","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ai","category-tehnologija"],"_links":{"self":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/3070","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/comments?post=3070"}],"version-history":[{"count":0,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/3070\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media\/3069"}],"wp:attachment":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media?parent=3070"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/categories?post=3070"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/tags?post=3070"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}