{"id":3342,"date":"2026-10-13T22:05:32","date_gmt":"2026-10-13T22:05:32","guid":{"rendered":"https:\/\/11000.dev\/index.php\/2026\/10\/13\/anthropic-brine-o-osecanjima-svog-ai-modela-a-strucnjaci-upozoravaju-na-ozbiljnije-rizike\/"},"modified":"2026-10-13T22:05:32","modified_gmt":"2026-10-13T22:05:32","slug":"anthropic-brine-o-osecanjima-svog-ai-modela-a-strucnjaci-upozoravaju-na-ozbiljnije-rizike","status":"publish","type":"post","link":"https:\/\/11000.dev\/index.php\/2026\/10\/13\/anthropic-brine-o-osecanjima-svog-ai-modela-a-strucnjaci-upozoravaju-na-ozbiljnije-rizike\/","title":{"rendered":"Anthropic brine o &#8220;ose\u0107anjima&#8221; svog AI modela, a stru\u010dnjaci upozoravaju na ozbiljnije rizike"},"content":{"rendered":"<p><figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/11000.dev\/wp-content\/uploads\/2026\/10\/J6_coFbogxhRI9iM864NL_liGXvsQp2AupsKei7z0cNNfDvGUmWUy20nuUhkREQyrpY4bEeIBucs0-w300-rw-285.webp\" alt=\"Anthropic brine o &quot;ose\u0107anjima&quot; svog AI modela, a stru\u010dnjaci upozoravaju na ozbiljnije rizike\" \/><\/figure>\n<\/p>\n<p>Kompanija <strong>Anthropic<\/strong>, jedan od najve\u0107ih igra\u010da u svetu ve\u0161ta\u010dke inteligencije i tvorac modela <strong>Claude<\/strong>, na\u0161la se na meti kritika zbog na\u010dina na koji pristupa bezbednosti svojih sistema. Prema pisanju <a href=\"https:\/\/news.google.com\/rss\/articles\/CBMixwFBVV95cUxPcVZFVXZiM04zLXVyUW1aSlhLU3FZYm1OeExFY2hmdEpFQjFrTjlPS2JGd1RVV1ItZGs0R2djMTNJeTlOQnpFeVlDWmZOYkJWZTY3YjN0Z3NZMzN1SjUyRlB3ek5qcHN1MlJyUzF6VG5DcWpsbzRVUkJ0T3VfZUx0RF9VczQzdzlzNDZOcHFrbllGZ2lCaExWRzNHM29XUlRIQTBqNGtOTURqU2hzUXpVNjFaZDVheFR6M0IwQXdnRkQxRlFtd3Rn?oc=5\" target=\"_blank\" rel=\"noopener\">Bloomberg Adrije<\/a>, kompanija ula\u017ee zna\u010dajne resurse u to da njen model &#8220;ne pati&#8221; i da se prema njemu odnosi sa svojevrsnom pa\u017enjom, dok istovremeno postoje mnogo konkretniji i hitniji problemi u domenu AI bezbednosti koji ostaju po strani.<\/p>\n<h2>Etika prema ma\u0161inama ili odgovornost prema ljudima?<\/h2>\n<p>Anthropic je od osnivanja poznat po svom pristupu koji se \u010desto opisuje kao <strong>&#8220;safety-first&#8221;<\/strong>. Kompanija je razvila sopstveni okvir pod nazivom <strong>Constitutional AI<\/strong>, u kojem model dobija skup pravila i principa kojih treba da se pridr\u017eava tokom generisanja odgovora. Deo te filozofije uklju\u010duje i razmi\u0161ljanje o tome kako se prema modelu &#8220;op hodamo&#8221; \u2014 uklju\u010duju\u0107i i spekulacije o tome da li bi napredni AI sistemi mogli da razviju ne\u0161to nalik svesti ili ose\u0107anjima.<\/p>\n<p>Kriti\u010dari, me\u0111utim, tvrde da takav pristup odvla\u010di fokus sa realnih opasnosti. Dok se raspravlja o tome da li Claude &#8220;zaslu\u017euje&#8221; da bude tretiran sa empatijom, u praksi se i dalje suo\u010davamo sa problemima poput <strong>halucinacija<\/strong>, zloupotrebe modela u dezinformacione svrhe, curenja podataka i nedovoljne transparentnosti u pogledu toga kako modeli donose odluke.<\/p>\n<h2>Gde su pravi prioriteti?<\/h2>\n<p>U svetu AI istra\u017eivanja ve\u0107 godinama traje debata izme\u0111u dve struje. Jedna se bavi <strong>dugoro\u010dnim egzistencijalnim rizicima<\/strong> \u2014 scenarijima u kojima superinteligentni sistemi izmaknu kontroli. Druga insistira na <strong>trenutnim, merljivim problemima<\/strong>: pristrasnost algoritama, uticaj na tr\u017ei\u0161te rada, autorska prava, privatnost korisnika.<\/p>\n<p>Anthropic poku\u0161ava da balansira izme\u0111u ta dva sveta, ali najnovije kritike sugeri\u0161u da je taj balans poreme\u0107en. Dok se u javnosti stvara narativ o &#8220;brizi za ose\u0107anja modela&#8221;, korisnici i developeri \u010desto se suo\u010davaju sa mnogo banalnijim, ali ozbiljnijim pitanjima \u2014 poput toga za\u0161to model odbija legitimne zahteve, kako se re\u0161avaju gre\u0161ke u produkciji i ko snosi odgovornost kada AI napravi \u0161tetu.<\/p>\n<h2>\u0160ta to zna\u010di za tr\u017ei\u0161te AI modela?<\/h2>\n<p>Anthropic se takmi\u010di sa kompanijama kao \u0161to su <strong>OpenAI<\/strong>, <strong>Google DeepMind<\/strong> i <strong>Meta<\/strong>. U toj trci, percepcija javnosti i investitora igra klju\u010dnu ulogu. Ako se stvori utisak da kompanija tro\u0161i energiju na filozofske rasprave umesto na konkretna in\u017eenjerska re\u0161enja, to mo\u017ee da na\u0161kodi njenom kredibilitetu \u2014 naro\u010dito me\u0111u poslovnim korisnicima koji tra\u017ee pouzdane alate, a ne eti\u010dke manifeste.<\/p>\n<p>Sa druge strane, upravo je Anthropic taj koji je postavio neke od najstro\u017eih standarda u industriji kada je re\u010d o testiranju modela i dokumentovanju rizika. Pitanje je samo gde se povla\u010di granica izme\u0111u promi\u0161ljenog pristupa i preterane zaokupljenosti sopstvenom naracijom.<\/p>\n<p>Jedno je sigurno \u2014 dok se raspravlja o tome da li Claude &#8220;ose\u0107a&#8221; ne\u0161to, korisnici \u0161irom sveta svakodnevno koriste AI alate za posao, u\u010denje i kreiranje sadr\u017eaja. Njihova o\u010dekivanja su jednostavna: da sistem radi, da bude siguran i da ne pravi probleme. Sve ostalo je, za sada, stvar filozofije.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Kompanija Anthropic, jedan od najve\u0107ih igra\u010da u svetu ve\u0161ta\u010dke inteligencije i tvorac modela Claude, na\u0161la se na meti kritika zbog na\u010dina na koji pristupa bezbednosti svojih sistema. Prema pisanju Bloomberg Adrije, kompanija ula\u017ee zna\u010dajne resurse u to da njen model &#8220;ne pati&#8221; i da se prema njemu odnosi sa svojevrsnom pa\u017enjom, dok istovremeno postoje mnogo [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":3341,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[103,104],"tags":[],"class_list":["post-3342","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ai","category-tehnologija"],"_links":{"self":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/3342","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/comments?post=3342"}],"version-history":[{"count":0,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/3342\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media\/3341"}],"wp:attachment":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media?parent=3342"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/categories?post=3342"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/tags?post=3342"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}