{"id":2689,"date":"2026-10-03T16:33:59","date_gmt":"2026-10-03T16:33:59","guid":{"rendered":"https:\/\/11000.dev\/index.php\/2026\/10\/03\/anthropic-upozorava-ai-bi-mogao-da-bude-egzistencijalna-pretnja-po-covecanstvo\/"},"modified":"2026-10-03T16:33:59","modified_gmt":"2026-10-03T16:33:59","slug":"anthropic-upozorava-ai-bi-mogao-da-bude-egzistencijalna-pretnja-po-covecanstvo","status":"publish","type":"post","link":"https:\/\/11000.dev\/index.php\/2026\/10\/03\/anthropic-upozorava-ai-bi-mogao-da-bude-egzistencijalna-pretnja-po-covecanstvo\/","title":{"rendered":"Anthropic upozorava: AI bi mogao da bude egzistencijalna pretnja po \u010dove\u010danstvo"},"content":{"rendered":"

\"Anthropic<\/figure>\n

Kompanija Anthropic<\/strong>, jedan od najve\u0107ih igra\u010da u svetu ve\u0161ta\u010dke inteligencije, ponovo je podigla uzbunu zbog mogu\u0107ih rizika koje razvoj naprednih AI sistema nosi sa sobom. U najnovijem saop\u0161tenju, koje prenose svetski mediji, iz ove kompanije poru\u010duju da ve\u0161ta\u010dka inteligencija mo\u017ee da predstavlja ozbiljnu pretnju po opstanak \u010dove\u010danstva ukoliko se ne bude razvijala pod strogom kontrolom.<\/p>\n

Ovo nije prvi put da se Anthropic ogla\u0161ava ovim povodom. Kompanija koja stoji iza modela Claude<\/strong> ve\u0107 godinama insistira na konceptu takozvanog “alignmenta” \u2014 uskla\u0111ivanja ciljeva AI sistema sa ljudskim vrednostima i interesima. Njihov pristup, poznat kao Constitutional AI<\/strong>, upravo je nastao iz straha da bi mo\u0107ni algoritmi mogli da odlutaju u pravcu koji niko ne mo\u017ee da predvidi ni kontroli\u0161e.<\/p>\n

\u0160ta zapravo zna\u010di upozorenje?<\/h2>\n

Su\u0161tina poruke je jasna: \u0161to su AI modeli sposobniji, to je ve\u0107i rizik da \u0107e se pona\u0161ati na na\u010din koji nije u skladu sa ljudskim interesima. Anthropic ne govori o scenarijima iz nau\u010dne fantastike poput “Skyneta”, ve\u0107 o konkretnim problemima \u2014 od automatskog dono\u0161enja odluka bez ljudskog nadzora, preko zloupotrebe u vojne svrhe, do gubitka kontrole nad sistemima koji upravljaju kriti\u010dnom infrastrukturom.<\/p>\n

Ono \u0161to ovu pri\u010du \u010dini zanimljivijom jeste \u010dinjenica da upozorenje dolazi iz redova same industrije. To je sli\u010dno kao kada bi proizvo\u0111a\u010d automobila javno rekao da njegova vozila mogu da budu opasna \u2014 deluje kontraintuitivno, ali zapravo ima smisla. Kompanije poput Anthropica, OpenAI-ja i DeepMinda ve\u0107 godinama pozivaju na regulaciju, jer znaju da trka u naoru\u017eanju u AI sektoru mo\u017ee da dovede do toga da bezbednost bude stavljena u drugi plan.<\/p>\n

Regulacija kao jedini izlaz?<\/h2>\n

Stru\u010dnjaci se uglavnom sla\u017eu da je potrebna globalna regulativa, ali se razilaze u mi\u0161ljenju koliko je ona izvodljiva. Dok jedni predla\u017eu moratorijum na razvoj najmo\u0107nijih modela, drugi tvrde da bi takav potez samo omogu\u0107io da prednost steknu akteri koji ne po\u0161tuju nikakva pravila. U me\u0111uvremenu, Evropska unija<\/strong> ve\u0107 sprovodi svoj AI Act, dok Sjedinjene Dr\u017eave i Kina tek treba da usaglase svoje pristupe.<\/p>\n

Anthropic, s druge strane, ne predla\u017ee zaustavljanje razvoja. Njihov argument je da je bezbednost mogu\u0107e ugraditi u same temelje sistema \u2014 kroz tehni\u010dka re\u0161enja, transparentnost i me\u0111unarodnu saradnju. Da li je to dovoljno, ostaje da se vidi. Jedno je sigurno: rasprava o tome ko kontroli\u0161e ve\u0161ta\u010dku inteligenciju postaje jedno od najva\u017enijih pitanja na\u0161eg vremena.<\/p>\n

Za sada, poruka iz Anthropica je jasna \u2014 tehnologija koju sami razvijamo mogla bi da nam se obije o glavu ukoliko ne budemo pametniji od sopstvenih algoritama.<\/p>\n","protected":false},"excerpt":{"rendered":"

Kompanija Anthropic, jedan od najve\u0107ih igra\u010da u svetu ve\u0161ta\u010dke inteligencije, ponovo je podigla uzbunu zbog mogu\u0107ih rizika koje razvoj naprednih AI sistema nosi sa sobom. U najnovijem saop\u0161tenju, koje prenose svetski mediji, iz ove kompanije poru\u010duju da ve\u0161ta\u010dka inteligencija mo\u017ee da predstavlja ozbiljnu pretnju po opstanak \u010dove\u010danstva ukoliko se ne bude razvijala pod strogom kontrolom. […]<\/p>\n","protected":false},"author":1,"featured_media":2688,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[103,107],"tags":[],"class_list":["post-2689","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ai","category-nauka"],"_links":{"self":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/2689","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/comments?post=2689"}],"version-history":[{"count":0,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/2689\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media\/2688"}],"wp:attachment":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media?parent=2689"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/categories?post=2689"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/tags?post=2689"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}