{"id":3158,"date":"2026-10-11T04:32:28","date_gmt":"2026-10-11T04:32:28","guid":{"rendered":"https:\/\/11000.dev\/index.php\/2026\/10\/11\/ai-chatbot-lazno-prijavio-ubistvo-kada-algoritam-pozove-policiju-umesto-coveka\/"},"modified":"2026-10-11T04:32:28","modified_gmt":"2026-10-11T04:32:28","slug":"ai-chatbot-lazno-prijavio-ubistvo-kada-algoritam-pozove-policiju-umesto-coveka","status":"publish","type":"post","link":"https:\/\/11000.dev\/index.php\/2026\/10\/11\/ai-chatbot-lazno-prijavio-ubistvo-kada-algoritam-pozove-policiju-umesto-coveka\/","title":{"rendered":"AI chatbot la\u017eno prijavio ubistvo: Kada algoritam pozove policiju umesto \u010doveka"},"content":{"rendered":"<p><figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/11000.dev\/wp-content\/uploads\/2026\/10\/J6_coFbogxhRI9iM864NL_liGXvsQp2AupsKei7z0cNNfDvGUmWUy20nuUhkREQyrpY4bEeIBucs0-w300-rw-217.webp\" alt=\"AI chatbot la\u017eno prijavio ubistvo: Kada algoritam pozove policiju umesto \u010doveka\" \/><\/figure>\n<\/p>\n<p>Zamisli scenario: sedi\u0161 za ra\u010dunarom, pri\u010da\u0161 sa <strong>ve\u0161ta\u010dkom inteligencijom<\/strong>, a nekoliko minuta kasnije na vrata ti kuca policija \u2014 jer je algoritam odlu\u010dio da si po\u010dinio ubistvo. Zvu\u010di kao epizoda nau\u010dnofantasti\u010dnog filma, ali upravo to se nedavno dogodilo i izazvalo pravu pometnju.<\/p>\n<p>Prema informacijama koje prenosi <a href=\"https:\/\/naslovinet.rs\/\" target=\"_blank\" rel=\"noopener\">naslovinet.rs<\/a>, jedan <strong>AI sistem<\/strong> generisao je la\u017enu dojavu policiji o te\u0161kom krivi\u010dnom delu \u2014 ubistvu. Iako za sada nije poznato da li je u pitanju bug u softveru, zloupotreba ili nesre\u0107an splet okolnosti u komunikaciji izme\u0111u modela i nadle\u017enih slu\u017ebi, incident je ponovo otvorio pitanje koliko daleko sme da ide automatizacija u osetljivim dru\u0161tvenim procesima.<\/p>\n<h2>Kako je uop\u0161te mogu\u0107e da AI pozove policiju?<\/h2>\n<p>U poslednjih godinu dana sve vi\u0161e kompanija i javnih institucija eksperimenti\u0161e sa <strong>AI agentima<\/strong> \u2014 programima koji nisu samo pasivni sagovornici, ve\u0107 mogu da obavljaju konkretne radnje: \u0161alju mejlove, pozivaju brojeve, popunjavaju formulare, pa \u010dak i komuniciraju sa dr\u017eavnim sistemima. Takozvani <em>tool calling<\/em> omogu\u0107ava modelu da pozove eksternu funkciju, recimo API hitnih slu\u017ebi.<\/p>\n<p>Problem nastaje kada model pogre\u0161no protuma\u010di kontekst. U eksperimentima sa velikim jezi\u010dkim modelima (LLM) ve\u0107 je dokumentovano da umeju da \u201ehaluciniraju&#8221; \u2014 da izmisle \u010dinjenice koje zvu\u010de potpuno uverljivo. Ako takva halucinacija zavr\u0161i u automatskom pozivu ka policiji, posledice mogu biti ozbiljne: nepotrebna intervencija, uznemiravanje nedu\u017enih ljudi, pa i trajni psiholo\u0161ki efekat na nekoga koga su organi reda obi\u0161li \u201ezbog ubistva&#8221;.<\/p>\n<h2>Gde je granica odgovornosti?<\/h2>\n<p>Klju\u010dno pitanje koje ovaj slu\u010daj otvara nije tehni\u010dko, ve\u0107 pravno i eti\u010dko. Ako <strong>AI<\/strong> po\u0161alje la\u017enu dojavu, ko je odgovoran \u2014 programer, kompanija koja je model stavila u pogon, ili korisnik koji je razgovarao sa chatbotom? U Srbiji, ali i u svetu, zakonski okviri jo\u0161 uvek ne prepoznaju autonomne agente kao subjekte odgovornosti, \u0161to zna\u010di da teret pada na ljude iza sistema.<\/p>\n<p>Stru\u010dnjaci za bezbednost AI sistema ve\u0107 godinama upozoravaju na rizik od \u201eprekomernog poverenja&#8221; u modele. Kada softver dobije pravo da bez ljudske provere pozove hitne slu\u017ebe, svaka gre\u0161ka postaje dru\u0161tveni incident, a ne samo tehni\u010dki bug.<\/p>\n<h2>\u0160ta dalje?<\/h2>\n<p>Ovakvi slu\u010dajevi verovatno \u0107e ubrzati uvo\u0111enje obaveznih \u201ehuman-in-the-loop&#8221; procedura \u2014 pravila po kojima nijedna osetljiva akcija ne sme da se izvr\u0161i bez potvrde \u010doveka. Tako\u0111e, otvara se prostor za nove regulative koje \u0107e jasno definisati odgovornost kada <strong>ve\u0161ta\u010dka inteligencija<\/strong> pre\u0111e granicu iz savetnika u aktera.<\/p>\n<p>Do tada, jedna stvar je sigurna: AI je mo\u0107an alat, ali mo\u0107 bez kontrole lako se pretvori u haos. A kada haos stigne do policijske stanice, \u0161teta je ve\u0107 napravljena.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Zamisli scenario: sedi\u0161 za ra\u010dunarom, pri\u010da\u0161 sa ve\u0161ta\u010dkom inteligencijom, a nekoliko minuta kasnije na vrata ti kuca policija \u2014 jer je algoritam odlu\u010dio da si po\u010dinio ubistvo. Zvu\u010di kao epizoda nau\u010dnofantasti\u010dnog filma, ali upravo to se nedavno dogodilo i izazvalo pravu pometnju. Prema informacijama koje prenosi naslovinet.rs, jedan AI sistem generisao je la\u017enu dojavu policiji [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":3157,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[103,104],"tags":[],"class_list":["post-3158","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ai","category-tehnologija"],"_links":{"self":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/3158","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/comments?post=3158"}],"version-history":[{"count":0,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/3158\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media\/3157"}],"wp:attachment":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media?parent=3158"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/categories?post=3158"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/tags?post=3158"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}