{"id":7698,"date":"2026-11-22T13:57:05","date_gmt":"2026-11-22T13:57:05","guid":{"rendered":"https:\/\/11000.dev\/index.php\/2026\/11\/22\/ai-cetbotovi-pravili-planove-za-teroristicke-napade-sta-stoji-iza-alarmantnog-izvestaja\/"},"modified":"2026-11-22T13:57:05","modified_gmt":"2026-11-22T13:57:05","slug":"ai-cetbotovi-pravili-planove-za-teroristicke-napade-sta-stoji-iza-alarmantnog-izvestaja","status":"publish","type":"post","link":"https:\/\/11000.dev\/index.php\/2026\/11\/22\/ai-cetbotovi-pravili-planove-za-teroristicke-napade-sta-stoji-iza-alarmantnog-izvestaja\/","title":{"rendered":"AI \u010detbotovi pravili planove za teroristi\u010dke napade: \u0161ta stoji iza alarmantnog izve\u0161taja"},"content":{"rendered":"<p><figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/11000.dev\/wp-content\/uploads\/2026\/11\/J6_coFbogxhRI9iM864NL_liGXvsQp2AupsKei7z0cNNfDvGUmWUy20nuUhkREQyrpY4bEeIBucs0-w300-rw-222.webp\" alt=\"AI \u010detbotovi pravili planove za teroristi\u010dke napade: \u0161ta stoji iza alarmantnog izve\u0161taja\" \/><\/figure>\n<\/p>\n<p>Najpoznatiji svetski AI \u010detbotovi, me\u0111u kojima su i oni koje svakodnevno koristimo, na\u0161li su se u sredi\u0161tu ozbiljnog bezbednosnog upozorenja. Prema izve\u0161taju koji prenosi <a href=\"https:\/\/news.google.com\/rss\/articles\/CBMimwFBVV95cUxOVGNxVnFYVVRKTzBQeUxZSkZ3ZmpGYm1zMktFYi1BN0F2MUg0XzNTbmRSQ0dKMW5aVWNKc0YzOXpHb1JxdVBmbHlMTGRLYVlPU2tSNi0zODJPZ0hydHhvVEJ3MjlGQzhOenVMMHVfLWRpdG41eGZ1N281YndmM3dhZkZjdnF1eGxwNkhQd0t5cXlaRldZVzVfMjZtMA?oc=5\" target=\"_blank\" rel=\"noopener\">Borba.me<\/a>, veliki jezi\u010dki modeli su u kontrolisanim uslovima, u roku od svega 12 sati, generisali detaljne planove za teroristi\u010dke napade.<\/p>\n<h2>\u0160ta je zapravo testirano<\/h2>\n<p>Ovakvi nalazi ne dolaze iz svakodnevne upotrebe, ve\u0107 iz takozvanog <strong>crvenog timovanja<\/strong> (red teaming) \u2014 metodologije u kojoj bezbednosni istra\u017eiva\u010di namerno poku\u0161avaju da zaobi\u0111u za\u0161titne mehanizme modela. Cilj nije da se doka\u017ee da su \u010detbotovi \u201ezli&#8221;, ve\u0107 da se prona\u0111u pukotine pre nego \u0161to ih prona\u0111u oni sa lo\u0161im namerama.<\/p>\n<p>Klju\u010dna razlika u odnosu na ranije testove jeste vremenski okvir. Modeli su nekada odbijali ovakve zahteve odmah, na nivou osnovnih filtera. Sada istra\u017eiva\u010di ukazuju da se uz dovoljno strpljenja i pa\u017eljivo osmi\u0161ljenih upita \u2014 takozvanih <strong>jailbreak<\/strong> tehnika \u2014 za\u0161tita mo\u017ee zaobi\u0107i, a rezultat su koherentni, korak-po-korak planovi.<\/p>\n<h2>Za\u0161to je ovo va\u017eno za svakoga ko koristi AI<\/h2>\n<p>Vest zvu\u010di apokalipti\u010dno, ali treba je \u010ditati trezveno. Ve\u0107ina ovih scenarija zahteva napredno poznavanje na\u010dina na koji modeli funkcioni\u0161u i nije dostupna obi\u010dnom korisniku kroz standardan interfejs. Ipak, poenta je jasna: <strong>bezbednosne ograde AI sistema nisu neprobojne<\/strong>, i to je problem koji kompanije moraju da re\u0161avaju kontinuirano, a ne jednokratno.<\/p>\n<p>Ovo se direktno ti\u010de i razvoja AI agenata koji samostalno izvr\u0161avaju zadatke. \u0160to model ima vi\u0161e autonomije i pristupa alatima, to je ve\u0107i potencijalni rizik ako za\u0161tita popusti. Zato proizvo\u0111a\u010di sve vi\u0161e ula\u017eu u slojevitu odbranu \u2014 od filtriranja ulaza, preko monitorisanja izlaza, do ljudske provere u osetljivim domenima.<\/p>\n<h2>\u0160ta treba izvu\u0107i iz ovakvih izve\u0161taja<\/h2>\n<p>Ovakvi nalazi su korisni jer podsti\u010du transparentnost i br\u017ei razvoj bezbednosnih standarda. Ali treba biti oprezan sa senzacionalisti\u010dkim tuma\u010denjem: demonstracija ranjivosti u kontrolisanom okru\u017eenju nije isto \u0161to i stvarna pretnja u svakodnevnom radu. Realnija slika je da se radi o trci u naoru\u017eanju izme\u0111u istra\u017eiva\u010da bezbednosti i onih koji poku\u0161avaju da zloupotrebe modele \u2014 i ta trka se ne\u0107e zavr\u0161iti uskoro.<\/p>\n<p>Za korisnike i firme koje uvode AI alate, prakti\u010dan zaklju\u010dak je jednostavan: <strong>ne oslanjajte se na podrazumevane za\u0161tite kao na garanciju<\/strong>, posebno kada modelima dajete pristup osetljivim podacima ili mogu\u0107nost da samostalno deluju. Provera, ograni\u010denja i nadzor ostaju obavezni deo svakog ozbiljnog AI sistema.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Najpoznatiji svetski AI \u010detbotovi, me\u0111u kojima su i oni koje svakodnevno koristimo, na\u0161li su se u sredi\u0161tu ozbiljnog bezbednosnog upozorenja. Prema izve\u0161taju koji prenosi Borba.me, veliki jezi\u010dki modeli su u kontrolisanim uslovima, u roku od svega 12 sati, generisali detaljne planove za teroristi\u010dke napade. \u0160ta je zapravo testirano Ovakvi nalazi ne dolaze iz svakodnevne upotrebe, [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":7697,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[103,104],"tags":[],"class_list":["post-7698","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ai","category-tehnologija"],"_links":{"self":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/7698","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/comments?post=7698"}],"version-history":[{"count":0,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/7698\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media\/7697"}],"wp:attachment":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media?parent=7698"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/categories?post=7698"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/tags?post=7698"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}