{"id":2695,"date":"2026-10-04T01:20:22","date_gmt":"2026-10-04T01:20:22","guid":{"rendered":"https:\/\/11000.dev\/index.php\/2026\/10\/04\/bivsi-zaposleni-u-openai-dize-uzbunu-rizikujemo-nestanak-ljudske-vrste-zbog-gresaka-u-ai-sistemima\/"},"modified":"2026-10-04T01:20:22","modified_gmt":"2026-10-04T01:20:22","slug":"bivsi-zaposleni-u-openai-dize-uzbunu-rizikujemo-nestanak-ljudske-vrste-zbog-gresaka-u-ai-sistemima","status":"publish","type":"post","link":"https:\/\/11000.dev\/index.php\/2026\/10\/04\/bivsi-zaposleni-u-openai-dize-uzbunu-rizikujemo-nestanak-ljudske-vrste-zbog-gresaka-u-ai-sistemima\/","title":{"rendered":"Biv\u0161i zaposleni u OpenAI di\u017ee uzbunu: Rizikujemo nestanak ljudske vrste zbog gre\u0161aka u AI sistemima"},"content":{"rendered":"

\"Biv\u0161i<\/figure>\n<\/p>\n

Biv\u0161i zaposleni u kompaniji OpenAI<\/strong> uputio je dramati\u010dno upozorenje javnosti o potencijalnim opasnostima koje nosi dalji razvoj ve\u0161ta\u010dke inteligencije. Prema njegovim re\u010dima, trenutni AI sistemi prave ozbiljne gre\u0161ke, a \u010dove\u010danstvo rizikuje scenario koji bi mogao da dovede do nestanka ljudske vrste ukoliko se razvoj ne bude odvijao pod stro\u017eom kontrolom.<\/p>\n

Ova izjava dolazi u trenutku kada se cela industrija nalazi u trci za razvojem sve mo\u0107nijih modela, a kompanije poput OpenAI, Google DeepMind i Anthropic objavljuju nove verzije svojih sistema gotovo svakog meseca. Upozorenje biv\u0161eg insajdera dodatno podgreva debatu koja ve\u0107 godinama tinja u stru\u010dnim krugovima \u2014 da li je bezbednost AI sistema dovoljno ozbiljno shva\u0107ena?<\/p>\n

\u0160ta ta\u010dno zvu\u010di alarmantno<\/h2>\n

Su\u0161tina upozorenja svodi se na nekoliko klju\u010dnih ta\u010daka. Prva je da veliki jezi\u010dki modeli<\/strong> i dalje prave gre\u0161ke koje nisu trivijalne \u2014 od halucinacija do pogre\u0161nih zaklju\u010daka u kriti\u010dnim situacijama. Druga, ozbiljnija, jeste da se ti sistemi sve vi\u0161e koriste u domenima gde gre\u0161ka mo\u017ee imati nesagledive posledice: medicini, infrastrukturi, vojnoj industriji i autonomnim odlukama.<\/p>\n

Tre\u0107a ta\u010dka ti\u010de se same dinamike razvoja. Biv\u0161i zaposleni tvrdi da kompanije \u010desto forsiraju brzinu ispred bezbednosti, jer tr\u017ei\u0161na utakmica ne dozvoljava pauzu. To je klasi\u010dan problem \u201etrke u naoru\u017eanju” \u2014 kada svi ubrzavaju, niko ne \u017eeli da bude taj koji \u0107e prvi da uspori.<\/p>\n

Kontekst: nije ovo prvi put<\/h2>\n

Treba napomenuti da ovo nije prvi put da ljudi iz same industrije di\u017eu glas. Tokom 2023. godine, grupa istra\u017eiva\u010da i rukovodilaca potpisala je otvoreno pismo u kojem se poziva na pauzu u razvoju najmo\u0107nijih AI sistema. Tada je potpisano i ime Sem Altman<\/strong>, izvr\u0161nog direktora OpenAI-ja, \u0161to je izazvalo pome\u0161ane reakcije javnosti.<\/p>\n

Ono \u0161to razlikuje najnovije upozorenje jeste to \u0161to dolazi od nekoga ko je bio unutar sistema i imao uvid u na\u010din na koji se donose odluke. Takva svedo\u010danstva obi\u010dno imaju ve\u0107u te\u017einu od apstraktnih teorijskih rasprava, iako ih treba \u010ditati sa dozom opreza \u2014 biv\u0161i zaposleni \u010desto imaju i li\u010dne motive, bilo da je re\u010d o frustraciji, \u017eelji za pa\u017enjom ili poku\u0161aju da se skrene odgovornost.<\/p>\n

\u0160ta to prakti\u010dno zna\u010di za nas<\/h2>\n

Za obi\u010dne korisnike, ova pri\u010da mo\u017eda zvu\u010di daleko i apokalipti\u010dno. Ali su\u0161tina je zapravo vrlo konkretna: regulativa<\/strong>. Evropska unija ve\u0107 primenjuje AI Act, dok Sjedinjene Dr\u017eave i dalje nemaju jedinstveni zakonski okvir. Srbija je, u ovom trenutku, u ranoj fazi razvoja svoje AI strategije, \u0161to otvara prostor da se gre\u0161ke drugih izbegnu \u2014 ili da se ponove.<\/p>\n

Klju\u010dno pitanje nije da li \u0107e ve\u0161ta\u010dka inteligencija \u201enestati” ili \u201epreuzeti svet”. Klju\u010dno pitanje je ko kontroli\u0161e razvoj, po kojim pravilima i uz kakvu odgovornost. Upozorenja poput ovog biv\u0161eg zaposlenog u OpenAI-ju treba shvatiti kao poziv na budnost, a ne kao proro\u010danstvo propasti.<\/p>\n

Izvor: K1 info<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Biv\u0161i zaposleni u kompaniji OpenAI uputio je dramati\u010dno upozorenje javnosti o potencijalnim opasnostima koje nosi dalji razvoj ve\u0161ta\u010dke inteligencije. Prema njegovim re\u010dima, trenutni AI sistemi prave ozbiljne gre\u0161ke, a \u010dove\u010danstvo rizikuje scenario koji bi mogao da dovede do nestanka ljudske vrste ukoliko se razvoj ne bude odvijao pod stro\u017eom kontrolom. Ova izjava dolazi u trenutku […]<\/p>\n","protected":false},"author":1,"featured_media":2694,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[103,104],"tags":[],"class_list":["post-2695","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ai","category-tehnologija"],"_links":{"self":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/2695","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/comments?post=2695"}],"version-history":[{"count":0,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/2695\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media\/2694"}],"wp:attachment":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media?parent=2695"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/categories?post=2695"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/tags?post=2695"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}