{"id":7139,"date":"2026-11-17T04:29:08","date_gmt":"2026-11-17T04:29:08","guid":{"rendered":"https:\/\/11000.dev\/index.php\/2026\/11\/17\/openai-otvorio-vrata-spoljnim-ekspertima-pocinje-prva-faza-ugradenih-procena-bezbednosti-ai-modela\/"},"modified":"2026-11-17T04:29:08","modified_gmt":"2026-11-17T04:29:08","slug":"openai-otvorio-vrata-spoljnim-ekspertima-pocinje-prva-faza-ugradenih-procena-bezbednosti-ai-modela","status":"publish","type":"post","link":"https:\/\/11000.dev\/index.php\/2026\/11\/17\/openai-otvorio-vrata-spoljnim-ekspertima-pocinje-prva-faza-ugradenih-procena-bezbednosti-ai-modela\/","title":{"rendered":"OpenAI otvorio vrata spoljnim ekspertima: po\u010dinje prva faza ugra\u0111enih procena bezbednosti AI modela"},"content":{"rendered":"<p><strong>OpenAI je potpisao ugovore sa \u010detiri nezavisna evaluatora \u2014 Apollo Research, METR, Transluce i Goodfire \u2014 za prvu fazu takozvanih \u201eugra\u0111enih procena&#8221; (embedded assessments).<\/strong> Re\u010d je o modelu saradnje u kojem spoljni stru\u010dnjaci dobijaju dubinski pristup internim modelima, sistemima i dokumentaciji kompanije, kako bi procenili uskla\u0111enost modela i efikasnost za\u0161titnih mehanizama tokom du\u017eeg perioda.<\/p>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/11000.dev\/wp-content\/uploads\/2026\/11\/embedded-assessments-neutral-023-social-revised.png\" alt=\"OpenAI otvorio vrata spoljnim ekspertima: po\u010dinje prva faza ugra\u0111enih procena bezbednosti AI modela\" \/><\/figure>\n<p>Ovo nije samo jo\u0161 jedno saop\u0161tenje o \u201eposve\u0107enosti bezbednosti&#8221;. Ugra\u0111ene procene podrazumevaju da nezavisni eksperti dobiju pristup resursima koje koriste i sami OpenAI istra\u017eiva\u010di \u2014 uklju\u010duju\u0107i <strong>checkpoint-e modela, izvorni kod, podatke za treniranje i evaluaciju, sisteme za nadzor, tehni\u010dku dokumentaciju<\/strong>, ali i direktne razgovore sa istra\u017eiva\u010dima i in\u017eenjerima koji rade na tim modelima. Cilj je da procenjiva\u010di imaju dovoljno konteksta i dokaza da sprovedu nezavisne evaluacije i prona\u0111u propuste koje sama kompanija mo\u017eda nije predvidela.<\/p>\n<h2>\u0160ta \u0107e zapravo raditi spoljni eksperti<\/h2>\n<p>Prve procene fokusiraju se na uskla\u0111enost i za\u0161titne mehanizme modela tokom treniranja i interne upotrebe, i nadovezuju se na postoje\u0107e \u201esafety case&#8221; dokumente kompanije. OpenAI navodi da ove aktivnosti podr\u017eavaju i obaveze preuzete u okviru <strong>White House Accord on Super Intelligence<\/strong>, sporazuma kojim se kompanija obavezala na nezavisne procene svojih bezbednosnih kontrola.<\/p>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/11000.dev\/wp-content\/uploads\/2026\/11\/introducing-control-room-cover-1.webp\" alt=\"OpenAI otvorio vrata spoljnim ekspertima: po\u010dinje prva faza ugra\u0111enih procena bezbednosti AI modela\" \/><\/figure>\n<p>Apollo Research \u0107e, na primer, procenjivati da li bi modeli mogli prikriveno da rade protiv namera svojih developera i da li bi ih postoje\u0107i za\u0161titni sistemi uo\u010dili. Njihova procena bi\u0107e podeljena u dve faze i pokriva \u010detiri tvrdnje: da treniranje nije podsticalo subverziju, da jake evaluacije i red teaming ne izazivaju subverzivno pona\u0161anje, da modeli nisu poku\u0161ali subverziju tokom interne upotrebe i da bi razlozi za takvo pona\u0161anje bili detektabilni. Za prvu fazu OpenAI \u0107e im dati pristup odabranim javnim i neobjavljenim modelima, checkpoint-ima, relevantnim podacima i rezultatima evaluacija, kao i alatima i ra\u010dunarskim resursima za nezavisno testiranje.<\/p>\n<p>Goodfire \u0107e, s druge strane, ugostiti istra\u017eiva\u010de za interpretabilnost i koristiti sopstvenu platformu za analizu unutra\u0161njosti modela. Njihov glavni zadatak je nadzor nad procesom treniranja, debagovanje i uskla\u0111enost, a primarni korisnici njihovih nalaza bi\u0107e interni OpenAI istra\u017eiva\u010di, koji \u0107e ih koristiti za unapre\u0111enje bezbednosti. Goodfire \u0107e s vremena na vreme objavljivati i sopstvene nalaze.<\/p>\n<h2>Za\u0161to je ovo va\u017eno<\/h2>\n<p>Kako AI sposobnosti ubrzano rastu, a sa njima i potencijalni rizici, nezavisno izve\u0161tavanje o tome kako laboratorije procenjuju i upravljaju tim rizicima postaje sve va\u017enije za javnost. OpenAI navodi da ova saradnja mo\u017ee doprineti ja\u010danju zajedni\u010dkih standarda za nezavisne procene i transparentnost cele industrije.<\/p>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/11000.dev\/wp-content\/uploads\/2026\/11\/gpt-6-cyber-cover-2.webp\" alt=\"OpenAI otvorio vrata spoljnim ekspertima: po\u010dinje prva faza ugra\u0111enih procena bezbednosti AI modela\" \/><\/figure>\n<p>Treba imati u vidu da su ovo tek <strong>pilot procene<\/strong> \u2014 prva faza. Kompanija ka\u017ee da \u0107e nau\u010deno iskoristiti za produbljivanje saradnje sa nezavisnim ekspertima u narednim mesecima. Detalji o tome \u0161ta \u0107e ta\u010dno METR i Transluce raditi u ovoj fazi nisu razra\u0111eni u objavi, ali je jasno da je okvir postavljen: spoljni eksperti ulaze unutar laboratorije, a ne posmatraju je sa strane. Za industriju koja se \u010desto kritikuje zbog nedovoljne transparentnosti, to je korak koji \u0107e se pratiti \u2014 i po rezultatima, i po tome koliko \u0107e zaista toga biti objavljeno.<\/p>\n<p>Vi\u0161e detalja o samom programu mo\u017eete prona\u0107i na <a href=\"https:\/\/openai.com\/index\/our-first-phase-of-embedded-assessments\" target=\"_blank\" rel=\"noopener\">zvani\u010dnom OpenAI blogu<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>OpenAI je potpisao ugovore sa \u010detiri nezavisna evaluatora \u2014 Apollo Research, METR, Transluce i Goodfire \u2014 za prvu fazu takozvanih \u201eugra\u0111enih procena&#8221; (embedded assessments). Re\u010d je o modelu saradnje u kojem spoljni stru\u010dnjaci dobijaju dubinski pristup internim modelima, sistemima i dokumentaciji kompanije, kako bi procenili uskla\u0111enost modela i efikasnost za\u0161titnih mehanizama tokom du\u017eeg perioda. Ovo [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":7134,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[103,104],"tags":[],"class_list":["post-7139","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ai","category-tehnologija"],"_links":{"self":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/7139","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/comments?post=7139"}],"version-history":[{"count":0,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/7139\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media\/7134"}],"wp:attachment":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media?parent=7139"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/categories?post=7139"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/tags?post=7139"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}