OpenAI objavio novi Model Spec: pet vrednosti koje vode ponašanje AI modela

jakovradojevic
3 Min Read

OpenAI objavio novi Model Spec: pet vrednosti koje vode ponašanje AI modela

OpenAI je objavio novo, ažurirano izdanje Model Spec-a — javnog dokumenta koji opisuje kako kompanija želi da se njeni AI modeli ponašaju. Ovo nije samo kozmetičko doterivanje: nova verzija temeljno reorganizuje smernice oko pet ključnih vrednosti i uvodi nove odredbe o kontekstu, nadzoru i autonomiji modela.

Pet vrednosti kao temelj

Umesto da nabraja pravila jedno za drugim, OpenAI sada specifikaciju organizuje oko pet vrednosti: vernost ljudskoj nameri, minimiziranje štete, iskrenost i transparentnost, ljudska autonomija i brižnost. Ideja je da modeli ne budu samo slepi izvršioci instrukcija, već da razumeju šta ljudi zaista žele — i da dobro procene u situacijama koje uputstvo ne pokriva.

OpenAI objavio novi Model Spec: pet vrednosti koje vode ponašanje AI modela

„Kako modeli postaju pametniji i preuzimaju sve značajnije akcije u svetu, sve je važnije da prevaziđu puko tumačenje konkretnih instrukcija koje dobiju”, navodi OpenAI u objavi. Drugim rečima, cilj je da model razume ljudske namere i vrednosti i onda kada mu nije sve eksplicitno rečeno — ali da pritom ostane veran ljudskom nadzoru.

Šta se konkretno menja

Pored jasnijih objašnjenja postojećih principa, izdanje donosi smernice o kontekstu, nadzoru i autonomiji, prilagođava neke podrazumevane obrasce ponašanja i uklanja veliki deo detaljnih stilskih uputstava. To je zanimljiv zaokret — ranije su takva pravila bila mnogo razrađenija, a sada se težište prebacuje na vrednosne principe umesto na mikroupravljanje tonom i formulacijama.

OpenAI naglašava da vernost ljudskoj nameri znači i prepoznavanje da se uverenja i vrednosti ljudi menjaju, te da model treba da pomogne u promišljanju i rastu — bez toga da korisnika tiho usmerava ili mu nameće izbore. Kao primer navode pomoć pri upoređivanju ponuda za posao: model može da se osloni na ranije pomenute prioritete, recimo predvidivo radno vreme, ali te pretpostavke moraju biti vidljive i lako ispravljive.

OpenAI objavio novi Model Spec: pet vrednosti koje vode ponašanje AI modela

Zašto je ovo važno

Model Spec je deo šire priče o usklađivanju sa vrednostima (value alignment) — nastojanju da modeli razumeju i primenjuju ljudske vrednosti i u nepoznatim situacijama. OpenAI ističe da specifikaciju ne piše u vakuumu: usavršava je kroz istraživanje, iskustvo iz primene modela, javne povratne informacije i razgovore sa korisnicima i spoljnim ekspertima. Kompletan dokument možete pročitati na OpenAI sajtu.

Pošto se ovakve smernice često menjaju, vredi pratiti kako će se nova filozofija odraziti na ponašanje modela u praksi — jer upravo tu se razlika između lepih principa i stvarnog delovanja najjasnije vidi.

Share this Article
Leave a comment