OpenAI je najavio dve važne promene u svom pristupu bezbednosti korisnika: uvođenje redovnog Community Safety Report-a (izveštaja o bezbednosti zajednice) i dodatna ograničenja sadržaja o vatrenom oružju za maloletnike. Kompanija time želi da pokaže da bezbednost zajednice ostaje jedan od njenih glavnih prioriteta, ali i da otvoreno govori o tome kako njeni sistemi prepoznaju i sprečavaju potencijalnu štetu.

ChatGPT je danas jedan od najkorišćenijih AI proizvoda na svetu, a OpenAI tvrdi da je uložio značajne resurse u sisteme za detekciju potencijalne štete, pregled rizičnih aktivnosti i eskalaciju stvarnih pretnji. U trećem kvartalu 2026. kompanija je, kako navode, uputila više od 200 prijava organima za sprovođenje zakona zbog pretnji nasiljem. Te prijave, dodaju, daju konkretne rezultate u sprečavanju nasilnih planova, a u proceni teških slučajeva i dalje se oslanjaju na stručnjake za mentalno zdravlje i ponašanje.
Šta će sadržati novi izveštaj
OpenAI se obavezao da će objavljivati izveštaj o bezbednosti zajednice dva puta godišnje. Prvi izveštaj bi trebalo da izađe početkom 2027. i pokriće drugu polovinu 2026. godine, a nakon toga slede redovna ažuriranja na svakih šest meseci. Dokument će objašnjavati kako su modeli trenirani da prepoznaju, istraže i odgovore na bezbednosne probleme, uz anonimizovane primere kako se nasilje povezano sa sadržajem manifestuje u praksi.
Kompanija obećava i da će deliti podatke o efikasnosti svojih zaštitnih mehanizama, kao i o novim merama i promenama politika. Cilj je, kako navode, da korisnici dobiju jasnu sliku o pristupu, rizicima i koracima koje kompanija preduzima da ih reši.

Oštrija pravila za sadržaj o masovnim napadima
OpenAI uvodi i dodatna ograničenja za sve korisnike, bez obzira na uzrast. Modeli su već trenirani da ne daju uputstva koja bi nekome pomogla da planira ili izvede nasilje, ali sada se pojačavaju restrikcije kada su u pitanju pitanja o prošlim masovnim napadima i njihovim počiniocima. ChatGPT će i dalje moći da pomogne korisnicima da razumeju te događaje, uticaj na žrtve i zajednice, kao i da prepoznaju znakove upozorenja i spreče buduće nasilje.
Međutim, kompanija namerava da ograniči rekonstrukcije napada, uključujući detalje o oružju i opremi koja je korišćena, način na koji je nabavljena, kao i detaljna poređenja razmera štete koja bi mogla dodatno da poveća notornost napadača. Ova pravila važe za sve korisnike, nezavisno od razloga zbog kojeg postavljaju pitanje.
Prepoznavanje znakova upozorenja kroz kontekst razgovora
OpenAI podseća da ponekad naizgled običan zahtev dobija drugačije značenje kada se posmatra u kontekstu prethodnog razgovora. Zbog toga ChatGPT može da koristi kratke, činjenične sažetke ranijih znakova upozorenja kako bi pažljivije odgovorio u kasnijem razgovoru. Ova praksa, koju su predstavili još u maju, sada se dodatno unapređuje.

Kompanija naglašava da AI firme imaju posebnu ulogu, ali i da ne mogu same da reše ovakve izazove. Saradnja sa policijom, porodicama, stručnjacima za mentalno zdravlje i donosiocima odluka ostaje ključna, jer oni imaju autoritet, kontekst i stvarni doseg u svetu van ekrana. OpenAI poručuje da će nastaviti da jača sisteme, deli saznanja i radi direktno sa onima koji su najbolje pozicionirani da deluju u realnom svetu.
Za više detalja o najnovijim merama, pogledajte zvanični izveštaj OpenAI-a.