ChatGPT uvodi nevidljivi vodeni žig: kako će se prepoznavati AI tekst i gde sistem “šepa

jakovradojevic
3 Min Read

ChatGPT uvodi nevidljivi vodeni žig: kako će se prepoznavati AI tekst i gde sistem "šepa

OpenAI polako zaokružuje priču o tome kako da se tekst koji je napisala veštačka inteligencija razlikuje od onog koji je napisao čovek. Prema informacijama koje prenosi Borba.me, ChatGPT dobija takozvani nevidljivi vodeni žig — mehanizam koji u samom tekstu ostavlja trag da ga je generisala mašina, a da to korisnik golim okom ne vidi.

Ideja nije nova, ali je prvi put dobila konkretniju formu u jednom od najkorišćenijih AI alata na svetu. U praksi to znači da bi vodeni žig trebalo da pomogne nastavnicima, urednicima i platformama da lakše utvrde da li je neki tekst autentičan ili je izašao iz ChatGPT-a.

Kako vodeni žig zapravo funkcioniše

Suština je u tome da model pri generisanju bira reči na način koji je statistički blago izmenjen — dovoljno da se obrazac može prepoznati posebnim alatima, ali nedovoljno da tekst zvuči čudno ili veštački. Za čitaoca je rezultat isti kao i do sada: tečan, prirodan tekst. Razlika se vidi tek kada se primeni odgovarajući detektor.

Ovo je važan korak za celu AI industriju, jer se godinama vodi rasprava o tome kako sprečiti zloupotrebu generisanog sadržaja — od akademskih radova do lažnih vesti i spam kampanja. Vodeni žig je jedan od retkih pristupa koji ne kvari korisničko iskustvo, a istovremeno daje neku vrstu “potpisa” unutar samog teksta.

Slabost koja sve komplikuje

Ali tu je i kvaka. Kako navodi izvor, sistem ima jednu značajnu slabost — vodeni žig se lako gubi čim se tekst dodatno obradi. Dovoljno je da neko preformuliše rečenice, prevede tekst, provuče ga kroz drugi alat ili ga jednostavno prepiše svojim rečima, i trag koji je AI ostavio praktično nestaje.

To znači da detekcija AI teksta ostaje nesavršena. Vodeni žig je koristan kao prva linija odbrane, ali nije neprobojan. Za sada je najveća vrednost u tome što podiže lestvicu i šalje jasnu poruku: generisani sadržaj više neće moći potpuno neometano da se predstavlja kao ljudski.

Ostaje da se vidi koliko će OpenAI biti transparentan oko ovog mehanizma i da li će ga drugi provajderi pratiti. Ako se trend nastavi, mogli bismo da uđemo u eru u kojoj svaki AI tekst nosi svoj tihi, nevidljivi pečat — sve dok ga neko ne odluči da ga izbriše.

Share this Article
Leave a comment