Kompanija OpenAI, tvorac ChatGPT-ja, najavila je uvođenje sistema za obeležavanje tekstova generisanih veštačkom inteligencijom. Reč je o takozvanom nevidljivom vodenom žigu — tehnologiji koja bi trebalo da omogući prepoznavanje mašinski napisanog sadržaja, a da pritom ne kvari čitljivost niti izgled samog teksta.
Ova vest stiže u trenutku kada se cela industrija suočava sa ozbiljnim izazovom: kako razlikovati tekst koji je napisao čovek od onog koji je izbacio neki od velikih jezičkih modela? OpenAI očigledno želi da bude korak ispred konkurencije i da ponudi rešenje pre nego što regulatori širom sveta počnu da nameću svoja pravila.
Kako funkcioniše nevidljivi vodeni žig?
Za razliku od klasičnih vodenih žigova koje vidimo na slikama ili dokumentima, ovaj sistem radi na suptilnijem nivou. OpenAI koristi specifične obrasce u načinu na koji model bira reči i formira rečenice. Ti obrasci su statistički prisutni, ali ih prosečan čitalac ne može primetiti — tekst i dalje zvuči potpuno prirodno.
Drugim rečima, AI generator “ostavlja trag” u samoj strukturi teksta, poput nevidljivog potpisa. Kada se taj tekst kasnije provuče kroz poseban detektor, algoritam može da prepozna te obrasce i sa velikom sigurnošću potvrdi da je sadržaj mašinski generisan.
Ovo nije prvi put da se neko okušava u sličnoj tehnologiji. Ranije su postojali pokušaji da se AI tekst detektuje na osnovu specifičnih fraza ili preterane upotrebe određenih reči, ali su ti metodi bili nepouzdani — često su grešili i optuživali ljude da pišu kao mašine. OpenAI tvrdi da je njihov pristup znatno sofisticiraniji.
Zašto je ovo važno?
Zamislite situaciju u kojoj student predaje esej, a profesor ne može da utvrdi da li je tekst napisao student ili ChatGPT. Ili scenu u kojoj novinar objavljuje članak, a urednik nema način da proveri da li je deo teksta generisan veštačkom inteligencijom. Upravo ti problemi su pokrenuli lavinu rasprava o transparentnosti AI sadržaja.
OpenAI-jev vodeni žig mogao bi da postane standard koji će druge kompanije pratiti. Ako se to dogodi, mogli bismo da uđemo u eru u kojoj svaki AI tekst nosi svoj digitalni “potpis”, slično kao što fotografije danas imaju metapodatke o aparatu kojim su snimljene.
Naravno, ostaje pitanje koliko je ovaj sistem zaista pouzdan. Dosadašnja iskustva sa AI detektorima pokazala su da su skloni greškama — i lažno pozitivnim i lažno negativnim rezultatima. Ako OpenAI uspe da reši taj problem, to bi mogao biti jedan od najznačajnijih koraka ka odgovornijem korišćenju veštačke inteligencije do sada.
Ostaje da vidimo kako će se ova tehnologija razvijati i da li će je prihvatiti šira javnost. Jedno je sigurno — rasprava o tome ko je autor teksta, čovek ili mašina, tek počinje.
Izvor: B92