ChatGPT sadržaj više neće moći da se sakrije
TEKST:
OpenAI je najavio uvođenje nove tehnologije za prepoznavanje teksta generisanog pomoću ChatGPT-a, što bi trebalo da označi kraj ere u kojoj se AI sadržaj lako skrivao pod maskom ljudskog pisanja. Ova vest stiže u trenutku kada sve više institucija, medija i obrazovnih ustanova traži način da razlikuje autentičan ljudski rad od mašinski generisanog sadržaja.
Prema informacijama koje prenosi una.rs, nova tehnologija funkcioniše na principu vodenog žiga — nevidljivog obeležja koje se ugrađuje direktno u tekst koji generiše AI model. Za razliku od ranijih pokušaja detekcije, koji su se oslanjali na statističku analizu i često davali lažne rezultate, ovaj pristup je znatno sofisticiraniji i teže ga je zaobići.
Kako funkcioniše vodeni žig u tekstu?
Suština tehnologije leži u načinu na koji ChatGPT bira reči tokom generisanja teksta. Model naime ima određenu dozu slobode pri odabiru sledeće reči u nizu — uvek postoji više reči koje bi se gramatički i logički uklopile. OpenAI sada može da kontroliše taj izbor na suptilan način, favorizujući određene reči prema unapred definisanom obrascu.
Kada se takav tekst kasnije provuče kroz alat za detekciju, algoritam prepoznaje statistički obrazac koji odgovara vodenom žigu i sa velikom sigurnošću potvrđuje da je sadržaj mašinski generisan. Ono što ovu metodu čini posebno zanimljivom jeste to što običan čitalac ne može da primeti nikakvu razliku — tekst i dalje zvuči prirodno i tečno.
Zašto je ovo važno za tržište?
Od pojave velikih jezičkih modela, jedna od najvećih briga bila je upravo nemogućnost razlikovanja ljudskog od AI teksta. Obrazovne ustanove su se suočile sa plagijatom nove generacije, medijske kuće sa lavinom generisanog sadržaja, a kompanije sa pitanjem koliko je zaista autentično ono što dobijaju od svojih saradnika.
OpenAI-jeva najava mogla bi da promeni pravila igre. Ako vodeni žig zaživi u praksi, poslodavci, profesori i urednici dobiće moćan alat za proveru autentičnosti. Sa druge strane, otvara se i niz novih pitanja — koliko je etički da kompanija koja proizvodi AI sadržaj ujedno kontroliše i njegovu detekciju? Da li bi neko mogao da zloupotrebi ovu tehnologiju za lažno označavanje ljudskog teksta?
Šta ovo znači za korisnike ChatGPT-a?
Za prosečnog korisnika, svakodnevna upotreba ChatGPT-a verovatno se neće mnogo promeniti. Model će i dalje pisati eseje, mejlove, marketinške tekstove i programski kod. Razlika je u tome što će svaki od tih tekstova nositi nevidljivi potpis svog tvorca. Oni koji su se nadali da će AI sadržaj proći kao njihov sopstveni rad — biće u problemu.
Ostaje da se vidi kako će konkurencija reagovati. Google, Anthropic i drugi igrači na tržištu veštačke inteligencije verovatno već razmatraju slična rešenja. Ako detekcija postane standard, mogli bismo da uđemo u novu fazu internet sadržaja — onu u kojoj se tačno zna šta je napisala mašina, a šta čovek. Pitanje je samo da li će ta granica ostati jasna ili će se i ona vremenom zamutiti.