Kompanija OpenAI ponovo je podigla prašinu u svetu veštačke inteligencije. Prema najnovijim informacijama, ova organizacija uvodi sistem nevidljivog vodenog žiga koji će omogućiti prepoznavanje tekstova generisanih putem ChatGPT-a. Ovo bi mogao biti jedan od najznačajnijih koraka ka regulaciji i transparentnosti u eri generativne AI.
Šta je zapravo vodeni žig i zašto je važan?
Vodeni žig u kontekstu AI tekstova nije klasičan vidljivi potpis na dnu dokumenta. Reč je o sofisticiranoj tehnici koja u samu strukturu teksta ugrađuje obrasce neprimetne ljudskom oku, ali prepoznatljive algoritmima. To znači da bi u budućnosti softver mogao da “skenira” tekst i utvrdi da je nastao uz pomoć mašinskog učenja.
Ova vest dolazi u trenutku kada se cela industrija suočava sa izazovima poput dezinformacija, plagijata i pitanja autentičnosti sadržaja. OpenAI time šalje jasnu poruku: transparentnost je prioritet, iako mnogi postavljaju pitanje koliko je ovakav sistem zaista pouzdan.
Kako će ovo uticati na svakodnevnu upotrebu?
Za prosečnog korisnika, uvođenje vodenog žiga verovatno neće doneti vidljive promene u načinu na koji ChatGPT generiše odgovore. Međutim, za izdavače, novinare, univerzitete i kompanije koje se bave proverom sadržaja, ovo je potencijalno revolucionaran alat. Zamislite scenario u kojem profesor u sekundi može da utvrdi da li je seminarski rad napisao student ili AI — to je smer u kojem ova tehnologija vodi.
Ipak, ostaje otvoreno pitanje koliko je ovakav žig otporan na manipulacije. Iskusniji korisnici mogu ga lako ukloniti prekucavanjem teksta ili parafraziranjem, što znači da ovo nije svemoguće rešenje, već jedan sloj odbrane.
Šire implikacije za AI ekosistem
Ovo nije prvi put da se OpenAI bavi pitanjem identifikacije AI sadržaja. Ranije su postojali alati poput AI Text Classifier-a, ali su često bili nepouzdani. Novi pristup sa vodenim žigom deluje ambicioznije jer se oslanja na sam proces generisanja teksta, a ne na naknadnu analizu.
Sa druge strane, konkurencija ne spava. Google, Anthropic i Meta takođe razvijaju sopstvene mehanizme za označavanje AI sadržaja. Pitanje je ko će prvi uspostaviti standard koji će drugi prihvatiti — jer u svetu tehnologije, standard je moć.
Izvor: Naslovi.net