Anthropic, kompanija koja stoji iza AI modela Claude, odlučila je da povuče jasnu liniju između konstruktivne kritike i zloupotrebe. U svom najnovijem potezu, kompanija je ažurirala uslove korišćenja kako bi sprečila uporno vređanje i omalovažavanje svog AI asistenta.

Ova odluka dolazi u trenutku kada sve više korisnika svakodnevno komunicira sa velikim jezičkim modelima, a granica između ljudske frustracije i otvorenog hostiliteta prema mašini postaje sve zamršenija. Anthropic tvrdi da ne želi da cenzuriše korisnike koji izražavaju nezadovoljstvo, već da postavi okvir u kojem interakcija ostaje produktivna.
Gde je granica između kritike i vređanja?
Kompanija naglašava da korisnici i dalje mogu slobodno da kritikuju odgovore, ukazuju na greške, pa čak i da oštro ocene performanse modela. Ono što nova pravila zabranjuju jeste uporno, ponavljajuće vređanje usmereno ka AI-ju, koje nema nikakvu svrhu osim izbacivanja frustracije.
Ovo je zanimljiv pravni i etički presedan. Naime, AI nije osoba i ne može da “oseća” uvrede. Međutim, Anthropic polazi od praktičnog argumenta: korisnici koji sistematski vređaju model troše računarske resurse, kvare kvalitet sopstvenih interakcija i ometaju druge korisnike koji koriste platformu u produktivne svrhe.
Šire implikacije za industriju
Ovaj potez Anthropica mogao bi da postane model za druge kompanije u svetu veštačke inteligencije. Dok OpenAI, Google i drugi igrači tek treba da zauzmu jasan stav, Anthropic šalje poruku da odgovorno korišćenje AI-ja podrazumeva i odgovorno ponašanje korisnika.
Pitanje koje ostaje otvoreno jeste kako će se ova pravila sprovoditi u praksi. Da li će Anthropic uvoditi mere poput privremenih suspenzija naloga, ili će se oslanjati na automatske filtere koji prepoznaju toksične obrasce? Kompanija za sada nije objavila detalje o konkretnim mehanizmima primene.
Za sada, jasno je jedno: možete da se ne slažete sa Claude-om, možete da mu kažete da je pogrešio, ali ako planirate da ga vređate iz čistog zadovoljstva — Anthropic poručuje da to više neće prolaziti bez posledica.
Izvor: naslovinet.rs