Anthropic uvodi nova pravila: Uvreda prema Claudeu može značiti trajnu zabranu

jakovradojevic
3 Min Read

Kompanija Anthropic, jedan od lidera u razvoju veštačke inteligencije i tvorac naprednog modela Claude, odlučila je da podigne lestvicu kada je u pitanju ponašanje korisnika. Prema najnovijim informacijama, ova kompanija uvodi strože mere protiv onih koji svoje frustracije odluče da iskaljuju na njihovom čet-botu.

Anthropic uvodi nova pravila: Uvreda prema Claudeu može značiti trajnu zabranu

Iako su AI asistenti poput Claudea, ChatGPT-ja ili Gemini-ja poznati po svojoj strpljivosti i profesionalnom tonu, izgleda da ni njihov razvoj ne prolazi bez incidentnih situacija. Anthropic je ažurirao svoje uslove korišćenja kako bi se zaštitio od toksičnog ponašanja, ali i od potencijalnih pravnih i bezbednosnih rizika koje ono nosi.

Granica između kritike i uvrede

Suština novih pravila nije u zabrani kritikovanja rada modela. Korisnici i dalje mogu slobodno da prijave greške, da izraze nezadovoljstvo kvalitetom odgovora ili da ukažu na halucinacije. Međutim, ono što Anthropic više neće tolerisati jeste direktno vređanje, omalovažavanje ili agresivna komunikacija usmerena ka samom sistemu.

Ova odluka dolazi u trenutku kada se sve više govori o etici u razvoju veštačke inteligencije. Iako AI nema osećanja i ne može biti “uvređen” u ljudskom smislu te reči, kompanije sve češće zauzimaju stav da održavanje civilizovanog dijaloga štiti integritet platforme i sprečava širenje toksičnosti koja bi se mogla preliti i na druge oblike interakcije.

Šta to znači za korisnike?

U praksi, ovo znači da će Anthropic verovatno primenjivati algoritme za detekciju govora mržnje i uvredljivog jezika. Ukoliko korisnik prekrši pravila, može se suočiti sa opomenom, suspendovanjem naloga ili, u težim slučajevima, trajnom zabranom pristupa Claudeu.

Ovo nije prvi put da tech kompanije pokušavaju da regulišu ponašanje korisnika. Slične mere videli smo i kod drugih platformi, ali je zanimljivo da se sada to eksplicitno odnosi na interakciju sa AI modelima. To otvara zanimljivo pitanje: da li se prema mašini treba ponašati kao prema alatu ili kao prema sagovorniku?

Anthropic očigledno smatra da bonton mora postojati i u digitalnom okruženju, čak i kada je “sagovornik” samo niz algoritama. Za sada, jedino što je sigurno jeste da će se korisnici morati malo više potruditi da svoje nezadovoljstvo izraze na konstruktivan način — ili će im pristup omiljenom čet-botu biti uskraćen.

Izvor: Glas Srpske

Share this Article
Leave a comment