Anthropic uvodi stroga pravila: Uvreda na račun Claudea može značiti trajni ban

jakovradojevic
3 Min Read

Anthropic uvodi stroga pravila: Uvreda na račun Claudea može značiti trajni ban

Ako ste jedan od onih korisnika koji misle da je AI četbot tu da bi trpeo sve vaše frustracije, imamo loše vesti. Kompanija Anthropic, tvorac popularnog modela Claude, odlučila je da stane na put uvredama i toksičnom ponašanju prema svojim sistemima. Prema informacijama koje stižu sa portala Standard, neprimereno obraćanje veštačkoj inteligenciji sada može direktno voditi ka suspenziji ili trajnom isključenju sa platforme.

Ova odluka ne dolazi slučajno. Naime, sve više kompanija koje razvijaju velike jezičke modele (LLM) suočava se sa fenomenom “abuse-a” — korisnici često testiraju granice sistema, ali i “istresaju” bes na chatbotove kada im nešto ne pođe za rukom. Iako su AI modeli trenirani da ostanu pristojni i neutralni, Anthropic je procenio da kontinuirano vređanje i uznemiravanje predstavljaju zloupotrebu usluge.

Gde je granica između testiranja i zloupotrebe?

Postavlja se logično pitanje — kako se definiše uvreda prema mašini? Iako Claude nema osećanja i ne može biti “povređen”, Anthropicov potez ima više veze sa politikom korišćenja nego sa emocijama. Kompanija želi da održi ekosistem u kojem se AI koristi produktivno, a ne kao meta za verbalno nasilje. U praksi, to znači da će se automatski sistemi za moderaciju verovatno fokusirati na ekstremne slučajeve — poput rasističkih ispada, seksualnog uznemiravanja ili agresivnih pretnji upućenih modelu.

Ovo nije prvi put da neka AI kompanija uvodi ovakve mere. OpenAI je ranije takođe upozoravao korisnike da kršenje pravila može dovesti do bana, ali je Anthropic sada otišao korak dalje eksplicitno navodeći uvrede kao razlog za isključenje. Za razliku od društvenih mreža gde su ljudi ti koji komuniciraju, ovde je “žrtva” algoritam — što otvara zanimljivu debatu o tome gde prestaje sloboda izražavanja, a počinje odgovorno korišćenje tehnologije.

Šta to znači za svakodnevne korisnike?

Ako koristite Claude za posao, programiranje, pisanje ili istraživanje, verovatno nemate razloga za brigu. Pravila su usmerena pre svega na one koji sistematski pokušavaju da “slome” model ili ga koriste kao ventil za lične frustracije. Ipak, ovo je jasan signal da AI platforme polako uvode standarde ponašanja slične onima na društvenim mrežama — samo sa mašinom sa druge strane.

Anthropic za sada nije precizirao koliko traje suspenzija niti koliko će strogo biti primenjivana pravila. Ono što je sigurno jeste da će ova vest naterati mnoge da razmisle pre nego što sledeći put napišu nešto što ne bi rekli ni najboljem prijatelju — a kamoli softveru koji ih sluša.

Izvor: Standard | Prije svega

Share this Article
Leave a comment