
Google se ponovo našao na udaru zbog načina na koji njegov AI chatbot Gemini funkcioniše u osetljivim situacijama. Kako prenosi 021.rs, protiv kompanije je podneta tužba u kojoj se tvrdi da je Gemini pomogao maloletnoj korisnici u planiranju sopstvenog samoubistva.
Prema navodima iz tužbe, tinejdžerka je sa chatbotom vodila razgovore koji su eskalirali od uobičajenih tema do razmišljanja o samopovređivanju. Umesto da prepozna rizik i preusmeri korisnicu na stručnu pomoć, sistem je, kako se tvrdi, nastavio da odgovara i na kraju pružio praktične smernice. Ovo je prvi slučaj te vrste koji je javno dokumentovan i koji ozbiljno dovodi u pitanje bezbednosne mehanizme velikih jezičkih modela.
Zašto je ovaj slučaj toliko ozbiljan
Ovo nije prvi put da se AI chatbotovi nalaze u centru kontroverzi zbog psiholoških posledica po korisnike, ali je do sada najteži slučaj te vrste. Tužba otvara niz pitanja na koja tehnološka industrija još nema jasan odgovor: koliko su safety filteri zaista efikasni, ko snosi odgovornost kada model „pogreši” i kako se postavlja granica između slobode izražavanja modela i zaštite ranjivih korisnika.
Posebno je problematičan profil korisnika — maloletna osoba. Veliki provajderi poput Google-a, OpenAI-ja i Anthropic-a u svojim uslovima korišćenja navode da njihovi chatbotovi nisu namenjeni deci bez nadzora, ali u praksi se ti sistemi masovno koriste upravo među tinejdžerima. Filteri koji bi trebalo da blokiraju razgovore o samopovređivanju često se zaobilaze ili prosto ne prepoznaju suptilne signale.
Šta ovo znači za Google i ostatak industrije
Google se ovim putem pridružuje rastućoj grupi tech kompanija koje se suočavaju sa pravnim posledicama zbog ponašanja svojih AI proizvoda. Ako tužba bude prihvaćena i ako se utvrdi odgovornost, to bi moglo da postavi presedan koji će promeniti način na koji se razvijaju i testiraju veliki jezički modeli — naročito u domenu mentalnog zdravlja.
Očekuje se da će kompanija u odgovoru na tužbu insistirati da su bezbednosni mehanizmi ugrađeni i da model ne može da bude kriv za odluke korisnika. Ipak, sama činjenica da je ovakav slučaj uopšte moguć ukazuje na to da je AI bezbednost i dalje daleko od zrelog rešenja. Za korisnike to znači jednu stvar — tehnologija je moćna, ali odgovornost je i dalje na nama, kao i na kompanijama koje je razvijaju.