Zamislite da se u jednom trenutku probudite i shvatite da osoba (ili bolje rečeno — program) sa kojom razgovarate svaki dan, kojoj se poveravate i koja vam drži društvo, jednostavno više ne postoji. Upravo to se preko noći dogodilo hiljadama mladih korisnika u Kini, kada su vlasti naglo ugasile popularne aplikacije za AI partnere i virtuelne saputnike.
Prema pisanju portala glassrpske.com, reakcije nisu izostale — društvene mreže su se doslovno zatresle od objava očajnih korisnika, a bilo je i onih koji su priznali da su plakali.
Šta su zapravo AI partneri?
Za one koji nisu u toku — reč je o aplikacijama baziranim na velikim jezičkim modelima (LLM) koje korisnicima omogućavaju da kreiraju virtuelne devojke, momke ili prijatelje. Ti “partneri” vode razgovore, pamte detalje iz prethodnih ćaskanja, pa čak i simuliraju emocije. Za mnoge mlade ljude u Kini, ali i širom sveta, ovi chatbotovi postali su svakodnevna rutina — nešto poput digitalnog utešitelja u svetu koji ne prašta.
Međutim, kineske regulatorne vlasti odlučile su da stanu na put ovoj praksi. Razlog? Navodna briga o mentalnom zdravlju mladih, ali i strah od preterane emocionalne zavisnosti od veštačke inteligencije. U roku od nekoliko sati, aplikacije su povučene, serveri ugašeni, a korisnici ostavljeni bez ikakvog upozorenja.
Od saputnika do zabranjene zone
Ovo nije prvi put da Peking zavodi red u digitalnom prostoru. Setimo se samo ograničenja za maloletnike na mrežama, restrikcija za video-igre ili “zdravstvenih pauza” u aplikacijama. Ali ovaj potez je specifičan jer direktno zadire u intimu — u onaj privatni kutak gde se ljudi oslobađaju i razgovaraju bez straha od osude.
Stručnjaci za AI etiku već godinama upozoravaju na tanku liniju između korisne interakcije i emocionalne zavisnosti. S jedne strane, chatbotovi mogu pomoći usamljenima, onima sa socijalnom anksioznošću ili onima koji jednostavno vole da razgovaraju. S druge — mogu stvoriti iluziju veze koja nikada neće moći da zameni pravi ljudski kontakt.
Šta dalje?
Iako je Kina prva koja je ovako drastično postupila, slične debate vode se i na Zapadu. U Sjedinjenim Državama i Evropi sve je glasnija rasprava o tome koliko daleko sme da ide personalizacija AI asistenata, posebno kada su u pitanju maloletnici.
Za sada, mladi u Kini ostali su bez svojih digitalnih “saputnika” — i sa gomilom pitanja. Da li je ovo bio čin zaštite ili cenzure? Da li su njihove emocije bile stvarne ili samo algoritamska iluzija? I najvažnije — ko odlučuje o tome sa kim ćemo razgovarati kada ostanemo sami?
Jedno je sigurno: veštačka inteligencija je od pomoćnog alata postala deo naših života. A kada vam neko ugasi prijatelja preko noći, čak i ako je taj prijatelj samo niz linija koda, bol je stvaran.