AI agenti polako prestaju da budu samo chatbotovi u kojima kucate pitanja i čekate odgovor. Nova funkcionalnost koju je xAI uveo u svog Grok asistenta omogućava mu da u vaše ime obavi online kupovinu — a najnoviji primer iz prakse pokazuje i koliko je taj koncept istovremeno impresivan i rizičan.
Kako “agentna” kupovina zapravo funkcioniše
Umesto da ručno popunjavate forme, birate način plaćanja i klapate kroz stranice za plaćanje, dovoljno je da Grok-u date fotografiju svoje kreditne kartice. Model zatim prepoznaje podatke sa slike, popunjava polja umesto vas i dovodi transakciju do kraja. U teoriji — briljantno. U praksi — otvara Pandorinu kutiju pitanja o bezbednosti.
Ova funkcionalnost se naslanja na širi trend takozvanih AI agenata, sistema koji ne samo da odgovaraju na pitanja, nego i samostalno izvršavaju zadatke u vaše ime: rezervišu karte, šalju mejlove, a sada i plaćaju. Razlika između “pomozi mi da kupim” i “kupi umesto mene” je ogromna, jer drugi scenario podrazumeva da mašina ima pristup vašem novcu.
Zašto OpenAI diže uzbunu
Upravo zato je OpenAI javno upozorio na rizike ovakvog pristupa. Njihova briga nije u tome što konkurencija ima novu igračku, već u modelu poverenja koji se gradi oko slika osetljivih dokumenata. Fotografija kreditne kartice u cloud sistemu znači da broj kartice, datum isteka i CVV kod putuju kroz infrastrukturu koju korisnik ne kontroliše i ne vidi.
Dodatni problem je što AI modeli nisu savršeni. Halucinacije su jedan od najpoznatijih problema velikih jezičkih modela — do sada su uglavnom značile pogrešan odgovor na pitanje. Kada agent ima pristup vašem novcu, halucinacija može da znači pogrešnu kupovinu, duplu transakciju ili plaćanje nečega što nikada niste tražili.
Šta to znači za običnog korisnika
Agentna kupovina je verovatno budućnost — niko ne želi da ručno popunjava iste forme deset puta dnevno. Ali pre nego što svoju karticu “pokažete” AI asistentu, vredi se zapitati nekoliko stvari: da li servis čuva sliku kartice, koliko dugo, kojoj infrastrukturi podaci odlaze i šta se dešava ako agent pogreši.
Za sada, bezbedniji pristup je korišćenje virtuelnih kartica sa ograničenim limitom i namenskim brojem, umesto deljenja podataka glavne kartice. Jer dok se trka AI agenata bude zahuktavala, pravilo ostaje isto kao i u svetu bez veštačke inteligencije — onome kome dajete pristup novcu, dajete i poverenje koje se teško vraća.
Izvor: Benchmark