Microsoft je na Hugging Face platformi objavio novi sistem pod nazivom ThinkingBox, koji menja način na koji se treniraju i ocenjuju AI agenti. Umesto da se uspeh meri samo po tome da li je model “rekao” da je zadatak završen, ThinkingBox uvodi RL (reinforcement learning) nagrade zasnovane na stvarnom stanju baze podataka — drugim rečima, agent dobija poene tek kada se podaci u bazi zaista promene onako kako je traženo.
Ovo zvuči jednostavno, ali rešava jedan od najvećih problema današnjih agenata: sklonost ka tome da tvrde da su posao završili, dok u pozadini ništa nije urađeno. Uz objavu je priložen i rad pod naslovom “One Success Isn’t Reliability”, koji eksplicitno upozorava da jedan uspešan pokušaj ne znači pouzdanost — agent mora da bude konzistentan kroz mnoge iteracije u realnim, stateful poslovnim tokovima.
Šta tačno donosi ThinkingBox
U srcu sistema nalazi se sandbox okruženje u kome agent izvršava zadatke nad bazom podataka, a zatim se rezultat automatski proverava. Ako je stanje baze ispravno — nagrada sledi. Ako nije, sledi korekcija. Time se proces treniranja pomera sa “jezičkog ubeđivanja” na merljive, proverljive ishode.
Microsoft je uz to objavio i ThinkingBox-Bench, skup zadataka i metrika za testiranje agenata u scenarijima koji liče na stvarne poslovne workflow-e — tamo gde greška u bazi može da znači pravi problem, a ne samo loš odgovor u chatu. Benchmark je dostupan na Hugging Face-u i već beleži solidnu pažnju zajednice.
Zašto je ovo važno za srpski tech ekosistem
Za domaće timove koji razvijaju AI agente za automatizaciju poslovnih procesa, vest je više nego relevantna. Pouzdanost je ta koja odvaja demo projekat od proizvoda koji može da se pusti u produkciju. Pristup “proveri stanje, ne izjavu” mogao bi da postane standard u razvoju agenata koji rade sa bazama podataka, ERP sistemima i internim alatima.
Više detalja o metodu i samom benchmark-u možete pronaći u originalnom Microsoft blog postu na Hugging Face-u.
Ovo je još jedan signal da se trka AI agenata polako seli sa pitanja “šta model može da kaže” na pitanje “šta model može da uradi — i dokaže”.