
Kompanija V7, poznata po alatima za automatizaciju radnih tokova i obeležavanje podataka, objavila je rezultate koji bi mogli da zainteresuju svakoga ko ozbiljno razmišlja o uvođenju velikih jezičkih modela u produkciju. Prema njihovom izveštaju, prelazak na GPT-5.6 Luna doneo je smanjenje troškova od čak 78 odsto, uz istovremeno povećanje tačnosti u odnosu na prethodno korišćene modele.
Zvuči gotovo previše dobro da bi bilo istinito — manje para i bolji rezultat u istom potezu. Ali V7 tvrdi da je ključ u tome što se novi model ne koristi „na slepo“ za svaki zadatak, već pametnije. Umesto da sve ide kroz najveći i najskuplji model, kompanija je uspostavila slojevitu arhitekturu u kojoj Luna preuzima većinu rutinskih zadataka, dok se skuplji modeli aktiviraju samo kada je to zaista potrebno.
Šta stoji iza brojke od 78 odsto
Ušteda ovakvog tipa obično ne dolazi od jednog trika, već od kombinacije odluka. V7 je, kako navode, optimizovao veličinu promptova, uveo keširanje čestih upita i smanjio broj „bespotrebnih“ poziva ka modelu. Svaki od tih koraka pojedinačno deluje skromno, ali zajedno prave razliku koja se direktno vidi na mesečnom računu za API pozive.
Sa druge strane, povećanje tačnosti dolazi od boljeg upravljanja kontekstom i preciznijeg definisanja instrukcija. Drugim rečima, model ne pogađa bolje zato što je magično pametniji, već zato što mu se zadaje jasniji i kraći zadatak. Ovo je lekcija koju bi mnogi timovi mogli da primene već danas, bez ikakve promene modela.
Zašto je ovo važno za domaće timove
Priče o smanjenju troškova AI infrastrukture retko stižu iz velikih kompanija sa neograničenim budžetima — a upravo su one najkorisnije manjim timovima i startapima. Ako se uštede od ovakvog reda mogu postići i na skromnijim projektima, to menja računicu za sve koji su dosad odlagali uvođenje AI funkcionalnosti zbog cene.
Treba ipak ostati realan: brojke dolaze iz sopstvenog izveštaja kompanije, pa ih treba čitati sa dozom opreza. Detalji o tome kako je tačno merena tačnost i na kojim skupovima podataka nisu u potpunosti razjašnjeni. Ono što je sigurno jeste smer u kojem tržište ide — ka jeftinijim, specijalizovanim modelima koji se pametno kombinuju, umesto jednog skupog modela za sve.
Za one koji prate ovu oblast, originalni materijal je dostupan na YouTube kanalu, a slične teme o optimizaciji AI troškova možete pratiti i na našem portalu.