OpenAI je zvanično pustio u rad Decisions API, novi alat namenjen aplikacijama i AI agentima koji moraju brzo da donose male, ali brojne odluke tokom svog rada. Reč je o API-ju izgrađenom na modelu GPT-6 Luna, koji svoju inteligenciju fokusira na pitanja sa jasno ograničenim odgovorima — od klasifikacije ulaznih podataka do rutiranja zahteva i odabira sledeće akcije.
Zašto je brzina ključna
Svaka aplikacija ili agent tokom izvršavanja zadatka donosi mnoštvo sitnih odluka: kako klasifikovati neki unos, gde preusmeriti zahtev ili koju akciju preduzeti sledeću. Pojedinačno, te odluke su jednostavne — ali na velikom broju zahteva, kašnjenje i troškovi se brzo nagomilavaju. Upravo tu OpenAI vidi prostor za Decisions API, koji prema navodima kompanije radi do 10 puta brže od standardnog poziva GPT-6 Luna preko Responses API-ja.
Od javne beta verzije, OpenAI je dodao nativnu integraciju sa GPT-Live servisom, keširanje upita za kontekst koji se ponavlja, kao i mogućnost izvršavanja inferencije u SAD i EU. Developeri sada mogu da šalju i nativne JSON ulaze, uključe slike u instrukcije pitanja i postave do 400 pitanja po zahtevu — dvostruko više nego ranije.
Kako kompanije koriste novi API
Rane primene pokazuju širok spektar upotrebe. Unutar samog OpenAI-ja, tim za finansije koristi Decisions API za kategorizaciju opisa transakcija, dok komunikacioni tim njime klasifikuje medijsko praćenje po temama i ocenama. Spoljni korisnici takođe beleže konkretne rezultate: kompanija Box navodi da je uz Decisions API rutiranje dokumenata bilo oko 5 puta brže na testu sa 30 slučajeva, uz istu tačnost kao kod Responses API-ja.
Datadog koristi API za procenu rizika komandi koje generiše agent pre izvršavanja, i to sa 40 puta bržim p95 odzivom u poređenju sa dostupnim frontier modelima. Ramp je zabeležio 4 puta brže i 30 odsto jeftinije pripisivanje AI troškova stvarnom radu, dok Sierra u live korisničkim razgovorima beleži odziv ispod 280 ms na p95 nivou — oko tri puta brže i uz 90 odsto niže troškove po pozivu.
Posebno zanimljiv primer dolazi iz oblasti učenja jezika: integracija Decisions API-ja u GPT-Live smanjila je vreme do sledeće akcije sa 1,4 sekunde na 0,13 sekundi, što stvara znatno interaktivnije iskustvo za korisnike. Više detalja o novom API-ju možete pronaći na zvaničnom OpenAI blogu.