Svako ko je ikada pokušao da istrenira veliki AI model zna da je pronalaženje slobodnog GPU vremena prava mala noćna mora. U svetu gde su NVIDIA H100, B200 i B300 čipovi zlata vredni, a potražnja nadmašuje ponudu i do tri puta, upravljanje klasterima postaje umetnost — ali i nauka. Tim za AI infrastrukturu u institutu Ai2 (Allen Institute for AI) odlučio je da preseče taj Gordijev čvor i javnosti predstavi novi sistem raspoređivanja koji bi mogao da promeni pravila igre.
Zamislite situaciju u kojoj imate 150 istraživača, hiljade najmoćnijih grafičkih procesora na svetu i beskrajnu listu želja. Tradicionalni sistem zasnovan na prioritetima, koji je Ai2 koristio godinama, doveo je do klasične “tragedije zajedničkog dobra”. Istraživači su počeli da “parkiraju” prazne zadatke (tzv. GPU squatting) kako bi zadržali mesto u redu za kasnije, dok je inflacija prioriteta učinila da bukvalno svaki zadatak bude označen kao “HITNO”. Na kraju, on-call inženjeri su trošili vreme na pregovore o gašenju procesa umesto na rešavanje tehničkih problema.
Budžetiranje umesto pukog raspoređivanja
Ai2 je odlučio da promeni paradigmu. Umesto borbe za prioritete u realnom vremenu, prešli su na model koji kombinuje vremenske budžete za GPU, hijerarhijsku podelu resursa (fair-share) i ugovor o vremenskoj podeli (time-slicing). Suština je jednostavna: umesto da se svaki zadatak bori za mesto pod suncem, projekti dobijaju određeni “budžet” GPU sati, slično kao što odeljenje dobija budžet za putovanja ili opremu.
Ovo je ključni pomak u razmišljanju. Debate o tome koliko GPU vremena neki projekat zaslužuje više nisu operativni problem koji se rešava “u hodu”, već administrativni proces. To omogućava predvidivost, smanjuje frustraciju istraživača i, što je najvažnije, omogućava da se resursi dodeljuju tamo gde će doneti najveći naučni doprinos.
Piramida metrika: Od dostupnosti do uticaja
U svom blog postu na Hugging Face-u, tim Ai2 objašnjava da njihov pristup počiva na piramidi od četiri metrike. Na dnu je dostupnost (koliko je hardver zdrav), zatim popunjenost (occupancy), pa uticaj (da li najvredniji zadaci dobijaju resurse) i na vrhu iskorišćenje (utilization). Novi sistem je direktno naciljan na onaj treći nivo — uticaj.
Ono što je zanimljivo jeste da su se inženjeri suočili sa problemom koji je više sociološki nego tehnički. Kada su ljudi pod pritiskom da objave radove i postignu rezultate, prirodno je da će pokušati da “prevare” sistem. Zato je transparentnost ključna. Kada svi znaju koliko resursa imaju na raspolaganju i po kojim pravilima se dele, nema potrebe za “parkiranjem” praznih zadataka.
Šta ovo znači za budućnost AI infrastrukture?
Ai2 nije jedini koji se bori sa ovim izazovima. Svaka organizacija koja se bavi veštačkom inteligencijom — od velikih tech kompanija do univerzitetskih laboratorija — suočava se sa istim problemom: kako pravedno i efikasno podeliti ograničene računarske resurse. Njihov pristup bi mogao da postane standard za industriju.
Zanimljivo je da su u Ai2 odlučili da ovaj problem reše na nivou “ugovora” između timova i infrastrukture. To podseća na način na koji cloud provajderi funkcionišu, ali sa dozom interne politike koja je neizbežna u svakoj velikoj organizaciji. Ako ništa drugo, ovaj pristup barem čini pravila igre jasnim — a to je prvi korak ka tome da se izbegne haos koji je vladao ranije.
Za sada, čini se da je Ai2 uspeo da prebaci fokus sa “ko je glasniji” na “šta donosi najveći naučni povratak”. U svetu gde svaki sat na H100 košta kao mali stan u Beogradu, to je jedina održiva strategija.