Kompanija Liquid AI objavila je potpuno novu generaciju svojih decision modela pod nazivom d1, namenjenih radu na edge uređajima — telefonima, laptopovima, robotima i svemu što ne može da se osloni na moćne cloud servere. Ovo nije još jedan “još veći model” potez, već suprotan smer: manji, brži i multimodalni modeli koji rade lokalno.
Šta je zapravo d1?
Liquid AI je na Hugging Face blogu predstavio porodicu modela koja se sastoji od nekoliko varijanti. Tu su LFM2.5-Encoder-350M za fill-mask zadatke sa oko 0.4 milijarde parametara, LFM2.5-VL-3B koji kombinuje sliku i tekst, kao i novi d1-omni-600M sa oko 0.6 milijardi parametara. Svi oni dele istu filozofiju — da budu dovoljno mali da stanu na uređaj, a dovoljno pametni da obavljaju konkretne zadatke.
Ključna reč ovde je multimodalnost. Modeli ne obrađuju samo tekst, već i slike, crteže i druge vizuelne inpute. To ih čini pogodnim za scenarije poput kamera na uređajima, interaktivnih demo aplikacija i sistema koji moraju da reaguju u realnom vremenu bez odlaska na server.
Zašto je edge toliko važan?
Poslednjih godina trka se vodila oko toga ko ima veći model. Sada se pojavljuje druga, možda i zanimljivija trka — ko može da spakuje korisnu AI funkcionalnost u što manje parametara i na što skromniji hardver. Prednosti su jasne: manja latencija, privatnost podataka (ništa ne napušta uređaj), rad bez interneta i niži troškovi infrastrukture.
Liquid AI ovim potezom direktno konkuriše sličnim inicijativama drugih kompanija koje takođe guraju male modele ka lokalnom izvršavanju. Uz to, njihov pristup kombinuje encoder i vision-language modele, što znači da isti ekosistem može da pokrije i zadatke razumevanja teksta i zadatke razumevanja slika.
Šta to znači u praksi?
Ako se ovaj trend nastavi, možemo očekivati da će sve više aplikacija moći da radi “offline”. Zamislite kameru koja prepoznaje objekte bez slanja snimka u cloud, ili asistenta na telefonu koji razume šta mu pokazujete kroz kameru — a da pritom ne šalje ni jedan bajt na server. Upravo na tome rade i drugi igrači u svetu malih modela, o čemu smo već pisali u kontekstu lokalnog izvršavanja AI modela.
Ono što je zanimljivo je i tempo objavljivanja — modeli se ažuriraju iz nedelje u nedelju, a zajednica na Hugging Face-u aktivno testira i komentariše svaku novu verziju. To govori da je interesovanje za edge AI ozbiljno i da se ne radi o kratkotrajnom trendu.
Liquid AI je najavio i dodatne demoe, uključujući primere sa kamerom, crtanjem i tekstom, što dodatno ilustruje praktičnu primenu ovih modela. Ako nastave ovim tempom, mogli bi da postanu jedan od referentnih igrača u segmentu malih, lokalnih AI modela.