IBM je na Hugging Face platformi objavio novo izdanje svog Granite modela pod nazivom Granite Switch 4.1, a suština vesti je jednostavna i prilično ambiciozna — sve što vam treba za razgovor, donošenje odluka i obradu govora sada stiže kroz jedan jedini endpoint. Umesto da žonglirate između nekoliko modela i servisa, Granite Switch to rešava modularnim pristupom.

Šta je zapravo “Switch” u nazivu
Za razliku od klasičnih LLM-ova gde dobijete jedan model koji radi jednu stvar, Granite Switch koristi modularne modele sa ugrađenim adapterima. Ti adapteri se “pale” po potrebi, a sve polazi iz jednog checkpointa. U praksi to znači da ista infrastruktura može da odgovori na tekstualni upit, donese odluku na osnovu njega i obradi audio zapis — bez prebacivanja na drugi sistem.
IBM je uz ovo izbacio i dve varijante modela: granite-switch-4.1-30b i nešto lakšu granite-switch-4.1-8b verziju. Tu je i granite-speech-5.0-470m-turboctc, specijalizovan za automatsko prepoznavanje govora, koji je nedavno ažuriran i već skupio solidan broj skinova na platformi.
Govor kao ulaz, odluka kao izlaz
Najzanimljiviji deo cele priče je demo koji IBM naziva “Speech to Decisions”. Ideja je da jedan Granite Switch model istovremeno “čuje” govor i procenjuje šta je rečeno — dakle, transkripcija i analiza se dešavaju u istom prolazu, a ne u dva odvojena servisa. Za developere koji prave glasovne asistente ili sisteme za automatsku trijažu poziva, ovo je prilično konkretna ušteda u arhitekturi.
Uz to, tu je i granitelib, biblioteka adaptera koja proširuje osnovne Granite modele. Objavljene su i verzije granitelib-core-r1.0 i granitelib-guardian-r1.0, pri čemu ovaj drugi nosi jasnu naznaku da je reč o bezbednosnim, “guardian” funkcijama — logičan potez u trenutku kada svaki ozbiljan AI sistem mora da ima ugrađenu zaštitu od zloupotrebe.
Zašto je ovo važno van IBM-ovog dvorišta
Trend modularnih AI modela polako postaje pravilo, a ne izuzetak. Umesto da trenirate jednu ogromnu mrežu koja sve radi osrednje, pravi se osnova sa adapterima koji se uključuju po potrebi. To je jeftinije za održavanje, lakše za fino podešavanje i praktičnije za deployment na skromnijem hardveru.
IBM ovim potezom jasno cilja na preduzeća koja žele da smanje broj servisa u svom AI stack-u. Ako jedan endpoint može da pokrije chat, donošenje odluka i govor, onda je i račun za cloud infrastrukturu — kao i broj stvari koje mogu da puknu u produkciji — znatno manji. Detalje i modele možete pogledati direktno na IBM-ovom blog postu na Hugging Face-u.