{"id":4457,"date":"2026-10-21T03:27:16","date_gmt":"2026-10-21T03:27:16","guid":{"rendered":"https:\/\/11000.dev\/index.php\/2026\/10\/21\/hugging-face-i-google-spojili-snage-pytorch-sada-radi-nativno-na-tpu-cipovima\/"},"modified":"2026-10-21T03:27:16","modified_gmt":"2026-10-21T03:27:16","slug":"hugging-face-i-google-spojili-snage-pytorch-sada-radi-nativno-na-tpu-cipovima","status":"publish","type":"post","link":"https:\/\/11000.dev\/index.php\/2026\/10\/21\/hugging-face-i-google-spojili-snage-pytorch-sada-radi-nativno-na-tpu-cipovima\/","title":{"rendered":"Hugging Face i Google spojili snage: PyTorch sada radi nativno na TPU \u010dipovima"},"content":{"rendered":"<p>Hugging Face je objavio vest koja bi mogla da promeni svakodnevicu svakoga ko radi sa ma\u0161inskim u\u010denjem. Naime, predstavljen je <strong>TorchTPU<\/strong> \u2014 nativni PyTorch backend za Googleove Tensor Processing Unit (TPU) \u010dipove. Drugim re\u010dima, vi\u0161e nema mu\u010denja sa torch_xla ili prelaska na JAX. TPU je sada jednostavno jo\u0161 jedan ure\u0111aj u PyTorch svetu.<\/p>\n<p><figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/11000.dev\/wp-content\/uploads\/2026\/10\/thumbnail-16.png\" alt=\"Hugging Face i Google spojili snage: PyTorch sada radi nativno na TPU \u010dipovima\" \/><\/figure>\n<\/p>\n<h2>\u0160ta je zapravo TPU i za\u0161to je ovo va\u017eno?<\/h2>\n<p>TPU je skra\u0107enica za Tensor Processing Unit \u2014 Googleov sopstveni AI akcelerator. To su \u010dipovi napravljeni za jedan posao: matri\u010dnu matematiku na kojoj neuralne mre\u017ee provode najve\u0107i deo vremena. Google ih razvija ve\u0107 oko deset godina i koristi ih za treniranje i serviranje sopstvenih modela, uklju\u010duju\u0107i Gemini. Dostupni su na Google Cloud-u, od jednog \u010dipa do podova sa hiljadama \u010dipova.<\/p>\n<p>Problem je oduvek bio softver. TPU stack je izrastao oko TensorFlow-a i JAX-a, pa su PyTorch korisnici morali da se prili\u010dno pomu\u010de da bi u\u0161li u taj svet. Do sada je to zna\u010dilo prolazak kroz <strong>PyTorch\/XLA<\/strong> (torch_xla), koji je radio \u2014 ali sa svojim quirks-ima. Tenzori su bili &#8220;lazy&#8221;, pa kod nije uvek radio kada ste mislili da radi, male izmene su mogle da pokrenu rekompilaciju grafa, a debagovanje je bilo no\u0107na mora.<\/p>\n<p>Hugging Face je ranije napravio Optimum TPU kao zaobilazno re\u0161enje za inference i treniranje na TPU-ima. Sada, kada TorchTPU donosi nativnu podr\u0161ku, Optimum TPU vi\u0161e nije neophodan za pokretanje Hugging Face modela kroz Transformers i Diffusers.<\/p>\n<h2>\u0160ta ta\u010dno donosi TorchTPU?<\/h2>\n<p>TorchTPU dodaje TPU kao novi backend u PyTorch. Pi\u0161ete obi\u010dan PyTorch kod, a ispod haube dobijate Pallas kernele optimizovane za TPU, podr\u0161ku za distribuiran trening i <strong>torch.compile<\/strong> integraciju kada \u017eelite vi\u0161e brzine. Instalacija na TPU VM-u je jedan komand:<\/p>\n<p><code>pip install torch-tpu --extra-index-url https:\/\/download.pytorch.org\/whl\/cpu<\/code><\/p>\n<p>Dodatni indeks je tu da povu\u010de CPU build torch-a, jer bi ina\u010de pip skinuo mnogo ve\u0107i CUDA build koji na TPU-u nije potreban.<\/p>\n<p><figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/11000.dev\/wp-content\/uploads\/2026\/10\/banner.jpg\" alt=\"Hugging Face i Google spojili snage: PyTorch sada radi nativno na TPU \u010dipovima\" \/><\/figure>\n<\/p>\n<h2>Transformers, Diffusers i Kernels \u2014 sve na TPU-u<\/h2>\n<p>Transformers v5 je napravljen oko jedne ideje: da bude izvor istine za definicije modela, kako bi mogli da rade bilo gde. To &#8220;bilo gde&#8221; sada uklju\u010duje i TPU. Dovoljno je proslediti <strong>device_map=&#8221;tpu&#8221;<\/strong> i model se u\u010ditava direktno na \u010dip:<\/p>\n<p><code>model = AutoModelForCausalLM.from_pretrained(model_id, device_map=\"tpu\")<\/code><\/p>\n<p>Model podrazumevano radi u eager modu, ali mo\u017eete koristiti i torch.compile za bolje performanse ili ga pokrenuti u distribuiranom okru\u017eenju.<\/p>\n<p>Ni generisanje slika i videa nije izostavljeno. TPU je sada first-class ure\u0111aj i u Diffusers biblioteci, pa se prototipovi i debagovanje mogu raditi direktno na TPU-u. Za one koji vole da znaju da su kernele testirane pre nego \u0161to ih pustite u produkciju \u2014 Hugging Face tim je to odradio umesto vas.<\/p>\n<p><figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/11000.dev\/wp-content\/uploads\/2026\/10\/qwen-image-21-capybara-1024.jpg\" alt=\"Hugging Face i Google spojili snage: PyTorch sada radi nativno na TPU \u010dipovima\" \/><\/figure>\n<\/p>\n<h2>\u0160ta ovo zna\u010di za doma\u0107u AI scenu?<\/h2>\n<p>Za developere u Srbiji koji koriste Google Cloud i TPU-ove za treniranje ili serviranje modela, ovo je konkretno olak\u0161anje. Nestaje potreba za u\u010denjem JAX-a ili hrvanjem sa torch_xla-om samo da bi se iskoristio TPU hardver. Cela Hugging Face ekosistema \u2014 Transformers, Diffusers, Kernels \u2014 sada radi nativno, a prelazak sa GPU-a na TPU svodi se na promenu jednog parametra.<\/p>\n<p>Detalje mo\u017eete prona\u0107i u <a href=\"https:\/\/huggingface.co\/blog\/hf-torchtpu\" target=\"_blank\" rel=\"noopener\">originalnom Hugging Face blog postu<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Hugging Face je objavio vest koja bi mogla da promeni svakodnevicu svakoga ko radi sa ma\u0161inskim u\u010denjem. Naime, predstavljen je TorchTPU \u2014 nativni PyTorch backend za Googleove Tensor Processing Unit (TPU) \u010dipove. Drugim re\u010dima, vi\u0161e nema mu\u010denja sa torch_xla ili prelaska na JAX. TPU je sada jednostavno jo\u0161 jedan ure\u0111aj u PyTorch svetu. \u0160ta je [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":4452,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[103,104],"tags":[],"class_list":["post-4457","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ai","category-tehnologija"],"_links":{"self":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/4457","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/comments?post=4457"}],"version-history":[{"count":0,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/posts\/4457\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media\/4452"}],"wp:attachment":[{"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/media?parent=4457"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/categories?post=4457"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/11000.dev\/index.php\/wp-json\/wp\/v2\/tags?post=4457"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}