Google ir Meta integravo natyvų TPU palaikymą į PyTorch TorchTitan mokymo karkasą
Trumpai: „Google“ pristatė TorchTPU – natyvų PyTorch backend'ą Cloud TPU („torch.device("tpu")“), ir kartu su „Meta“ sukūrė TorchTitan atšaką, pritaikytą mokymui TPU įrenginiuose. Anksčiau norint mokyti PyTorch modelius TPU reikėdavo perrašyti kodą į JAX arba naudoti senesnį torch_xla kelią; dabar pakanka minimalių įrenginio inicializavimo pakeitimų. Atšaka siūlo paruoštus receptus didelių tankių modelių (Llama 3 70B/405B, Qwen 3 8B/32B), MoE modelių (Qwen 3 235B) ir difuzinių transformerių (FLUX.1 12B) pirminiam mokymui, taip pat „Graph Trainer“, kuris visą mokymo žingsnį užfiksuoja kaip vieną XLA programą geresniam kompiliatoriaus optimizavimui.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „Google Developers“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1Naujas natyvus torch.device("tpu") backend'as PyTorch per TorchTPU, leidžiantis išvengti perrašymo į JAX
- 2Paskelbta TorchTitan TPU atšaka github.com/google-pytorch/torchtitan su pirminio ir po-mokymo receptais
- 3SimpleFSDP pakeičia FSDP2 TPU pritaikytam sharding'ui, suderinamam su torch.compile
- 4Pallas branduoliai (Splash Attention, sujungta kryžminė entropija, grupinis MoE matricų daugyba) įjungiami per konfigūracijos vėliavėles
- 5Graph Trainer užfiksuoja visą mokymo žingsnį (forward, nuostolį, backward, optimizatorių) kaip vieną XLA programą
- 6Praneštas rezultatas: ~99 proc. našumo paritetas su JAX MaxDiffusion naudojant FLUX, 29%+ MFU su Qwen3 235B, 51-52% MFU su Qwen3-8B naudojant funkcinį AdamW
Kodėl tai svarbu?
Tai sumažina barjerą komandoms, jau naudojančioms PyTorch, mokyti ar pritaikyti didelius kalbos ir difuzinius modelius Google Cloud TPU be perėjimo prie JAX, galimai sumažinant sąnaudas ir inžinerinį darbą didelio masto modelių mokymui bei po-mokymo (pvz., GRPO per VeRL su vLLM-TorchTPU serveriu) procesams.
Ką tai reiškia AI agentams ir kontaktų centrams?
Tai mokymo infrastruktūra dideliems modeliams kurti ar pritaikyti, o ne operatyvinis balso AI ar kontaktų centro įrankis, todėl tiesiogiai neturi įtakos kasdieniam skambučių apdorojimui ar STT/TTS procesams,ebent jūsų įmonė ateityje mokytų ar derintų savo didelius modelius TPU per PyTorch.
Šaltiniai
- Google DevelopersOficialusPirminis šaltinisOriginalus straipsnis →„Integrating TorchTPU into TorchTitan and Optimizing Models for TPU“2026-10-20 03:00
- Hugging FaceOficialusOriginalus straipsnis →„Hugging Face ❤️ TorchTPU: TPUs, Natively“2026-10-20 03:00
- Šaltinio publikavimo data
- 2026-10-20 03:00
- Mūsų sistema rado
- 2026-10-20 18:15
- Santrauka sugeneruota
- 2026-10-20 18:17
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas