IBM Spyre spartintuvas gavo natyvią PyTorch ir vLLM integraciją
Trumpai: IBM atnaujino savo programinės įrangos ekosistemą, kad Spyre duomenų srauto spartintuvas būtų laikomas aukščiausios klasės PyTorch pagrindine sistema. Naudodami TorchDynamo ir TorchInductor, kūrėjai dabar gali paleisti modelius IBM Z, LinuxONE ir Power sistemose, naudodami standartinius PyTorch darbo eigų ir vLLM papildinius.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „IBM Research“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1torch-spyre pristatymas kaip pagrindinio PyTorch backend
- 2Perėjimas prie Inductor kompiliatoriaus, sumažinant pasirinktinio kodo kiekį maždaug 7 kartus
- 3Aparatinei įrangai agnostinių vLLM sluoksnių diegimas modelių perkeliamumui gerinti
- 4Našumo padidėjimas iki 1,7 karto prefill ir 2,4 karto decode Granite 3.3 modeliams
Kodėl tai svarbu?
Tai sumažina specializuotos dirbtinio intelekto aparatūros pritaikymo sunkumus. Organizacijos dabar gali išlaikyti nuoseklius dirbtinio intelekto diegimo procesus įvairiose architektūrose, išvengdamos skirtingų programinės įrangos krūvų tvarkymo GPU ir ne GPU išvadoms.
Ką tai reiškia AI agentams ir kontaktų centrams?
Komandoms, valdančioms dirbtinio intelekto išvadų infrastruktūrą, tai yra reikšmingas aparatūros sąveikos vystymasis. Tai reiškia, kad modeliai, sukurti bendroms aplinkoms, dabar gali būti perkelti į IBM infrastruktūrą su minimaliais kodo pakeitimais. Vertindami tai, palyginkite delsą, pralaidumą ir modelių suderinamumą (pvz., Gemma 4, Qwen3) su esamais GPU pagrįstais išvadų etaloniais.
🧪 Verta testuoti
Testavimas aktualus, jei jūsų išvadų procesai plečiami į IBM aparatūrą, leidžiant lanksčiau paskirstyti išteklius naudojant standartines PyTorch sąsajas.
Šaltiniai
- IBM ResearchOficialusPirminis šaltinisOriginalus straipsnis →„PyTorch opens the AI ecosystem to a new accelerator class“2026-10-26 14:00
- Šaltinio publikavimo data
- 2026-10-26 14:00
- Mūsų sistema rado
- 2026-10-26 14:21
- Santrauka sugeneruota
- 2026-10-26 14:21
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas