Pereiti prie turinio
2026 m. spalio 24 d., šeštadienis
Tenesys AI News
Prenumerata

AI modeliai

Nauji OpenAI, Anthropic, Google, Meta, Mistral, xAI, DeepSeek, Qwen ir kitų modeliai bei versijos.

“AWS” — 3 straipsniai ✕

Amazon pristatė TorchNeuron – atvirojo kodo jungtį tarp PyTorch ir AWS Trainium lustų

Amazon išleido TorchNeuron – atvirojo kodo programinę sąsają, leidžiančią esamą PyTorch kodą vykdyti AWS Trainium greitintuvuose be didelių pakeitimų. Naujovė pristato papildomą vykdymo režimą bei kelių lygių talpyklą, mažinančią pakartotinį kompiliavimą, o jos patikimumas buvo patikrintas naudojant AI agentus, kurie iš šimtų tūkstančių Hugging Face modelių atrinko reprezentatyvų testavimo rinkinį. Vidiniai dideliu modeliu atlikti testai parodė, kad laikas iki pirmojo mokymo žingsnio sutrumpėjo maždaug trečdaliu.

Amazon Science
Modeliai· Svarbu· 🧪 Verta testuoti

AWS ir i14 atsisako KV talpyklos: 3B parametrų linijinio dėmesio modelis Trainium2 lustuose

Dirbtinio intelekto tyrimų bendrovė i14 kartu su AWS pritaikė savo Laplace 3B modelį — 24 sluoksnių architektūrą, pagrįstą Gated Linear Attention (GLA) vietoj įprasto transformerių dėmesio mechanizmo — AWS Trainium2 lustams, naudodama natyvų PyTorch (TorchNeuron Native). Vietoj su kiekvienu tokenu augančios KV talpyklos, modelis išlaiko pastovią 29,5 MB pasikartojančią būseną kiekvienai sekai. Viename trn2.48xlarge serveryje komanda pasiekė apie 120 000 tokenų per sekundę mokymo metu ir aptarnavo 11 544 išvesties tokenus per sekundę esant 1 280 lygiagrečių sekų per nemodifikuotą vLLM variklį.

AWS Machine Learning

AWS Bedrock įtraukė „TwelveLabs“ Pegasus 1.5 struktūrizuotai vaizdo įrašų paieškai

AWS paleido Pegasus 1.5 — „TwelveLabs“ sukurtą vaizdo-kalbos modelį — kaip visiškai valdomą paslaugą „Amazon Bedrock“ platformoje. Skirtingai nei ankstesnės versijos, atsakydavusios į vieną klausimą apie vieną klipą, šis modelis peržiūri visą vaizdo įrašą ir grąžina JSON sąrašą su visais jūsų apibrėžtus kriterijus atitinkančiais momentais kartu su pradžios ir pabaigos laiko žymomis. Jis taip pat apdoroja ilgesnius įrašus — iki dviejų valandų per vieną užklausą — ir leidžia įkelti vaizdo įrašą tiesiai iš S3 saugyklos arba kaip base64 eilutę, be jokio išankstinio indeksavimo.

AWS Machine Learning