Amazon išleido TorchNeuron – atvirojo kodo programinę sąsają, leidžiančią esamą PyTorch kodą vykdyti AWS Trainium greitintuvuose be didelių pakeitimų. Naujovė pristato papildomą vykdymo režimą bei kelių lygių talpyklą, mažinančią pakartotinį kompiliavimą, o jos patikimumas buvo patikrintas naudojant AI agentus, kurie iš šimtų tūkstančių Hugging Face modelių atrinko reprezentatyvų testavimo rinkinį. Vidiniai dideliu modeliu atlikti testai parodė, kad laikas iki pirmojo mokymo žingsnio sutrumpėjo maždaug trečdaliu.
Dirbtinio intelekto tyrimų bendrovė i14 kartu su AWS pritaikė savo Laplace 3B modelį — 24 sluoksnių architektūrą, pagrįstą Gated Linear Attention (GLA) vietoj įprasto transformerių dėmesio mechanizmo — AWS Trainium2 lustams, naudodama natyvų PyTorch (TorchNeuron Native). Vietoj su kiekvienu tokenu augančios KV talpyklos, modelis išlaiko pastovią 29,5 MB pasikartojančią būseną kiekvienai sekai. Viename trn2.48xlarge serveryje komanda pasiekė apie 120 000 tokenų per sekundę mokymo metu ir aptarnavo 11 544 išvesties tokenus per sekundę esant 1 280 lygiagrečių sekų per nemodifikuotą vLLM variklį.
AWS paleido Pegasus 1.5 — „TwelveLabs“ sukurtą vaizdo-kalbos modelį — kaip visiškai valdomą paslaugą „Amazon Bedrock“ platformoje. Skirtingai nei ankstesnės versijos, atsakydavusios į vieną klausimą apie vieną klipą, šis modelis peržiūri visą vaizdo įrašą ir grąžina JSON sąrašą su visais jūsų apibrėžtus kriterijus atitinkančiais momentais kartu su pradžios ir pabaigos laiko žymomis. Jis taip pat apdoroja ilgesnius įrašus — iki dviejų valandų per vieną užklausą — ir leidžia įkelti vaizdo įrašą tiesiai iš S3 saugyklos arba kaip base64 eilutę, be jokio išankstinio indeksavimo.
Anthropic išleido „Claude Haiku 5.5“ (claude-haiku-5-5) — pajėgiausią Haiku modelį, skirtą dideliam apkrovimui ir delsai jautrioms užduotims. Jis palaiko 1 milijono token kontekstą, iki 128k išvesties token ir adaptyvų mąstymą, valdomą nauju effort parametru. Modelis pasiekiamas per Claude API, Amazon Bedrock, Claude Platform on AWS, Google Cloud ir Microsoft Foundry. Anthropic įspėja, kad kodas, parašytas ankstesniam Haiku 4.5 modeliui, gali neveikti naujoje versijoje.
Z.ai sukurtas GLM 5.3 — 753 milijardų parametrų MoE modelis, optimizuotas kodavimui ir ilgalaikėms agentinėms užduotims — dabar prieinamas kaip pilnai valdomas modelis „Amazon Bedrock“ platformoje. Jis tobulina GLM 5 liniją geresniais kodavimo benchmarkų rezultatais, išskirtinėmis kibernetinio saugumo galimybėmis (CyberGym rezultatas 84,5) ir gilesne integracija su Bedrock, įskaitant OpenAI suderinamas API, prompt talpinimą, tarpregioninį interferavimą ir aptarnavimo lygius. AWS taip pat parodo, kaip GLM 5.3 naudoti su atviro kodo agentu Strix autorizuotam savo programų penetraciniam testavimui.