Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

AI modeliai

Nauji OpenAI, Anthropic, Google, Meta, Mistral, xAI, DeepSeek, Qwen ir kitų modeliai bei versijos.

“Inference” — 38 straipsniai ✕

Modeliai· Svarbu· 🧪 Verta testuoti

NVIDIA pristato CUDA 13.5 su oficialiu Vera Rubin architektūros palaikymu

NVIDIA išleido CUDA 13.5, kurioje „Vera Rubin“ GPU architektūra pasiekė bendrąjį prieinamumą (GA). Atnaujinimas suteikia svarbių patobulinimų daugiaprocesinio paslaugų (MPS) resursų planavimui, lokalumo sričių skaidymui ir gilesnei integracijai su SIMT bibliotekomis per „CUDA Tile“.

NVIDIA Developer
Modeliai· Svarbu· 🧪 Verta testuoti

NVIDIA pristatė „Cosmos“ platformą fizinio pasaulio dirbtiniam intelektui

NVIDIA pristatė „Cosmos“ – platformą, siūlančią pasaulio modelius ir kūrimo įrankius, skirtus fizinio pasaulio dirbtinio intelekto (Physical AI) taikymams, tokiems kaip robotika ir autonominiai automobiliai. Platforma apima modulinius mokymo receptus bei NIM mikrotarnybas, kurios pagreitina modelių veikimą ir leidžia generuoti sinchronizuotus vaizdo bei LiDAR duomenis.

NVIDIA Developer
Modeliai· Svarbu· 🧪 Verta testuoti

Efektyvus agentų optimizavimas naudojant „Knowledge Distillation“ sistemoje „Amazon SageMaker“

„Amazon“ pristatė darbo eigą, leidžiančią taikyti sekų lygio žinių distiliavimą (SeqKD), siekiant apmokyti mažesnius modelius remiantis didžiųjų „frontier“ modelių sugeneruotomis veiksmų trajektorijomis. Naudojant mokytojo modelį sėkmingiems įrankių naudojimo veiksmams sugeneruoti ir filtruojant juos programiniu vertintoju, komandos gali sukurti kompaktiškus studento modelius, kurie atlieka sudėtingas užduotis žymiai mažesniais kaštais.

AWS Machine Learning
Modeliai· Svarbu· 🧪 Verta testuoti

NVIDIA supaprastina dirbtinio intelekto diegimą „Edge“ įrenginiuose su „TensorRT Edge-LLM“

NVIDIA pristatė naują komandinės eilutės sąsają „TensorRT Edge-LLM“ vykdymo mechanizmui, leidžiančią kūrėjams greitai kurti ir testuoti dirbtinio intelekto modelius „DGX Spark 64GB“ darbo stotyse. Įrankių rinkinys palengvina modelių paleidimą vietoje ir palaiko „DSpark“ spekuliatyvųjį dekodavimą, skirtą padidinti generavimo spartą ribotų resursų aparatinėje įrangoje.

NVIDIA Developer
Modeliai· Svarbu· 🧪 Verta testuoti

„NVIDIA“ pristatė multimodalų „Nemotron 3.5 Super VL“, skirtą „AWS EKS“

„NVIDIA“ išleido „Nemotron 3.5 Super VL“ – 120B parametrų multimodalų modelį su 1M žetonų kontekstiniu langu. Modelis naudoja hibridinę „Mamba-2“ ir „MoE“ architektūrą, kad subalansuotų mąstymo gebėjimus ir našumą, ir yra paruoštas diegimui „Amazon EKS“ bei „SageMaker HyperPod“ aplinkose.

AWS Machine Learning
Karšta naujienaModeliai· 🧪 Verta testuoti

„Mistral AI“ pristatė 1 trilijono parametrų modelį „Mistral Large 4“

„Mistral AI“ išleido „Mistral Large 4“ (Le Chonk) – 1 trilijono parametrų atvirojo svorio modelį, optimizuotą programavimui, kibernetiniam saugumui ir loginiam samprotavimui. Modelyje įdiegti trys skirtingi logikos režimai, leidžiantys subalansuoti našumą ir išlaidas, bei sustiprintos apsaugos priemonės saugiems agentams.

Mistral AI
Modeliai· Svarbu· 🧪 Verta testuoti

GPU infrastruktūros optimizavimas su CUDA 13.4 atminties ribojimu

NVIDIA pristatė CUDA 13.4, įdiegdama skaidrų atminties ribojimą GPU dalijimuisi. Kartu su nauju atvirojo kodo „GPU Fractioning Operator“ ir „KAI Scheduler“ v0.18.0, jūsų įmonė gali tiesiogiai „Kubernetes“ Pod anotacijose nustatyti konkrečius atminties poreikius, maksimalias ribas ir skaičiavimo režimus.

NVIDIA Developer
Modeliai· Svarbu· 🧪 Verta testuoti

Didelių MoE modelių pralaidumo didinimas NVIDIA platformose

„NVIDIA“ pristatė trijų dalių optimizavimo strategiją, skirtą pagreitinti MoE modelių išvedimą, išbandytą su 124 mlrd. parametrų „Ling-3.0-flash“ modeliu. Naudojant specializuotus „Humming“ branduolius, FP8 tikslumą „LM head“ sluoksnyje ir kelių žetonų prognozavimą (MTP), pralaidumą galima padidinti 42,5 %, o vėlinimą sumažinti 24,5 %.

NVIDIA Developer
Modeliai· Svarbu· 🧪 Verta testuoti

Google atnaujino A2UI su keičiamais išvadų formatais ir Express režimu

„Google“ atnaujino savo A2UI generatyvinio UI protokolą, įtraukdama keičiamus išvadų (inference) formatus, taip spręsdama vėlavimo ir patikimumo problemas, susijusias su ankstesniu „Direct JSON“ metodu. Naujasis „A2UI Express“ formatas sumažina tokenų sunaudojimą iki 3 kartų ir delsą iki 3 kartų, naudodamas glaustą „Python“ stiliaus sintaksę.

Google Developers
Modeliai· Svarbu· 🧪 Verta testuoti

„Boa Compressor“ suteikia LLM galimybę realiuoju laiku glaudinti ilgą kontekstą

Tyrėjai pristatė „Boa Compressor“ – internetinį įrankį, naudojantį „Mamba“ būsenos erdvės modelį, kuris linijiniu laiku suspaudžia ilgą kontekstą į trumpesnes reprezentacijas. Išskirstant žinias iš pilno konteksto LLM sąveikų, šis metodas leidžia efektyviai atlikti išvadas kiekvienai užklausai be didelių „Transformer“ pagrįsto glaudinimo delsos sąnaudų.

arXiv cs.CL
Modeliai· Svarbu· 🧪 Verta testuoti

IBM Spyre spartintuvas gavo natyvią PyTorch ir vLLM integraciją

IBM atnaujino savo programinės įrangos ekosistemą, kad Spyre duomenų srauto spartintuvas būtų laikomas aukščiausios klasės PyTorch pagrindine sistema. Naudodami TorchDynamo ir TorchInductor, kūrėjai dabar gali paleisti modelius IBM Z, LinuxONE ir Power sistemose, naudodami standartinius PyTorch darbo eigų ir vLLM papildinius.

IBM Research

„NVIDIA“ praplėtė „Cosmos“ pasaulio modelių platformą naujais duomenų, mokymo ir diegimo įrankiais

„NVIDIA“ išplėtė „Cosmos“ platformą, skirtą „pasaulio modeliams“ fizinio AI ir robotikos sritims, pridėdama naujus duomenų kūrimo šablonus, modelių pritaikymo galimybes ir greitesnį diegimą. Atnaujinime – penki „Cosmos Data Factory“ šablonai sintetiniams ir papildytiems mokymo duomenims kurti, išplėstas „Cosmos Framework“ palaikymas atvirų modelių, tokių kaip GR00T, Alpamayo, QWEN ir Pi0.5, pritaikymui bei atnaujintos „Cosmos 3 NIM“ mikropaslaugos. Tokios kompanijos kaip „Porsche“, „ANYbotics“, „Ultralytics“ ir ADNOC jau naudoja šiuos įrankius autonominių transporto priemonių duomenims generuoti, robotų anomalijoms aptikti, defektų kontrolei ir saugumo stebėjimui.

NVIDIA
Modeliai· Svarbu· 🧪 Verta testuoti

NVIDIA išplėtė „Nemotron“ liniją naujais paieškos, perrikiavimo ir dokumentų analizės modeliais dirbtinio intelekto agentams

NVIDIA pristatė tris naujus atvirus, komerciškai licencijuotus komponentus „Nemotron Retriever“ linijoje: „Embed“ modelius (8B ir 1B, BF16 ir NVFP4 formatais) teksto ir vaizdų paieškai, „Rerank“ modelį (8B), kuris perrikiuoja gautus įrodymus pagal aktualumą, ir kompaktišką 631M „Parse“ modelį, verčiantį dokumentų vaizdus struktūruotu tekstu. Tikslas – pateikti AI agentams geresnius, aktualesnius įrodymus, kad jiems reikėtų mažiau paieškos ciklų ir mažiau inferencijos žetonų atsakymui gauti. NVIDIA teigia, kad nauji „Embed“ ir „Rerank“ modeliai pirmauja „ViDoRe v3.1“ dense paieškos ir perrikiavimo lyderių lentelėse.

Hugging Face
Modeliai· Svarbu· 🧪 Verta testuoti

AWS ir i14 atsisako KV talpyklos: 3B parametrų linijinio dėmesio modelis Trainium2 lustuose

Dirbtinio intelekto tyrimų bendrovė i14 kartu su AWS pritaikė savo Laplace 3B modelį — 24 sluoksnių architektūrą, pagrįstą Gated Linear Attention (GLA) vietoj įprasto transformerių dėmesio mechanizmo — AWS Trainium2 lustams, naudodama natyvų PyTorch (TorchNeuron Native). Vietoj su kiekvienu tokenu augančios KV talpyklos, modelis išlaiko pastovią 29,5 MB pasikartojančią būseną kiekvienai sekai. Viename trn2.48xlarge serveryje komanda pasiekė apie 120 000 tokenų per sekundę mokymo metu ir aptarnavo 11 544 išvesties tokenus per sekundę esant 1 280 lygiagrečių sekų per nemodifikuotą vLLM variklį.

AWS Machine Learning