NVIDIA wydała CUDA 13.5, osiągając etap ogólnej dostępności dla nowej architektury GPU Vera Rubin. Aktualizacja wprowadza istotne ulepszenia w harmonogramowaniu zasobów przez multi-process service (MPS), partycjonowaniu domen lokalnych oraz głębszą integrację z bibliotekami SIMT poprzez CUDA Tile.
NVIDIA uruchomiła Cosmos, platformę oferującą fundamenty modeli światowych i narzędzia dla Physical AI, dedykowaną zastosowaniom takim jak robotyka czy pojazdy autonomiczne. Framework zawiera modułowe przepisy do uczenia oraz mikrousługi NIM, które przyspieszają inferencję i umożliwiają generowanie zsynchronizowanych danych wideo oraz LiDAR.
Amazon opublikował metodologię wykorzystania destylacji wiedzy na poziomie sekwencji (SeqKD) do dostrajania mniejszych modeli na trajektoriach wygenerowanych przez modele typu frontier. Dzięki wykorzystaniu modelu „nauczyciela” do generowania udanych trajektorii użycia narzędzi oraz filtrowaniu ich za pomocą programowego skorelowania, zespoły mogą trenować kompaktowe modele „uczniów”, które realizują złożone rozumowanie przy ułamku kosztów.
NVIDIA udostępniła nowy interfejs wiersza poleceń dla środowiska uruchomieniowego TensorRT Edge-LLM, umożliwiający programistom szybkie tworzenie prototypów i testowanie modeli AI na stacjach roboczych DGX Spark 64GB. Zestaw narzędzi ułatwia lokalne serwowanie modeli i wspiera dekodowanie spekulatywne DSpark, zwiększając wydajność generowania na sprzęcie o ograniczonych zasobach.
NVIDIA wprowadziła Nemotron 3.5 Super VL, multimodalny model 120B z oknem kontekstowym 1M tokenów. Model wykorzystuje hybrydową architekturę Mamba-2 oraz MoE, aby zrównoważyć możliwości rozumowania z wydajnością wnioskowania, i jest gotowy do wdrożenia w środowiskach Amazon EKS oraz SageMaker HyperPod.
Mistral AI udostępniło Mistral Large 4 (Le Chonk), model typu open-weight z 1 bilionem parametrów, zoptymalizowany pod kątem kodowania, cyberbezpieczeństwa i rozumowania. Model wprowadza trzy tryby rozumowania w celu zrównoważenia wydajności i kosztów oraz oferuje ulepszone mechanizmy bezpieczeństwa dla agentów AI.
NVIDIA udostępniła CUDA 13.4, wprowadzając sprzętowo przezroczyste limity pamięci dla współdzielenia GPU. W połączeniu z nowym operatorem GPU Fractioning i KAI Scheduler v0.18.0, Twoja firma może definiować żądania pamięci, limity wzrostu oraz tryby obliczeniowe bezpośrednio w adnotacjach Podów Kubernetes.
Firma NVIDIA opublikowała strategię optymalizacji wnioskowania MoE, przetestowaną na modelu Ling-3.0-flash o 124 miliardach parametrów. Dzięki zastosowaniu specjalistycznych jąder Humming, precyzji FP8 dla LM head oraz predykcji wielu tokenów (MTP), można uzyskać wzrost przepustowości o 42,5% oraz redukcję opóźnień o 24,5%.
Firma Google zaktualizowała protokół generatywnego UI (A2UI), wprowadzając wymienne formaty wnioskowania (inference), aby rozwiązać problemy z opóźnieniami i niezawodnością występujące w poprzednim podejściu Direct JSON. Nowy format, A2UI Express, redukuje zużycie tokenów nawet 3-krotnie i opóźnienia nawet 3-krotnie, wykorzystując zwięzłą składnię w stylu Pythona.
Naukowcy przedstawili Boa Compressor, narzędzie typu online wykorzystujące model przestrzeni stanów Mamba do kompresji długiego kontekstu do krótszych reprezentacji w czasie liniowym. Dzięki destylacji wiedzy z pełnych interakcji LLM, metoda ta pozwala na wydajne wnioskowanie przy każdym zapytaniu, eliminując ogromne narzuty opóźnień typowe dla kompresji opartej na Transformerach.
IBM zaktualizowało swój ekosystem oprogramowania, traktując akcelerator danych Spyre jako pierwszorzędny backend PyTorch. Dzięki wykorzystaniu TorchDynamo i TorchInductor, programiści mogą teraz uruchamiać modele na systemach IBM Z, LinuxONE i Power przy użyciu standardowych przepływów pracy PyTorch i wtyczek vLLM.
NVIDIA rozbudowała platformę Cosmos, przeznaczoną do tworzenia „modeli świata” dla fizycznej sztucznej inteligencji i robotyki, dodając nowe szablony do generowania danych, możliwości dostosowywania modeli oraz szybsze wdrażanie. Aktualizacja obejmuje pięć szablonów Cosmos Data Factory do syntetycznych i wzbogaconych danych treningowych, rozszerzone wsparcie Cosmos Framework dla dostosowywania otwartych modeli, takich jak GR00T, Alpamayo, QWEN i Pi0.5, oraz zaktualizowane mikroserwisy Cosmos 3 NIM. Firmy takie jak Porsche, ANYbotics, Ultralytics i ADNOC już wykorzystują te narzędzia do generowania danych dla pojazdów autonomicznych, wykrywania anomalii przez roboty, kontroli defektów i monitoringu bezpieczeństwa.
NVIDIA dodała trzy nowe, otwarte i komercyjnie licencjonowane komponenty do linii Nemotron Retriever: modele Embed (8B i 1B, w wersjach BF16 i NVFP4) do przeszukiwania tekstu i obrazów, model Rerank (8B), który porządkuje pobrane dowody według trafności, oraz kompaktowy model Parse o 631M parametrów, który zamienia obrazy dokumentów na ustrukturyzowany tekst. Celem jest dostarczenie agentom AI lepszych, bardziej trafnych dowodów, dzięki czemu potrzebują mniej rund wyszukiwania i mniej tokenów inferencji do udzielenia odpowiedzi. NVIDIA podaje, że nowe modele Embed i Rerank zajmują pierwsze miejsca w rankingach ViDoRe v3.1 odpowiednio dla wyszukiwania gęstego i rerankingu.
Firma badawcza AI i14 we współpracy z AWS przeniosła swój model Laplace 3B — 24-warstwową architekturę opartą na Gated Linear Attention (GLA) zamiast standardowego mechanizmu uwagi transformerów — na układy AWS Trainium2, wykorzystując natywny PyTorch (TorchNeuron Native). Zamiast rosnącego z każdym tokenem KV cache, model utrzymuje stały stan rekurencyjny o rozmiarze 29,5 MB na sekwencję. Na pojedynczej instancji trn2.48xlarge zespół osiągnął około 120 000 tokenów na sekundę podczas treningu i obsłużył 11 544 tokeny wyjściowe na sekundę przy 1 280 równoległych sekwencjach, korzystając z niezmodyfikowanego silnika vLLM.