Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

NVIDIA

Najnowsze wiadomości, modele i ich zmiany.

Najnowsze wiadomości

Modele· Ważne· 🧪 Warte przetestowania

Optymalizacja jąder rzadkiej uwagi dla modeli LLM z długim kontekstem

NVIDIA opublikowała techniczne wytyczne dotyczące projektowania rzadkiej uwagi („sparse attention”) w modelach z długim kontekstem. Poprzez optymalizację jąder indeksujących („indexer”), które identyfikują istotne tokeny przed pełną analizą, można znacząco poprawić wydajność wnioskowania przy kontekście przekraczającym 100 tys. tokenów.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA prezentuje Nemotron for Science dla autonomicznych agentów badawczych

NVIDIA wprowadziła 'Nemotron for Science', zestaw narzędzi łączący model Nemotron 3.5 Super VL ze specjalistycznymi zbiorami danych chemicznych i przepisami potreningowymi. Platforma ta umożliwia badaczom wdrażanie lokalnych agentów, którzy potrafią samodzielnie planować eksperymenty, uruchamiać kod i weryfikować wyniki danych.

NVIDIA
Modele· Ważne

Platforma NVIDIA Vera Rubin osiąga nowe rekordy w testach MLPerf

Firma NVIDIA opublikowała pierwsze wyniki testów MLPerf Training v6.1 oraz Endpoints v1.0 dla swojej nowej architektury Vera Rubin. System wykazał znaczny postęp w szybkości trenowania oraz efektywności energetycznej w zadaniach opartych na agentach AI.

NVIDIA
Modele· 🧪 Warte przetestowania

NVIDIA wprowadza natywne wsparcie dla wnioskowania DLA w Pythonie

Firma NVIDIA udostępniła moduł cuda.bindings.cudla, umożliwiający bezpośrednie zarządzanie akceleratorem Deep Learning Accelerator (DLA) na platformie Jetson AGX Orin za pomocą języka Python. Programiści mogą teraz łączyć wstępne przetwarzanie GPU i wnioskowanie DLA w jednym strumieniu CUDA.

NVIDIA Developer

NVIDIA udostępnia SOMA Retargeter do mapowania ruchu humanoidów

NVIDIA wydała wersję 0.2 narzędzia SOMA Retargeter, otwartoźródłowego rozwiązania służącego do adaptacji danych ruchu ludzkiego dla robotów humanoidalnych. Narzędzie przetwarza dane z motion capture lub rekonstrukcji wideo i dostosowuje je do anatomii konkretnego robota za pomocą kinematyki odwrotnej.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

Skalowanie dużych modeli MoE na wielu stacjach NVIDIA DGX

Firma NVIDIA udostępniła workflow techniczny umożliwiający uruchomienie modelu MoE GLM-5.3 o 753 mld parametrów na dwóch stacjach DGX wyposażonych w GB300. Dzięki zastosowaniu zrównoleglenia tensorowego (TP=2) poprzez połączenia RDMA i vLLM, można pokonać ograniczenia pamięci pojedynczego GPU (252 GB HBM3e) w przypadku modeli o ogromnej skali.

NVIDIA Developer
Automatyzacja· Ważne· 🧪 Warte przetestowania

NVIDIA AICR wprowadza listę materiałów AI (AIBOM) do śledzenia obciążeń

NVIDIA zintegrowała projekt open-source k8s-aibom ze swoim środowiskiem AI Cluster Runtime (AICR). Pozwala to zespołom platformowym na automatyczne generowanie i audytowanie listy materiałów AI (AIBOM) dla obciążeń działających w Kubernetes, umożliwiając identyfikację modeli, środowisk uruchomieniowych wnioskowania oraz zależności.

NVIDIA Developer
Automatyzacja· Ważne· 🧪 Warte przetestowania

NVIDIA wprowadza silnik Kubernetes open source dla infrastruktury GPU

NVIDIA udostępniła NVIDIA Kubernetes Engine (NVKE) oraz NVIDIA Kubernetes Recipes (NVKR) jako projekty open source w ramach publicznej wersji zapoznawczej. Narzędzia te mają na celu wsparcie w budowaniu, wdrażaniu i zarządzaniu klastrami Kubernetes zoptymalizowanymi pod kątem zadań akcelerowanych przez GPU.

NVIDIA Developer
Automatyzacja· Ważne· 🧪 Warte przetestowania

NVIDIA Snapshot przyspiesza start procesów wnioskowania GPU do kilku sekund

NVIDIA wprowadziła open-source'owe narzędzie NVIDIA Snapshot dla zadań GPU działających w środowisku Kubernetes. Poprzez zapisywanie w pełni zainicjowanych modeli i ich stanów, system pozwala replikom wnioskowania (inference) na wznowienie pracy w kilka sekund zamiast minut, eliminując powtarzalne etapy inicjalizacji.

NVIDIA Developer
Agenci· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia Agent Substrate: skalowanie infrastruktury agentów AI na Kubernetes

NVIDIA przekazała projekt Agent Substrate do CNCF Sandbox, aby rozwiązać problem nieefektywnego uruchamiania agentów AI w środowisku Kubernetes. Platforma pozwala na multipleksowanie wielu sesji agentów w małej puli aktywnych podów typu worker poprzez zapisywanie stanu pamięci i systemu plików w okresach bezczynności.

NVIDIA Developer

NVIDIA zwiększa inwestycje strategiczne w południowokoreańskie startupy AI

NVIDIA ogłosiła nowe inwestycje w południowokoreańskie startupy specjalizujące się w technologiach połączeń, modelach bazowych dla agentów AI oraz robotyce. Inicjatywa, realizowana we współpracy z MSIT, ma na celu przyspieszenie innowacji w całym stosie technologicznym AI, od infrastruktury sprzętowej po fizyczne zastosowania sztucznej inteligencji.

NVIDIA
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia przepisy Dynamo dla koreańskich modeli typu open weights

NVIDIA wprowadziła przepisy wdrożeniowe dla czterech czołowych koreańskich modeli typu open, w tym A.X K2 i Solar Open 2, w ramach frameworka Dynamo. Rozwiązania te są zoptymalizowane pod kątem wielowęzłowych klastrów GPU NVIDIA B200, co pozwala na sprawne skalowanie wnioskowania.

NVIDIA
Agenci· Ważne· 🧪 Warte przetestowania

NVIDIA wzmacnia bezpieczeństwo agentów AI i rozwija możliwości modeli koreańskich

NVIDIA wprowadziła „Open Agent Safety Platform” z runtime’em „OpenShell”, zapewniającym bezpieczne, izolowane środowisko uruchomieniowe i zarządzanie politykami dla agentów AI. Jednocześnie „LG AI Research” udostępniło API do modelu „K-EXAONE-2.5”, wspieranego przez nowy zestaw danych „Nemotron-Personas-Korea”, zawierający 7 milionów syntetycznych osobowości.

NVIDIA
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia optymalizacje wydajności FLUX 3 Image Klein dla GPU Blackwell

Firma NVIDIA wprowadziła nowe narzędzia optymalizacyjne w TensorRT LLM VisualGen dla modelu FLUX 3 Image Klein. Dzięki zastosowaniu kwantyzacji NVFP4, fuzji jąder obliczeniowych, rzadkiej atencji (sparse attention) oraz buforowania kroków, można uzyskać do 3,46 razy szybsze generowanie obrazu na sprzęcie NVIDIA Blackwell.

NVIDIA Developer
Biznes· Ważne· 🧪 Warte przetestowania

NVIDIA wprowadza procesor Vera dla obciążeń agentami AI

NVIDIA zaprezentowała procesor Vera, zaprojektowany w celu optymalizacji wydajności agentów AI, którzy przełączają się między rozumowaniem GPU a zadaniami CPU. Architektura ta rozwiązuje problemy z limitami mocy i przepustowością, z jakimi borykają się centra danych korzystające ze standardowej infrastruktury x86.

NVIDIA
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia cztery modele świata Cosmos 3 o otwartych wagach

NVIDIA wprowadziła cztery punkty kontrolne o 16 miliardach parametrów w rodzinie modeli Cosmos 3 Nano, zaprojektowane do interaktywnej symulacji świata. Modele te umożliwiają deweloperom generowanie syntetycznych danych z wielu czujników, symulowanie ruchów robotów oraz konwersję sygnałów sterujących symulatorem na fotorealistyczne wideo.

Hugging Face
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA prezentuje strategie projektowania sprzętu dla maksymalizacji efektywności AI

NVIDIA wprowadziła pięć filarów ko-projektowania dla platformy Vera Rubin NVL72, mających na celu maksymalizację przepustowości w zadaniach agentowych AI. Łącząc nowe formaty precyzji, takie jak NVFP4, szeroki paralelizyzm ekspertów oraz warstwę serwowania Dynamo, system traktuje pamięć jako zunifikowany, wielopoziomowy zasób między GPU, procesorami hosta a specjalistycznymi systemami pamięci masowej.

NVIDIA Developer
Agenci· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia framework agentów open-source do zarządzania klastrami GPU

NVIDIA wprowadziła „AI Factory Operations Agent”, framework oparty na „NemoClaw” i „OpenShell”, zaprojektowany w celu automatyzacji zarządzania i diagnostyki rozległych klastrów GPU. Dzięki wykorzystaniu wyspecjalizowanych agentów i protokołu „Model Context Protocol” (MCP), inżynierowie mogą przeprowadzać analizę przyczyn awarii na warstwach sprzętowej, sieciowej i programowej za pośrednictwem ujednoliconego interfejsu czatu.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia CUDA 13.5 z pełnym wsparciem dla architektury Vera Rubin

NVIDIA wydała CUDA 13.5, osiągając etap ogólnej dostępności dla nowej architektury GPU Vera Rubin. Aktualizacja wprowadza istotne ulepszenia w harmonogramowaniu zasobów przez multi-process service (MPS), partycjonowaniu domen lokalnych oraz głębszą integrację z bibliotekami SIMT poprzez CUDA Tile.

NVIDIA Developer
Agenci· Ważne· 🧪 Warte przetestowania

Automatyzacja optymalizacji agentów z NVIDIA NeMo

NVIDIA wprowadziła workflow pozwalający na przekształcenie błędów agentów wykrytych w środowisku produkcyjnym w ustrukturyzowane testy przy użyciu NeMo Compass i NeMo Eval Author. Proces ten analizuje logi, identyfikuje powtarzające się problemy, generuje celowane testy i waliduje wprowadzane poprawki.

NVIDIA Developer
Automatyzacja· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia narzędzie open-source do diagnostyki awarii w rozproszonych obciążeniach AI

Firma NVIDIA udostępniła w modelu open-source narzędzie „NVIDIA Attribution”, służące do korelowania logów, metryk i stanów harmonogramu w ustrukturyzowane diagnozy dla rozproszonych zadań uczenia AI. Poprzez identyfikację przyczyn źródłowych i oddzielanie ich od symptomów wtórnych (takich jak błędy NCCL), pomaga ono zespołom infrastrukturalnym w skuteczniejszym zarządzaniu dużymi klastrami GPU.

NVIDIA Developer
Automatyzacja· Ważne· 🧪 Warte przetestowania

Uproszczenie gotowości Kubernetes dla NVIDIA Vera Rubin NVL72

Firma NVIDIA udostępniła zaktualizowane receptury AI Cluster Runtime (AICR), zaprojektowane w celu usprawnienia wdrażania Kubernetes na nowym sprzęcie Vera Rubin NVL72. Receptury te dostarczają wstępnie zweryfikowane konfiguracje sterowników, jąder systemu i komponentów sieciowych, zapewniając gotowość klastrów do pracy od pierwszego dnia.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA wprowadza platformę Cosmos do symulacji fizycznego świata przez AI

NVIDIA uruchomiła Cosmos, platformę oferującą fundamenty modeli światowych i narzędzia dla Physical AI, dedykowaną zastosowaniom takim jak robotyka czy pojazdy autonomiczne. Framework zawiera modułowe przepisy do uczenia oraz mikrousługi NIM, które przyspieszają inferencję i umożliwiają generowanie zsynchronizowanych danych wideo oraz LiDAR.

NVIDIA Developer
Automatyzacja· Ważne· 🧪 Warte przetestowania

Ujednolicone zarządzanie obciążeniami Kubernetes dzięki NVIDIA Workload Map

NVIDIA wprowadziła „Workload Map”, narzędzie zapewniające ujednolicony sposób interpretacji rozproszonych obciążeń AI przez planery i platformy Kubernetes. Dzięki deklaratywnym definicjom YAML eliminuje potrzebę tworzenia niestandardowych adapterów dla każdego nowego frameworka, takiego jak JobSet, Ray czy KServe.

NVIDIA Developer
Automatyzacja· Ważne· 🧪 Warte przetestowania

Usprawnienie wdrażania inferencji w Kubernetes dzięki NVIDIA Dynamo 1.4.2

Firma NVIDIA udostępniła AI Cluster Runtime (AICR), aby pakować infrastrukturę inferencyjną Dynamo w zweryfikowane przepisy wdrożeniowe. Ta aktualizacja upraszcza proces instalacji poprzez przypinanie wersji komponentów i usuwanie obowiązkowych zależności, takich jak NATS, wprowadzając jednocześnie nowe ścieżki routingu oparte na pamięci KV dla Kubernetes.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA upraszcza wdrażanie Edge AI za pomocą TensorRT Edge-LLM

NVIDIA udostępniła nowy interfejs wiersza poleceń dla środowiska uruchomieniowego TensorRT Edge-LLM, umożliwiający programistom szybkie tworzenie prototypów i testowanie modeli AI na stacjach roboczych DGX Spark 64GB. Zestaw narzędzi ułatwia lokalne serwowanie modeli i wspiera dekodowanie spekulatywne DSpark, zwiększając wydajność generowania na sprzęcie o ograniczonych zasobach.

NVIDIA Developer
Agenci· Ważne· 🧪 Warte przetestowania

NVIDIA wprowadza NemoClaw do budowy bezpiecznych i zoptymalizowanych agentów AI

NVIDIA zaprezentowała NemoClaw, framework oparty na otwartych szablonach, który integruje środowiska uruchomieniowe agentów z zoptymalizowanymi modelami Nemotron. Pozwala to programistom na wdrażanie agentów działających na własnej infrastrukturze przy zachowaniu ścisłej kontroli bezpieczeństwa.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia multimodalny model Nemotron 3.5 Super VL dla AWS EKS

NVIDIA wprowadziła Nemotron 3.5 Super VL, multimodalny model 120B z oknem kontekstowym 1M tokenów. Model wykorzystuje hybrydową architekturę Mamba-2 oraz MoE, aby zrównoważyć możliwości rozumowania z wydajnością wnioskowania, i jest gotowy do wdrożenia w środowiskach Amazon EKS oraz SageMaker HyperPod.

AWS Machine Learning
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia Nemotron 3.5 Transcribe do wielojęzycznej analizy audio

Firma NVIDIA wprowadziła Nemotron 3.5 Transcribe, model o otwartych wagach, sterowany za pomocą instrukcji, przeznaczony do zamiany mowy na tekst, diaryzacji mówców i tłumaczeń. Model wykorzystuje hybrydową architekturę Mamba-Transformer, osiągając wiodącą w branży wydajność przy zaledwie 4 miliardach aktywnych parametrów.

Hugging Face
Modele· Ważne· 🧪 Warte przetestowania

Optymalizacja infrastruktury GPU dzięki limitom pamięci w CUDA 13.4

NVIDIA udostępniła CUDA 13.4, wprowadzając sprzętowo przezroczyste limity pamięci dla współdzielenia GPU. W połączeniu z nowym operatorem GPU Fractioning i KAI Scheduler v0.18.0, Twoja firma może definiować żądania pamięci, limity wzrostu oraz tryby obliczeniowe bezpośrednio w adnotacjach Podów Kubernetes.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA wprowadza przepływ pracy dostrajania oparty na personach dla zlokalizowanych modeli LLM

NVIDIA udostępniła zbiory danych 'Nemotron-Personas' dla Francji i Belgii, mające na celu poprawę dokładności modeli LLM w odniesieniu do regionalnych procedur, demografii i niuansów kulturowych. Aktualizacja dostarcza kompletny przepływ pracy post-treningowej – w tym generowanie danych, dostrajanie LoRA przez NVIDIA NeMo oraz ewaluację – aby pomóc deweloperom przejść od modeli ogólnych do agentów specyficznych dla danej dziedziny.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

Zwiększanie przepustowości dużych modeli MoE na architekturze NVIDIA

Firma NVIDIA opublikowała strategię optymalizacji wnioskowania MoE, przetestowaną na modelu Ling-3.0-flash o 124 miliardach parametrów. Dzięki zastosowaniu specjalistycznych jąder Humming, precyzji FP8 dla LM head oraz predykcji wielu tokenów (MTP), można uzyskać wzrost przepustowości o 42,5% oraz redukcję opóźnień o 24,5%.

NVIDIA Developer
Automatyzacja· Ważne· 🧪 Warte przetestowania

NVIDIA Mission Control 2.5 wprowadza samonaprawę dla klastrów Kubernetes

NVIDIA rozszerzyła platformę Mission Control o funkcje autonomicznego odzyskiwania dla środowisk Kubernetes zarządzanych przez Run:ai. System rozdziela procesy naprawy zadań od konserwacji sprzętu, co umożliwia wznawianie zadań treningowych na zdrowych węzłach podczas jednoczesnej diagnostyki uszkodzonej infrastruktury.

NVIDIA Developer
Automatyzacja· Ważne

NVIDIA prezentuje Minerva – platformę do monitorowania wielkich klastrów GPU

NVIDIA zaprezentowała Minerva, platformę operacyjną łączącą telemetrię z GPU, sprzętu sieciowego, pamięci masowej i uruchomionych zadań, aby operatorzy mogli wykrywać problemy w ogromnych klastrach GPU, zanim doprowadzą one do przestojów. Modele uczenia maszynowego tworzą na bieżąco mapę sprzętu i obciążeń, oznaczają nietypowe zachowania i grupują powiązane alerty w jeden incydent z prawdopodobną przyczyną, zamiast zalewać zespoły osobnymi powiadomieniami. Wbudowany asystent pozwala pytać o stan klastra w języku naturalnym, a system może łączyć się z narzędziami automatyzacji, by wdrażać poprawki. IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI i Tesla planują jej wdrożenie, a Dell, Lenovo i Supermicro będą oferować ją w ramach swoich rozwiązań infrastrukturalnych.

NVIDIA

NVIDIA rozszerza platformę Cosmos o nowe narzędzia do danych, trenowania i wdrażania modeli świata

NVIDIA rozbudowała platformę Cosmos, przeznaczoną do tworzenia „modeli świata” dla fizycznej sztucznej inteligencji i robotyki, dodając nowe szablony do generowania danych, możliwości dostosowywania modeli oraz szybsze wdrażanie. Aktualizacja obejmuje pięć szablonów Cosmos Data Factory do syntetycznych i wzbogaconych danych treningowych, rozszerzone wsparcie Cosmos Framework dla dostosowywania otwartych modeli, takich jak GR00T, Alpamayo, QWEN i Pi0.5, oraz zaktualizowane mikroserwisy Cosmos 3 NIM. Firmy takie jak Porsche, ANYbotics, Ultralytics i ADNOC już wykorzystują te narzędzia do generowania danych dla pojazdów autonomicznych, wykrywania anomalii przez roboty, kontroli defektów i monitoringu bezpieczeństwa.

NVIDIA

NVIDIA i Uniwersytet Waszyngtoński prezentują RFD4-Proteina do szybszego projektowania białek z AI

Zespół NVIDIA BioNeMo wspólnie z Institute for Protein Design na Uniwersytecie Waszyngtońskim zaprezentował RFD4-Proteina – model, który w jednym kroku generuje zarówno sekwencję białka, jak i pełną strukturę atomową, eliminując oddzielny etap inverse-folding stosowany we wcześniejszych rozwiązaniach. Dzięki pracy na reprezentacji na poziomie reszt (residue-level) oraz uproszczonemu procesowi dyfuzji, model wymaga tylko około 60 kroków odszumiania zamiast wcześniejszych ok. 400, co przekłada się na wyraźnie szybsze generowanie i znacznie mniejsze zużycie pamięci niż poprzednik RFD3 przy generowaniu białka o 200 resztach. Podczas generowania model może także prowadzić wyszukiwanie sterowane nagrodą (reward-guided search), które ocenia i rozwija częściowe projekty za pomocą narzędzi przyspieszanych przez GPU, takich jak OpenFold3 i TMol. Model jest dostępny zarówno jako otwarty model na GitHub, jak i jako mikroserwis NIM z interfejsem HTTP, a dedykowane narzędzia pozwalają zautomatyzowanym agentom łączyć etapy generowania, wyszukiwania i oceny.

NVIDIA Developer
Biznes· Ważne

Google Cloud i NVIDIA uruchamiają instancje A5X oparte na Vera Rubin

Google Cloud i NVIDIA ogłosiły ogólną dostępność instancji A5X opartych na GPU NVIDIA Vera Rubin NVL72, kartach ConnectX-9 SuperNIC oraz sieci Google Virgo, przeznaczonych do zadań agentowych i uczenia ze wzmocnieniem na dużą skalę. Google Cloud planuje rozbudować infrastrukturę Vera Rubin do nawet 960 000 GPU Rubin w wielu lokalizacjach, z ogólną dostępnością w przyszłym miesiącu i planowaną ekspansją do Europy. Pierwszym klientem jest londyńska firma Ineffable Intelligence, założona przez twórcę AlphaGo Davida Silvera, wykorzystująca platformę do budowy systemów „superlearner”.

NVIDIA
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA rozszerza linię Nemotron o nowe modele wyszukiwania, rerankingu i parsowania dokumentów dla agentów AI

NVIDIA dodała trzy nowe, otwarte i komercyjnie licencjonowane komponenty do linii Nemotron Retriever: modele Embed (8B i 1B, w wersjach BF16 i NVFP4) do przeszukiwania tekstu i obrazów, model Rerank (8B), który porządkuje pobrane dowody według trafności, oraz kompaktowy model Parse o 631M parametrów, który zamienia obrazy dokumentów na ustrukturyzowany tekst. Celem jest dostarczenie agentom AI lepszych, bardziej trafnych dowodów, dzięki czemu potrzebują mniej rund wyszukiwania i mniej tokenów inferencji do udzielenia odpowiedzi. NVIDIA podaje, że nowe modele Embed i Rerank zajmują pierwsze miejsca w rankingach ViDoRe v3.1 odpowiednio dla wyszukiwania gęstego i rerankingu.

Hugging Face
Agenci· Ważne

NVIDIA wprowadza OpenShell — otwartoźródłową architekturę do zabezpieczania i zarządzania agentami AI

NVIDIA opublikowała OpenShell — otwartoźródłowe środowisko uruchomieniowe, które traktuje obciążenia agentów jako niezaufane i przyznaje dostęp do plików, narzędzi i systemów tylko wtedy, gdy jest to potrzebne. Towarzyszy temu nowy procesor NVIDIA Vera oraz opcjonalnie karty BlueField-4 DPU z NVIDIA Sentry do sprzętowego monitorowania. NVIDIA twierdzi, że razem tworzą one pełną architekturę referencyjną do bezpiecznego działania autonomicznych agentów na skalę centrów danych.

NVIDIA Developer

NVIDIA wprowadza Sentry – sprzętową warstwę nadzorującą i blokującą nieposłuszne agenty AI

NVIDIA przedstawiła Sentry, nowy framework bezpieczeństwa działający poza zasięgiem agenta AI, egzekwujący polityki i monitorujący zachowanie z wydzielonej, zaufanej domeny sprzętowej na kartach DPU BlueField-4. Pomysł jest prosty: nawet jeśli agent zostanie przejęty lub zacznie działać niezgodnie z zamierzeniem podczas korzystania z narzędzi i poświadczeń, Sentry nadal go obserwuje i może go odciąć, ponieważ nie zależy od systemu hosta, na którym agent działa. Dwa komponenty wykonują zasadniczą pracę – DOCA Tower, proxy sprawdzające i autoryzujące każde żądanie sieciowe agenta, oraz DOCA Argus, odczytujący pamięć w czasie rzeczywistym, aby zrozumieć, co faktycznie się dzieje. Gdy coś wygląda podejrzanie, system może odizolować agenta w ciągu milisekund, bez potrzeby współpracy ze strony agenta czy hosta.

NVIDIA Developer

NVIDIA prezentuje Cosmos3-H-Dreams – generatywny symulator chirurgii czasu rzeczywistego

NVIDIA wydała Cosmos3-H-Dreams, model fundamentowy świata (world foundation model), który generuje interaktywne sceny chirurgiczne w czasie rzeczywistym na podstawie kinematyki robota z rzeczywistych zabiegów cholecystektomii zarejestrowanych na platformie CMR Surgical Versius. Model zbudowany na bazie 16-miliardowego modelu Cosmos3-H-Embodied-Nano i przyspieszony biblioteką strumieniowego wnioskowania FlashDreams firmy NVIDIA działa na pojedynczym GPU RTX PRO 6000. System uczy się wizualnej dynamiki chirurgicznej bezpośrednio z danych wideo i kinematyki, zamiast jawnego modelowania fizyki, i oferuje destylowane punkty kontrolne czterokrokowe i dwukrokowe, pozwalające wybrać kompromis między jakością a szybkością.

Hugging Face

NVIDIA i AI4Bharat udostępniają zbiór danych do pretreningu w językach indyjskich o rozmiarze 2,8 biliona tokenów oraz otwarty pipeline generowania danych

NVIDIA we współpracy z laboratorium AI4Bharat z IIT Madras udostępnia Nemotron-pretraining-Indic-v1 – syntetyczny zbiór danych do pretreningu liczący około 2,8 biliona tokenów, obejmujący 22 języki indyjskie, wraz z otwartym pipeline'em przyspieszanym przez GPU, który posłużył do jego utworzenia. Zbiór zawiera dane w oryginalnym piśmie dla wszystkich 22 języków oraz tekst zromanizowany dla dwunastu z nich, stworzone przez tłumaczenie wyselekcjonowanych materiałów anglojęzycznych (tekst webowy, matematyka, kod, pytania-odpowiedzi) z użyciem NeMo Data Designer i weryfikowane za pomocą rubryki inspirowanej MQM. NVIDIA wykorzystała już podzbiór 10 miliardów tokenów indyjskich do kontynuowanego pretreningu Nemotron 3.5 Super VL, co przyniosło mierzalne poprawy w benchmarkach indyjskich.

Hugging Face
Agenci· 🧪 Warte przetestowania

Siemens z NVIDIA NeMo Gym poprawia szybkość i dokładność agentów do projektowania chipów

NVIDIA opublikowała studium przypadku pokazujące, jak Siemens EDA wykorzystał otwartą bibliotekę ewaluacyjną NeMo Gym, by usprawnić agenta do charakteryzacji chipów. Zamiast sprawdzać pojedyncze wywołania narzędzi, zespół oceniał kompletne pliki wynikowe za pomocą wyspecjalizowanego weryfikatora, a wzorce błędów wykorzystał do przepisania instrukcji umiejętności agenta i opisów narzędzi MCP. Po kilku rundach tej pętli łączny wynik benchmarku wzrósł z około 55% do 95%, a agent potrzebował znacznie mniej kroków i mniej danych wyjściowych. W eksperymentach wykorzystano około 25 przebiegów ewaluacyjnych z Claude Opus 4.8 jako modelem agenta działającym w Claude Code.

NVIDIA Developer
Biznes· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia na open source platformę orkiestracji GPU Run:ai

NVIDIA ogłosiła, że cała platforma Run:ai jest teraz open source i staje się fundamentem NVIDIA DSX AI Factory Platform do orkiestracji obciążeń AI i GPU na Kubernetes. Wydanie obejmuje cztery modułowe komponenty — KAI Scheduler, GPU Fractioning Operator, KAI Resource Management i Workload Map — które można wdrażać razem lub niezależnie. Osiem partnerów ekosystemu, w tym Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud i vCluster, integruje platformę ze swoimi usługami.

NVIDIA Developer

NVIDIA i Princeton eliminują wąskie gardła dekodowania w hybrydowych modelach SSM

NVIDIA wraz z Dao AI Lab z Princeton opracowały ReplaySSM — nowy sposób przechowywania stanu w modelach hybrydowych, które łączą warstwy state-space (SSM) z warstwami uwagi (attention). Zamiast przepisywać cały stan w każdym kroku, metoda utrzymuje okresowy punkt kontrolny (checkpoint) oraz krótką listę ostatnich wejść, oddzielając obliczanie wyniku od aktualizacji pamięci. Efektem jest niemal dwukrotnie mniejszy ruch pamięci, przyspieszenie jąder dekodowania nawet 1,80-krotnie przy dużych partiach oraz ponad dwukrotny wzrost przepustowości dekodowania spekulacyjnego w modelach klasy 120B, przy zachowaniu dokładności zbliżonej do pełnej precyzji. Metoda jest już zintegrowana z TensorRT-LLM, vLLM i FlashInfer oraz działa produkcyjnie w GLM-5.3-Flash i Kimi-K3.

NVIDIA Developer

NVIDIA otwiera architekturę stojaków Vera Rubin i promuje otwarte standardy dla centrów danych AI

Podczas OCP Global Summit NVIDIA przekazała projekty stojaków i tac obliczeniowych Vera Rubin do otwartej architektury MGX oraz ogłosiła szereg partnerstw dotyczących zasilania, chłodzenia i standardów sieciowych dla fabryk AI. Wśród partnerów są hiperskalowi gracze tacy jak Meta, Google, Microsoft i AMD, a także Cisco i Visionbay. Ogłoszenia obejmują specyfikacje stojaków (MGX 1.2), nowe oprogramowanie open source do zarządzania centrami danych AI (komponenty DSX OS), standardy odporności sieci energetycznej, architekturę zasilania 800V DC, nowe przełączanie Ethernet (Spectrum-6) oraz nowy standard modułów optycznych (USFP) wspólnie z Cisco.

NVIDIA

NVIDIA pokazuje, jak uczynić wielkoskalowe pretrenowanie modeli deterministycznym bitowo przy niskim koszcie

NVIDIA opisała przepływ pracy wbudowany w Megatron Core, który sprawia, że wielkoskalowe pretrenowanie jest deterministyczne na poziomie bitowym — niezależne lub wznawiane z checkpointu uruchomienia treningu podążają dokładnie tą samą trajektorią numeryczną. Dzięki fingerprintingowi tensorów na poziomie faz treningu, modułów, operacji i kerneli inżynierowie mogą namierzyć niedeterminizm aż do konkretnego kernela i go naprawić. Dla modelu Nemotron z bilionem parametrów działającego na 2432 GPU optymalizacje obniżyły koszt wymuszania determinizmu ('determinism tax') do około 2%, zachowując identyczne bitowo wyniki przez 800 kroków treningu.

NVIDIA Developer
Voice AI· Ważne· 🧪 Warte przetestowania

NVIDIA publikuje przepis na fine-tuning rozpoznawania mowy dla konkretnych dialektów z Nemotron

NVIDIA opublikowała szczegółowy workflow do fine-tuningu swojego wielojęzycznego, strumieniowego modelu Nemotron 3.5 ASR na saudyjskich dialektach arabskich (nadżdyjskim i hidżaskim). Przy minimalnej kuracji danych, mieszaniu replay z danymi FLEURS, bucketingu opartym na czasie trwania oraz częściowym odmrażaniu enkodera, zmniejszono wskaźnik błędu słów (WER) dla docelowych dialektów z 55,05% do 29,96%, jednocześnie nieznacznie poprawiając wyniki dla języka angielskiego i innych dialektów arabskich. We wpisie omówiono też modyfikacje dekodowania oraz rozszerzenia diaryzacji mówców dla transkrypcji wielomówcowej.

NVIDIA Developer

NVIDIA uruchamia 64GB DGX Spark do lokalnego rozwoju AI

NVIDIA wprowadza nową konfigurację 64GB zunifikowanej pamięci dla swojego osobistego superkomputera AI DGX Spark, dostępną u partnerów takich jak Acer, ASUS, Dell, HP, Gigabyte i MSI od 23 października w cenie 4 999 USD. System uruchamia lokalnie na urządzeniu modele do 100 miliardów parametrów, a dwie jednostki można połączyć w klaster za pomocą NVIDIA Sync Cluster Assistant, łącząc pamięć do 128GB i obsługując modele do 200 miliardów parametrów, z zyskiem wydajności do 1,7x w teście NVIDIA Qwen 3.8 27B. Urządzenie jest dostarczane z NVIDIA Agent Toolkit, bibliotekami CUDA-X AI, modelami Nemotron oraz wsparciem dla Ollama, vLLM i PyTorch od razu po wyjęciu z pudełka.

NVIDIA