Firma NVIDIA udostępniła w modelu open-source narzędzie „NVIDIA Attribution”, służące do korelowania logów, metryk i stanów harmonogramu w ustrukturyzowane diagnozy dla rozproszonych zadań uczenia AI. Poprzez identyfikację przyczyn źródłowych i oddzielanie ich od symptomów wtórnych (takich jak błędy NCCL), pomaga ono zespołom infrastrukturalnym w skuteczniejszym zarządzaniu dużymi klastrami GPU.
NVIDIA Recovery to nowa usługa open-source zaprojektowana w celu utrzymania produktywności trenowania poprzez automatyzację obsługi błędów w klastrach GPU. Zastępuje ona ręczny nadzór systematyczną pętlą, która wykrywa awarie, przypisuje ich przyczyny oraz uruchamia restarty lub izolację węzłów.
Firma NVIDIA udostępniła zaktualizowane receptury AI Cluster Runtime (AICR), zaprojektowane w celu usprawnienia wdrażania Kubernetes na nowym sprzęcie Vera Rubin NVL72. Receptury te dostarczają wstępnie zweryfikowane konfiguracje sterowników, jąder systemu i komponentów sieciowych, zapewniając gotowość klastrów do pracy od pierwszego dnia.
NVIDIA wprowadziła „Workload Map”, narzędzie zapewniające ujednolicony sposób interpretacji rozproszonych obciążeń AI przez planery i platformy Kubernetes. Dzięki deklaratywnym definicjom YAML eliminuje potrzebę tworzenia niestandardowych adapterów dla każdego nowego frameworka, takiego jak JobSet, Ray czy KServe.
AWS zaktualizowało swoje rozwiązanie referencyjne QA Studio, dodając obsługę struktur wielozespołowych. Nowe funkcje obejmują zarządzanie własnością na poziomie aplikacji, automatyczną ocenę stanu testów na podstawie metryk CloudWatch oraz szczegółową kontrolę dostępu opartą na rolach.
n8n 3.0 w wersji beta skupia się na stabilności architektury, zaostrzeniu domyślnych ustawień bezpieczeństwa i usunięciu starszych funkcjonalności. Wdrożenie modelu opartego wyłącznie na kontenerach (Docker) jest teraz obowiązkowe dla własnych instancji, a użytkownicy muszą skorzystać z wbudowanego raportu migracji, aby obsłużyć kluczowe zmiany przed grudniową premierą stabilnej wersji.
NVIDIA rozszerzyła platformę Mission Control o funkcje autonomicznego odzyskiwania dla środowisk Kubernetes zarządzanych przez Run:ai. System rozdziela procesy naprawy zadań od konserwacji sprzętu, co umożliwia wznawianie zadań treningowych na zdrowych węzłach podczas jednoczesnej diagnostyki uszkodzonej infrastruktury.
NVIDIA zaprezentowała Minerva, platformę operacyjną łączącą telemetrię z GPU, sprzętu sieciowego, pamięci masowej i uruchomionych zadań, aby operatorzy mogli wykrywać problemy w ogromnych klastrach GPU, zanim doprowadzą one do przestojów. Modele uczenia maszynowego tworzą na bieżąco mapę sprzętu i obciążeń, oznaczają nietypowe zachowania i grupują powiązane alerty w jeden incydent z prawdopodobną przyczyną, zamiast zalewać zespoły osobnymi powiadomieniami. Wbudowany asystent pozwala pytać o stan klastra w języku naturalnym, a system może łączyć się z narzędziami automatyzacji, by wdrażać poprawki. IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI i Tesla planują jej wdrożenie, a Dell, Lenovo i Supermicro będą oferować ją w ramach swoich rozwiązań infrastrukturalnych.