Google udostępniło Agent Substrate 1.0, platformę open-source do obsługi sesji agentów AI w środowisku Kubernetes. Dzięki oddzieleniu sesji stanowych od zasobów obliczeniowych, możliwe jest „parkowanie” bezczynnych agentów w pamięci obiektowej, co zwalnia zasoby węzłów roboczych.
Amazon wprowadził framework do identyfikacji cichych uszkodzeń danych (SDC) w treningu rozproszonym, gdzie uszkodzony sprzęt zwraca błędne wyniki matematyczne bez generowania logów błędów. Poprzez integrację trzech własnych testów – weryfikacji gradientów, audytów powtarzania pętli i odcisków palców wag – z pętlami treningowymi PyTorch DDP, możesz wykrywać, izolować i wymieniać uszkodzone węzły.
AWS opublikowało przewodnik tworzenia architektury sterowanej zdarzeniami, która automatycznie synchronizuje schematy narzędzi Model Context Protocol (MCP) z AWS Agent Registry. Wykorzystując AWS CloudTrail, EventBridge i Lambda, ten proces wykrywa zmiany w czasie wykonywania i aktualizuje rejestr za każdym razem, gdy ewoluuje schemat narzędzi serwera MCP.
Google udostępniło dwie nowe funkcje SQL w AlloyDB, ai.classify oraz ai.extract, umożliwiające uruchamianie operacji opartych na Gemini bezpośrednio w PostgreSQL 18. Funkcje te automatyzują przetwarzanie nieustrukturyzowanego tekstu, jak analiza sentymentu czy ekstrakcja do JSON, bez konieczności stosowania zewnętrznych wrapperów API.
NVIDIA zintegrowała projekt open-source k8s-aibom ze swoim środowiskiem AI Cluster Runtime (AICR). Pozwala to zespołom platformowym na automatyczne generowanie i audytowanie listy materiałów AI (AIBOM) dla obciążeń działających w Kubernetes, umożliwiając identyfikację modeli, środowisk uruchomieniowych wnioskowania oraz zależności.
NVIDIA udostępniła NVIDIA Kubernetes Engine (NVKE) oraz NVIDIA Kubernetes Recipes (NVKR) jako projekty open source w ramach publicznej wersji zapoznawczej. Narzędzia te mają na celu wsparcie w budowaniu, wdrażaniu i zarządzaniu klastrami Kubernetes zoptymalizowanymi pod kątem zadań akcelerowanych przez GPU.
NVIDIA wprowadziła open-source'owe narzędzie NVIDIA Snapshot dla zadań GPU działających w środowisku Kubernetes. Poprzez zapisywanie w pełni zainicjowanych modeli i ich stanów, system pozwala replikom wnioskowania (inference) na wznowienie pracy w kilka sekund zamiast minut, eliminując powtarzalne etapy inicjalizacji.