NVIDIA zintegrowała projekt open-source k8s-aibom ze swoim środowiskiem AI Cluster Runtime (AICR). Pozwala to zespołom platformowym na automatyczne generowanie i audytowanie listy materiałów AI (AIBOM) dla obciążeń działających w Kubernetes, umożliwiając identyfikację modeli, środowisk uruchomieniowych wnioskowania oraz zależności.
NVIDIA udostępniła NVIDIA Kubernetes Engine (NVKE) oraz NVIDIA Kubernetes Recipes (NVKR) jako projekty open source w ramach publicznej wersji zapoznawczej. Narzędzia te mają na celu wsparcie w budowaniu, wdrażaniu i zarządzaniu klastrami Kubernetes zoptymalizowanymi pod kątem zadań akcelerowanych przez GPU.
Google Cloud udostępniło Gemini for healthcare, platformę stworzoną w celu integracji rozproszonych danych klinicznych i administracyjnych w ujednolicone procesy robocze. Rozwiązanie koncentruje się na zmniejszeniu obciążenia administracyjnego lekarzy poprzez automatyzację zadań, takich jak synteza dokumentacji medycznej i weryfikacja uprawnień.
Możesz teraz tworzyć i wizualizować aplikacje wykorzystujące dane Google Maps, Places oraz Routes bezpośrednio w środowisku Google AI Studio. Dzięki wykorzystaniu zapytań w języku naturalnym, platforma automatycznie zarządza konfiguracją API i kluczami, oferując darmową piaskownicę do eksperymentów przed wdrożeniem produkcyjnym.
Firma NVIDIA udostępniła AI Cluster Runtime (AICR), aby pakować infrastrukturę inferencyjną Dynamo w zweryfikowane przepisy wdrożeniowe. Ta aktualizacja upraszcza proces instalacji poprzez przypinanie wersji komponentów i usuwanie obowiązkowych zależności, takich jak NATS, wprowadzając jednocześnie nowe ścieżki routingu oparte na pamięci KV dla Kubernetes.
Skuteczna automatyzacja zależy od tego, jak przepływy pracy radzą sobie z ograniczeniami API. Poradnik ten rozróżnia rate limiting (twarde limity prowadzące do błędów 429) od throttlingu (opóźnianie zapytań) i dostarcza strategie, takie jak wykładnicze wycofywanie (exponential backoff), jitter oraz aktywne grupowanie zapytań (batching) w celu zapewnienia niezawodności.
NVIDIA wprowadza nową konfigurację 64GB zunifikowanej pamięci dla swojego osobistego superkomputera AI DGX Spark, dostępną u partnerów takich jak Acer, ASUS, Dell, HP, Gigabyte i MSI od 23 października w cenie 4 999 USD. System uruchamia lokalnie na urządzeniu modele do 100 miliardów parametrów, a dwie jednostki można połączyć w klaster za pomocą NVIDIA Sync Cluster Assistant, łącząc pamięć do 128GB i obsługując modele do 200 miliardów parametrów, z zyskiem wydajności do 1,7x w teście NVIDIA Qwen 3.8 27B. Urządzenie jest dostarczane z NVIDIA Agent Toolkit, bibliotekami CUDA-X AI, modelami Nemotron oraz wsparciem dla Ollama, vLLM i PyTorch od razu po wyjęciu z pudełka.