NVIDIA udostępnia na open source platformę orkiestracji GPU Run:ai
W skrócie: NVIDIA ogłosiła, że cała platforma Run:ai jest teraz open source i staje się fundamentem NVIDIA DSX AI Factory Platform do orkiestracji obciążeń AI i GPU na Kubernetes. Wydanie obejmuje cztery modułowe komponenty — KAI Scheduler, GPU Fractioning Operator, KAI Resource Management i Workload Map — które można wdrażać razem lub niezależnie. Osiem partnerów ekosystemu, w tym Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud i vCluster, integruje platformę ze swoimi usługami.
To podsumowanie zostało automatycznie przygotowane przez sztuczną inteligencję na podstawie publikacji „NVIDIA Developer”. To nasz tekst, nie kopia oryginału — fakty, liczby i cytaty należą do źródła, do którego link znajduje się powyżej i poniżej.
Co się zmieniło?
- 1Cała platforma NVIDIA Run:ai jest teraz open source jako część DSX AI Factory Platform
- 2Wydano cztery modułowe komponenty: KAI Scheduler (planowanie Kubernetes świadome GPU), GPU Fractioning Operator (natywne dzielenie GPU oparte na CUDA), KAI Resource Management (kwoty/hierarchia), Workload Map (kontrakt zarządzania obciążeniami)
- 3Dostępna przez repozytorium GitHub, NVIDIA NGC Community Product (Helm chart) lub poprzez partnerów ekosystemu DSX
- 4Ośmiu partnerów (Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud, vCluster) integruje otwartą platformę
- 5Powiązane projekty open source Model Streamer i Grove przyspieszają ładowanie modeli i orkiestrację wieloskładnikowych obciążeń inferencyjnych
Dlaczego to ważne?
Zespoły prowadzące własną infrastrukturę GPU do inferencji i treningu AI zyskują darmową, produkcyjnej jakości alternatywę dla zastrzeżonych narzędzi do planowania i dzielenia GPU, co może obniżyć koszty i poprawić wykorzystanie zasobów przy obsłudze wielu modeli lub klientów na współdzielonych GPU.
Co to oznacza dla agentów AI i contact center?
Jeśli samodzielnie hostujesz modele mowy (STT/TTS) lub LLM na serwerach GPU dla agentów głosowych zamiast polegać wyłącznie na API w chmurze, te otwarte narzędzia do planowania i dzielenia GPU mogą pozwolić zmieścić więcej obciążeń na jednym GPU i efektywniej zarządzać kwotami między zespołami — warto to ocenić, jeśli koszty lub wykorzystanie GPU są wąskim gardłem.
🧪 Warte przetestowania
Może znacząco poprawić wykorzystanie GPU i obniżyć koszty infrastruktury dla zespołów samodzielnie hostujących modele mowy lub LLM na dużą skalę, choć wymaga znajomości Kubernetes.
Źródła
- NVIDIA DeveloperOficjalneŹródło pierwotneOryginalny artykuł →„NVIDIA Run:ai Is Now Open Source as Part of NVIDIA DSX AI Factory Platform“13 paź 2026, 17:19
- Data publikacji źródła
- 13 paź 2026, 17:19
- Znalezione przez nasz system
- 13 paź 2026, 17:41
- Podsumowanie wygenerowano
- 13 paź 2026, 17:42
Artykuł napisała AI na podstawie oryginalnego źródła. Fakty, liczby i ceny pochodzą ze źródła; brakujące wartości oznaczono „Brak oficjalnych danych”. Informacje prawne, prawa autorskie i prywatność