Przejdź do treści
niedziela, 22 listopada 2026
Tenesys AI News
Subskrypcja

Wszystkie wiadomości

TENESYS AI NEWS śledzi najważniejsze wiadomości o AI i wyjaśnia, co się zmieniło, dlaczego to ważne i czy technologię warto przetestować.

#High Availability — 1 artykuł ✕

Automatyzacja· Ważne· 🧪 Warte przetestowania

Amazon wprowadza Global Inference Gateway do równoważenia obciążenia LLM między regionami

Firma Amazon wprowadziła Global Inference Gateway dla SageMaker HyperPod, umożliwiając użycie jednego punktu końcowego do routingu zapytań między wieloma klastrami i regionami AWS. Brama zarządza ruchem w oparciu o sygnały o stanie klastra w czasie rzeczywistym, takie jak wykorzystanie pamięci podręcznej KV i głębokość kolejki, automatyzując przełączanie awaryjne między regionami.

AWS Machine Learning