Pereiti prie turinio
2026 m. lapkričio 22 d., sekmadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

#High Availability — 1 straipsnis ✕

Automatizavimas· Svarbu· 🧪 Verta testuoti

„Amazon“ pristato „Global Inference Gateway“ LLM apkrovos paskirstymui tarp regionų

„Amazon“ pristatė „Global Inference Gateway“, skirtą „SageMaker HyperPod“, leidžiantį vienu galiniu tašku valdyti užklausų nukreipimą per kelis klasterius ir AWS regionus. Šis sprendimas automatiškai paskirsto srautą pagal realiojo laiko apkrovos rodiklius, tokius kaip KV kešas ir eilių gylis, bei užtikrina automatinį atsarginių kopijų perjungimą.

AWS Machine Learning