AWS wprowadza rozliczanie w oparciu o zużycie dla transmisji dwukierunkowej w SageMaker
Amazon umożliwił rozliczanie oprogramowania w modelu usage-based dla modeli działających w ramach dwukierunkowego streamingu w SageMaker AI. Wcześniej naliczanie opłat za długotrwałe sesje streamingowe było utrudnione, ponieważ nie można było ich powiązać z prostymi nagłówkami odpowiedzi HTTP. Teraz dostawcy modeli mogą raportować wykorzystanie w czasie rzeczywistym za pomocą dedykowanego połączenia WebSocket z metadanymi.