Przejdź do treści
piątek, 20 listopada 2026
Tenesys AI News
Subskrypcja

Wszystkie wiadomości

TENESYS AI NEWS śledzi najważniejsze wiadomości o AI i wyjaśnia, co się zmieniło, dlaczego to ważne i czy technologię warto przetestować.

#Prompt Caching — 2 artykuły ✕

Modele· Ważne· 🧪 Warte przetestowania

Moonshot AI wprowadza Kimi K3.1 Pro Highspeed w Amazon Bedrock

Moonshot AI udostępniło Kimi K3.1 Pro Highspeed w Amazon Bedrock, model zoptymalizowany pod kątem złożonych zadań agentowych i programowania. Model ten oferuje 2–3-krotnie większą prędkość generowania niż wersja standardowa, posiada konfigurowalne możliwości wnioskowania, obsługę wywołań narzędzi oraz funkcję „explicit prompt caching” dla optymalizacji kosztów.

AWS Machine Learning
Modele· Ważne· 🧪 Warte przetestowania

Obniż koszty agentów AI w Bedrock dzięki nowemu buforowaniu promptów

Amazon Bedrock obsługuje teraz jawne i niejawne buforowanie promptów dla modeli OpenAI, umożliwiając przechowywanie i ponowne wykorzystywanie statycznych prefiksów, takich jak narzędzia, instrukcje i historia konwersacji. Unikając ponownego przetwarzania identycznych tokenów w każdej turze, można znacząco obniżyć koszty wejściowe i zwiększyć responsywność złożonych procesów agentowych.

AWS Machine Learning