AWS przedstawia trzy strategie zarządzania masywnymi danymi JSON (ponad 20 MB) w agentach AI, osiągając redukcję zużycia tokenów do 71% i opóźnień do 80%. Podejście obejmuje przeniesienie stanu do Amazon S3, stronicowanie wyników oraz kompaktowanie danych słownikowych.
Naukowcy przedstawili MEMENTO, specjalistyczny framework agentowy oparty na Qwen3-8B, zaprojektowany do zarządzania długim kontekstem poprzez kompresję historii w zwięzłe notatki. Wykorzystując dostrajanie na syntetycznych trajektoriach oraz uczenie ze wzmocnieniem, osiąga wysoką dokładność w zadaniach na poziomie książek, ograniczając użycie kontekstu do 20 tys. tokenów, nawet przy danych wejściowych rzędu 2,5 mln tokenów.
Z.ai GLM 5.3 Flash – multimodalny model Mixture-of-Experts z 320B parametrów i 18B aktywnych – jest teraz dostępny na platformie Mistral. Posiada okno kontekstu wielkości 1M tokenów i został zaprojektowany do pracy agentów deweloperskich, kodowania wizualnego oraz złożonych zadań z użyciem narzędzi. Ceny: 0,15 USD za milion tokenów wejściowych, 0,03 USD za milion tokenów z cache, 0,50 USD za milion tokenów wyjściowych.
Swiss AI wydało Apertus 1.5 — kontynuację treningu otwartych modeli Apertus 1.0 (8B i 70B, licencja Apache 2.0), dodając natywne rozumienie obrazu i eksperymentalne rozumienie dźwięku, 4-krotnie większe okno kontekstu (262 144 tokeny), opcjonalny tryb myślenia oraz lepsze przestrzeganie instrukcji i obsługę narzędzi. Modele wytrenowano łącznie na 19T (8B) i 17T (70B) tokenach, a wszystkie dane treningowe, przepisy i checkpointy pośrednie zostały opublikowane publicznie dla powtarzalności. Zespół opublikował też szczegółowe, zestandaryzowane karty ewaluacyjne i ogłosił wczesny dostęp API od dostawców takich jak Swisscom i Infomaniak, a także plan dla ~600-miliardowego modelu MoE Apertus 2.0.
Badacze Apple ML opublikowali artykuł na NeurIPS wprowadzający SELFCOMPACT – strukturę pozwalającą agentom opartym na modelach językowych samodzielnie decydować, kiedy i jak kompaktować zgromadzony kontekst, zamiast polegać na kompaktyzacji wyzwalanej w stałych odstępach na podstawie liczby tokenów. Metoda łączy narzędzie kompaktyzacji wywoływane przez model z lekkim zestawem reguł wskazujących, kiedy działać (gdy podzadanie zostało rozwiązane) i kiedy wstrzymać się (w trakcie wyprowadzania lub przy utknięciu). Testowana na sześciu benchmarkach i siedmiu modelach, dorównała lub przewyższyła kompaktyzację w stałych odstępach, zużywając znacznie mniej tokenów.
Anthropic wypuściło Claude Haiku 5.5 (claude-haiku-5-5) — najbardziej zaawansowany model z linii Haiku, zaprojektowany do pracy przy dużym obciążeniu i wrażliwej na opóźnienia. Obsługuje okno kontekstu 1 miliona tokenów, do 128k tokenów wyjściowych oraz adaptacyjne rozumowanie sterowane nowym parametrem effort. Model jest dostępny w Claude API, Amazon Bedrock, Claude Platform on AWS, Google Cloud oraz Microsoft Foundry. Anthropic ostrzega, że kod napisany dla poprzedniego modelu Haiku 4.5 może nie działać w nowej wersji.