Firma NVIDIA udostępniła workflow techniczny umożliwiający uruchomienie modelu MoE GLM-5.3 o 753 mld parametrów na dwóch stacjach DGX wyposażonych w GB300. Dzięki zastosowaniu zrównoleglenia tensorowego (TP=2) poprzez połączenia RDMA i vLLM, można pokonać ograniczenia pamięci pojedynczego GPU (252 GB HBM3e) w przypadku modeli o ogromnej skali.
Projekt llama.cpp oficjalnie osiągnął kamień milowy 1.0.0, trzy i pół roku po powstaniu. Wydanie wprowadza rygorystyczne wersjonowanie semantyczne, aby zapewnić większą przewidywalność dla programistów korzystających z bibliotek C/C++: libllama i libggml.
IBM wprowadziło LLMON (LLM Object Notation) – język znaczników przypominający XML, który wykorzystuje specjalne zarezerwowane tokeny do jawnego definiowania instrukcji, danych i ograniczeń. Udostępniono dwa eksperymentalne modele, Granite 4.1 3B i 8B LLMON-preview, które wykazują niemal zerową skuteczność ataków typu indirect prompt injection.
Moonshot AI udostępniło Kimi K3.1 Pro Highspeed w Amazon Bedrock, model zoptymalizowany pod kątem złożonych zadań agentowych i programowania. Model ten oferuje 2–3-krotnie większą prędkość generowania niż wersja standardowa, posiada konfigurowalne możliwości wnioskowania, obsługę wywołań narzędzi oraz funkcję „explicit prompt caching” dla optymalizacji kosztów.
Anthropic zaktualizowało swoje specjalistyczne modele LLM do wersji 5.2. Claude Fable 5.2 to model o wysokiej wydajności do kodowania i wnioskowania, dostępny dla użytkowników ogólnych, podczas gdy Claude Mythos 5.2 pozostaje ograniczony do zweryfikowanych partnerów ze względu na zaawansowane możliwości w zakresie cyberbezpieczeństwa i eksploatacji luk.
Google zaktualizowało framework do trenowania modeli typu open-source, MaxText, wprowadzając wsparcie dla ekstremalnie długich sekwencji na jednostkach Cloud TPU. Dzięki czterem nowym strategiom paralelizacji kontekstu, możliwe jest wydajne trenowanie modeli o zasięgu do 14 mln tokenów, co rozwiązuje problemy z pamięcią i wąskimi gardłami w komunikacji.
Firma Dharma-AI wprowadziła model o 2 miliardach parametrów, wyspecjalizowany w ekstrakcji ustrukturyzowanych danych JSON z różnych dokumentów. Obsługuje on zarówno ekstrakcję otwartą, jak i sterowaną schematem, konsekwentnie przewyższając zaawansowane modele LLM w testach F1, przy jednoczesnym znacznym obniżeniu kosztów operacyjnych.
Naukowcy przedstawili MEMENTO, specjalistyczny framework agentowy oparty na Qwen3-8B, zaprojektowany do zarządzania długim kontekstem poprzez kompresję historii w zwięzłe notatki. Wykorzystując dostrajanie na syntetycznych trajektoriach oraz uczenie ze wzmocnieniem, osiąga wysoką dokładność w zadaniach na poziomie książek, ograniczając użycie kontekstu do 20 tys. tokenów, nawet przy danych wejściowych rzędu 2,5 mln tokenów.
NVIDIA udostępniła nowy interfejs wiersza poleceń dla środowiska uruchomieniowego TensorRT Edge-LLM, umożliwiający programistom szybkie tworzenie prototypów i testowanie modeli AI na stacjach roboczych DGX Spark 64GB. Zestaw narzędzi ułatwia lokalne serwowanie modeli i wspiera dekodowanie spekulatywne DSpark, zwiększając wydajność generowania na sprzęcie o ograniczonych zasobach.
IBM udostępniło Granite Switch 4.1.1, poprawkę do swojej modularnej architektury modeli językowych. Aktualizacja wprowadza ulepszony wielojęzyczny model rozpoznawania mowy (ASR) oraz udoskonalony adapter decyzyjny, osiągnięte bez konieczności ponownego trenowania modelu bazowego.
Firma LiquidAI wprowadziła LFM3, nową generację małych modeli bazowych zbudowanych na wspólnym szkielecie 2B parametrów. Seria obejmuje modele tekstowe, wizyjne, audio i „omni”, zaprojektowane z myślą o wysokiej wydajności na urządzeniach końcowych.
NVIDIA udostępniła zbiory danych 'Nemotron-Personas' dla Francji i Belgii, mające na celu poprawę dokładności modeli LLM w odniesieniu do regionalnych procedur, demografii i niuansów kulturowych. Aktualizacja dostarcza kompletny przepływ pracy post-treningowej – w tym generowanie danych, dostrajanie LoRA przez NVIDIA NeMo oraz ewaluację – aby pomóc deweloperom przejść od modeli ogólnych do agentów specyficznych dla danej dziedziny.
Naukowcy przedstawili Boa Compressor, narzędzie typu online wykorzystujące model przestrzeni stanów Mamba do kompresji długiego kontekstu do krótszych reprezentacji w czasie liniowym. Dzięki destylacji wiedzy z pełnych interakcji LLM, metoda ta pozwala na wydajne wnioskowanie przy każdym zapytaniu, eliminując ogromne narzuty opóźnień typowe dla kompresji opartej na Transformerach.