Projekt llama.cpp oficjalnie osiągnął kamień milowy 1.0.0, trzy i pół roku po powstaniu. Wydanie wprowadza rygorystyczne wersjonowanie semantyczne, aby zapewnić większą przewidywalność dla programistów korzystających z bibliotek C/C++: libllama i libggml.
NVIDIA udostępniła NVIDIA Kubernetes Engine (NVKE) oraz NVIDIA Kubernetes Recipes (NVKR) jako projekty open source w ramach publicznej wersji zapoznawczej. Narzędzia te mają na celu wsparcie w budowaniu, wdrażaniu i zarządzaniu klastrami Kubernetes zoptymalizowanymi pod kątem zadań akcelerowanych przez GPU.
Nod to nowa aplikacja typu agent, działająca lokalnie i udostępniona jako open source, która wykonuje zadania w odizolowanym środowisku wirtualnym (sandbox) na Twoim komputerze. W przeciwieństwie do AI opartego na czacie, Nod wchodzi w bezpośrednią interakcję z interfejsami webowymi i aplikacjami, aby samodzielnie realizować wieloetapowe zadania.
IBM wprowadziło Praxis Policy Engine (PPE), narzędzie typu open-source znajdujące się teraz w CNCF Sandbox, zaprojektowane do egzekwowania polityk bezpieczeństwa i dostępu w ruchu AI. Działa ono jako monitor referencyjny, który reguluje prompty, wywołania modeli oraz interakcje agentów przy użyciu wspólnego formatu danych.
OpenSSF wprowadziło przewodnik dotyczący wykrywania i usuwania luk w zabezpieczeniach za pomocą AI oraz zapowiedziało certyfikację „Secure AI Associate” (SAIA), która ruszy w grudniu 2026 roku. Inicjatywy te mają na celu wypełnienie luki w bezpieczeństwie spowodowanej szybką integracją AI w procesach wytwarzania oprogramowania.
NVIDIA wprowadziła przepisy wdrożeniowe dla czterech czołowych koreańskich modeli typu open, w tym A.X K2 i Solar Open 2, w ramach frameworka Dynamo. Rozwiązania te są zoptymalizowane pod kątem wielowęzłowych klastrów GPU NVIDIA B200, co pozwala na sprawne skalowanie wnioskowania.
Firma Gradium udostępniła Phonon, zestaw kompaktowych (65-75 MB) modeli zamiany tekstu na mowę, zaprojektowanych do pracy w całości na urządzeniach końcowych. Modele obsługują pięć języków, działają offline i oferują wydajność porównywalną z rozwiązaniami o znacznie większych rozmiarach.
IBM wprowadził trzy aktualizacje rodziny Granite Speech: zupełnie nowy model mowa-język na 2B parametrów (granite-speech-5.0-2b), ulepszony model Turbo CTC na 470M parametrów nastawiony na szybkość oraz poprawiony model 4.1-2B-Plus dostosowany do nagrań z wieloma mówcami. Razem odpowiadają za wysoką dokładność transkrypcji/tłumaczenia, szybkie rozpoznawanie na urządzeniu oraz dokładne etykietowanie mówców i znaczników czasu. Wszystkie trzy pozostają na licencji Apache 2.0.
IBM Research wydał vLLM-Hook MIA, plugin dla open-source'owego silnika wnioskowania vLLM, który pozwala deweloperom obserwować i ingerować w wewnętrzne stany modelu w czasie działania — np. odrzucać złośliwe prompty, oznaczać zmyślone fakty czy korygować ton odpowiedzi — bez wyłączania szybkiego trybu wykonywania opartego na powtarzaniu grafu w vLLM. Według raportu technicznego IBM, MIA jest nawet 20 razy szybszy niż poprzedni vLLM-Hook i nawet 14 razy szybszy niż metody wstawiające kod bezpośrednio do modelu. W testach sterowanie modelem 8B Llama lub 1,5B Qwen dodawało tylko około 2% opóźnienia, a model 70B Llama - około 6%.
Red Hat, IBM i Google ogłosiły llm-d 1.0 — rozproszony system obsługi wnioskowania LLM natywny dla Kubernetes, który wykroczył poza demonstrowanie pojedynczych technik wydajnościowych i stał się gotowy do pełnej eksploatacji produkcyjnej. Wersja dodaje wielodostępową kontrolę jakości usług, operacje bez przestojów oraz obsługę świadomą agentów, dzięki czemu ten sam endpoint może efektywnie obsługiwać zarówno ludzi, jak i autonomiczne agenty. W jednym teście router świadomy prefiksów llm-d osiągnął 97% ponownego wykorzystania cache w obciążeniu agentowym związanym z kodowaniem, a IBM/Red Hat uruchomili 3000 jednoczesnych agentów inżynierii oprogramowania za 5-10 razy mniej niż koszt tego samego modelu jako usługi hostowanej.