Projekt llama.cpp oficjalnie osiągnął kamień milowy 1.0.0, trzy i pół roku po powstaniu. Wydanie wprowadza rygorystyczne wersjonowanie semantyczne, aby zapewnić większą przewidywalność dla programistów korzystających z bibliotek C/C++: libllama i libggml.
NVIDIA udostępniła NVIDIA Kubernetes Engine (NVKE) oraz NVIDIA Kubernetes Recipes (NVKR) jako projekty open source w ramach publicznej wersji zapoznawczej. Narzędzia te mają na celu wsparcie w budowaniu, wdrażaniu i zarządzaniu klastrami Kubernetes zoptymalizowanymi pod kątem zadań akcelerowanych przez GPU.
Nod to nowa aplikacja typu agent, działająca lokalnie i udostępniona jako open source, która wykonuje zadania w odizolowanym środowisku wirtualnym (sandbox) na Twoim komputerze. W przeciwieństwie do AI opartego na czacie, Nod wchodzi w bezpośrednią interakcję z interfejsami webowymi i aplikacjami, aby samodzielnie realizować wieloetapowe zadania.
IBM wprowadziło Praxis Policy Engine (PPE), narzędzie typu open-source znajdujące się teraz w CNCF Sandbox, zaprojektowane do egzekwowania polityk bezpieczeństwa i dostępu w ruchu AI. Działa ono jako monitor referencyjny, który reguluje prompty, wywołania modeli oraz interakcje agentów przy użyciu wspólnego formatu danych.
OpenSSF wprowadziło przewodnik dotyczący wykrywania i usuwania luk w zabezpieczeniach za pomocą AI oraz zapowiedziało certyfikację „Secure AI Associate” (SAIA), która ruszy w grudniu 2026 roku. Inicjatywy te mają na celu wypełnienie luki w bezpieczeństwie spowodowanej szybką integracją AI w procesach wytwarzania oprogramowania.
NVIDIA wprowadziła przepisy wdrożeniowe dla czterech czołowych koreańskich modeli typu open, w tym A.X K2 i Solar Open 2, w ramach frameworka Dynamo. Rozwiązania te są zoptymalizowane pod kątem wielowęzłowych klastrów GPU NVIDIA B200, co pozwala na sprawne skalowanie wnioskowania.
Firma Gradium udostępniła Phonon, zestaw kompaktowych (65-75 MB) modeli zamiany tekstu na mowę, zaprojektowanych do pracy w całości na urządzeniach końcowych. Modele obsługują pięć języków, działają offline i oferują wydajność porównywalną z rozwiązaniami o znacznie większych rozmiarach.
IBM wprowadził trzy aktualizacje rodziny Granite Speech: zupełnie nowy model mowa-język na 2B parametrów (granite-speech-5.0-2b), ulepszony model Turbo CTC na 470M parametrów nastawiony na szybkość oraz poprawiony model 4.1-2B-Plus dostosowany do nagrań z wieloma mówcami. Razem odpowiadają za wysoką dokładność transkrypcji/tłumaczenia, szybkie rozpoznawanie na urządzeniu oraz dokładne etykietowanie mówców i znaczników czasu. Wszystkie trzy pozostają na licencji Apache 2.0.
IBM Research wydał vLLM-Hook MIA, plugin dla open-source'owego silnika wnioskowania vLLM, który pozwala deweloperom obserwować i ingerować w wewnętrzne stany modelu w czasie działania — np. odrzucać złośliwe prompty, oznaczać zmyślone fakty czy korygować ton odpowiedzi — bez wyłączania szybkiego trybu wykonywania opartego na powtarzaniu grafu w vLLM. Według raportu technicznego IBM, MIA jest nawet 20 razy szybszy niż poprzedni vLLM-Hook i nawet 14 razy szybszy niż metody wstawiające kod bezpośrednio do modelu. W testach sterowanie modelem 8B Llama lub 1,5B Qwen dodawało tylko około 2% opóźnienia, a model 70B Llama - około 6%.
Red Hat, IBM i Google ogłosiły llm-d 1.0 — rozproszony system obsługi wnioskowania LLM natywny dla Kubernetes, który wykroczył poza demonstrowanie pojedynczych technik wydajnościowych i stał się gotowy do pełnej eksploatacji produkcyjnej. Wersja dodaje wielodostępową kontrolę jakości usług, operacje bez przestojów oraz obsługę świadomą agentów, dzięki czemu ten sam endpoint może efektywnie obsługiwać zarówno ludzi, jak i autonomiczne agenty. W jednym teście router świadomy prefiksów llm-d osiągnął 97% ponownego wykorzystania cache w obciążeniu agentowym związanym z kodowaniem, a IBM/Red Hat uruchomili 3000 jednoczesnych agentów inżynierii oprogramowania za 5-10 razy mniej niż koszt tego samego modelu jako usługi hostowanej.
IBM wydało Granite Switch 4.1 w wersjach 8B i 30B – modularny system, który obsługuje rozmowę, podejmowanie decyzji i transkrypcję mowy z jednego hostowanego endpointu zamiast z osobnych modeli. Aktualizacja dodaje ogólny adapter decyzyjny, wyspecjalizowany adapter Guardian do klasyfikacji związanych z bezpieczeństwem oraz wbudowany model ASR Granite-Speech-5.0-Turbo-CTC, który zajmuje pierwsze miejsce w rankingu OpenASR. Mimo połączenia trzech funkcji, zintegrowany model zużywa mniej więcej tyle samo VRAM co sam model bazowy.
NVIDIA ogłosiła, że cała platforma Run:ai jest teraz open source i staje się fundamentem NVIDIA DSX AI Factory Platform do orkiestracji obciążeń AI i GPU na Kubernetes. Wydanie obejmuje cztery modułowe komponenty — KAI Scheduler, GPU Fractioning Operator, KAI Resource Management i Workload Map — które można wdrażać razem lub niezależnie. Osiem partnerów ekosystemu, w tym Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud i vCluster, integruje platformę ze swoimi usługami.
Badacze z Amazon Web Services opublikowali metodę „priming”, która przekształca wstępnie wytrenowane modele Transformer w architektury hybrydowe łączące warstwy uwagi (attention) i modeli przestrzeni stanów (SSM), wykorzystując istniejące wagi zamiast treningu od zera. Podejście obniża koszty wstępnego treningu o ponad 99% i pozwala 32-miliardowemu modelowi hybrydowemu dorównać jakością źródłowemu modelowi Transformer, dekodując nawet dwukrotnie szybciej. Amazon przetestował trzy typy SSM i udostępnił otwartoźródłowy zestaw modeli, kod treningowy oraz narzędzia na licencji Apache 2.0.
Mistral AI wydał Voxtral Mini 4B Realtime Arabic — strumieniowy model rozpoznawania mowy (STT) dostrojony do dialektów arabskich, standardowego arabskiego oraz przełączania kodów językowych podczas rozmowy. Model z 4,4 mld parametrów przetwarza dźwięk 16 kHz w czasie rzeczywistym z konfigurowalnym opóźnieniem transkrypcji, osiągając przy opóźnieniu 480 ms średni wskaźnik błędów znakowych (CER) 8,82% w siedmiu testach dla języka arabskiego — blisko wyniku 7,91% CER offline'owego modelu Voxtral Transcribe Arabic. Model powstał we współpracy z marokańskim ministerstwem transformacji cyfrowej w ramach suwerennego partnerstwa AI i jest wydany na licencji Apache 2.0.
Google wydał ML Drift, otwartoźródłowy, wieloplatformowy silnik obliczeniowy GPU do wnioskowania ML na urządzeniu, zastępujący dotychczasowy TFLite GPU delegate. Ujednolica obsługę shaderów między OpenGL ES, OpenCL, Metal i WebGPU, dodaje obsługę tensorów 5D oraz wprowadza optymalizacje etapowe dla faz prefill/decode w LLM. Jest już wdrożony produkcyjnie w Chrome, YouTube Shorts, Google Photos, Meet oraz aplikacjach partnerów Adobe i Snap.
Technology Innovation Institute (TII) wydał Falcon-ASR, model automatycznego rozpoznawania mowy (ASR) o 1,6 miliarda parametrów, stworzony przede wszystkim dla języka arabskiego, ze szczególnym uwzględnieniem dialektu emirackiego. Przy użyciu tych samych wag transkrybuje także angielski, francuski, hiszpański i portugalski. TII podaje, że model przewyższa najlepszy opublikowany wynik w standardowym benchmarku arabskim i prowadzi w wewnętrznej ocenie dialektu emirackiego, obsługując przy tym znaczniki czasowe na poziomie słów.