Amazon opublikował architekturę referencyjną integrującą bibliotekę NVIDIA NeMo Switchyard z LiteLLM w celu dynamicznego kierowania zapytań agentów programistycznych między różnymi modelami w Bedrock. Stosując routing warstwowy (stage) lub losowy (random), możesz przekierowywać ruch między modelami o wysokiej wydajności a modelami ekonomicznymi, balansując koszty i skuteczność.
Amazon wprowadził model OpenFold3-preview do SageMaker JumpStart, umożliwiając użytkownikom przewidywanie struktur 3D białek, DNA, RNA i ligandów. Wdrożenie wykorzystuje asynchroniczne punkty końcowe do obsługi długotrwałych obliczeń, wspierając automatyczne skalowanie oraz możliwość wyłączenia instancji w stanie bezczynności.
Firma NVIDIA udostępniła workflow techniczny umożliwiający uruchomienie modelu MoE GLM-5.3 o 753 mld parametrów na dwóch stacjach DGX wyposażonych w GB300. Dzięki zastosowaniu zrównoleglenia tensorowego (TP=2) poprzez połączenia RDMA i vLLM, można pokonać ograniczenia pamięci pojedynczego GPU (252 GB HBM3e) w przypadku modeli o ogromnej skali.
Projekt llama.cpp oficjalnie osiągnął kamień milowy 1.0.0, trzy i pół roku po powstaniu. Wydanie wprowadza rygorystyczne wersjonowanie semantyczne, aby zapewnić większą przewidywalność dla programistów korzystających z bibliotek C/C++: libllama i libggml.
DeepSeek udostępnił użytkownikom API cały swój zestaw narzędzi aplikacyjnych. Deweloperzy mogą teraz aktywować parametry wyszukiwania w sieci, czytania URL, parsowania plików oraz filtrów bezpieczeństwa bezpośrednio w zapytaniach czatu, a także korzystać z niezależnych punktów końcowych ASR, TTS i OCR.
Firma Amazon udostępniła SGLang-Neuron – wtyczkę, która pozwala programistom uruchamiać wielkoskalowe modele AI na sprzęcie AWS Trainium przy użyciu standardowego interfejsu SGLang. Integracja ta umożliwia natywne wykonywanie kodu PyTorch i wspiera zaawansowane funkcje, takie jak PD disaggregation za pośrednictwem EFA, w celu optymalizacji serwowania modeli.
Google zaprezentowało Gemini 4 Hydrogen, nowy model zoptymalizowany pod kątem szybkiego i efektywnego kosztowo działania w środowiskach agentowych i programistycznych. Oferuje on okno kontekstowe o wielkości 1 miliona tokenów oraz zmienne poziomy „myślenia”, co pozwala twórcom balansować między głębią rozumowania, opóźnieniami a kosztami.
Amazon udostępnił interfejs API do wyszukiwania w sieci w ramach Bedrock AgentCore, co pozwala deweloperom na wykonywanie zapytań przez standardowe AWS SDK i CLI. To rozwiązanie eliminuje konieczność konfiguracji bramy AgentCore Gateway, ułatwiając implementację funkcji wyszukiwania w niestandardowych agentach AI.
Google wprowadziło Gemini Decisions API, oparte na nowym modelu gemini-decision-1. W przeciwieństwie do standardowych modeli generatywnych, narzędzie to przeprowadza klasyfikację i ocenę w jednym przejściu dla tekstu, dźwięku, obrazów, wideo i plików PDF, zwracając wyniki prawdopodobieństwa zamiast wygenerowanego tekstu.
Tether AI Research wprowadziło BotPsy, model językowy o 0,8 mld parametrów, zoptymalizowany pod kątem przepływów pracy agentowych i wywoływania funkcji. Oparty na Qwen3.5-0.8B, model jest przeznaczony do uruchamiania lokalnie na urządzeniach, oferując wysoką niezawodność w korzystaniu z narzędzi przy zachowaniu prywatności danych.
Moonshot AI udostępniło Kimi K3.1 Pro Highspeed w Amazon Bedrock, model zoptymalizowany pod kątem złożonych zadań agentowych i programowania. Model ten oferuje 2–3-krotnie większą prędkość generowania niż wersja standardowa, posiada konfigurowalne możliwości wnioskowania, obsługę wywołań narzędzi oraz funkcję „explicit prompt caching” dla optymalizacji kosztów.
Amazon wprowadził Mitra-v2, podstawowy model dla danych tabelarycznych trenowany w całości na danych syntetycznych. Ta wersja przewyższa poprzednika dzięki przeskalowaniu danych treningowych oraz wprowadzeniu hybrydowego modelu przyczynowego (SCM), który lepiej odwzorowuje rzeczywiste relacje w danych.
Anthropic zaktualizowało swoje specjalistyczne modele LLM do wersji 5.2. Claude Fable 5.2 to model o wysokiej wydajności do kodowania i wnioskowania, dostępny dla użytkowników ogólnych, podczas gdy Claude Mythos 5.2 pozostaje ograniczony do zweryfikowanych partnerów ze względu na zaawansowane możliwości w zakresie cyberbezpieczeństwa i eksploatacji luk.
Google wprowadziło Gemini 4 Carbon, nowy model klasy frontier zaprojektowany do złożonego, wieloetapowego wnioskowania, inżynierii oprogramowania i zadań z zakresu cyberbezpieczeństwa. Model jest już dostępny poprzez API oraz w Google Antigravity, oferując lepszą wydajność w procesach agentowych i efektywność kosztową.
Amazon rozszerzył możliwości API AgenticRetrieveStream, pozwalając programistom określić poziom iteracji dla zapytań do bazy wiedzy. Teraz możesz wybierać między zerem, jednym lub wieloma krokami wyszukiwania, aby zrównoważyć szybkość, koszt i złożoność każdego zapytania.
Firma Anthropic wprowadziła modele Claude Fable 5.2 oraz Claude Mythos 5.2, stworzone do długoterminowych zadań agentowych i zaawansowanego wnioskowania. Aktualizacja obejmuje obniżkę cen oraz tryb „fast mode”, który znacząco zwiększa przepustowość. Programiści muszą przygotować się na nowe wymogi weryfikacji prefiksów, aktualizacje narzędzi komputerowych oraz ograniczenia dotyczące modeli doradczych.