Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Wszystkie wiadomości

TENESYS AI NEWS śledzi najważniejsze wiadomości o AI i wyjaśnia, co się zmieniło, dlaczego to ważne i czy technologię warto przetestować.

“LLM” — 70 artykułów ✕

Badania· Ważne· 🧪 Warte przetestowania

AWS wprowadza przesyłanie KV typu „push”, skracające opóźnienia w rozdzielonej infrastrukturze vLLM

AWS udostępnił konektor NIXL typu „push” dla vLLM, zmieniający sposób przesyłania danych pamięci podręcznej klucz-wartość (KV) między instancjami prefill i decode w rozdzielonym serwowaniu LLM. Zamiast pobierania bloków KV przez instancję decode po zakończeniu prefill, instancja decode z wyprzedzeniem rejestruje docelową pamięć, a instancja prefill zapisuje dane KV bezpośrednio, gdy tylko są gotowe — usuwając koordynację ze ścieżki krytycznej. W testach z modelem Qwen3-32B w konfiguracji 1 prefill/1 decode na instancjach EC2 P5en z EFA, tryb push osiągnął nawet 3-krotnie lepszy czas do pierwszego tokenu (TTFT) i nawet o 30% lepszy czas generowania pojedynczego tokenu (TPOT) niż domyślny tryb pull, zwłaszcza przy dużym obciążeniu zapytaniami.

AWS Machine Learning
Agenci· 🧪 Warte przetestowania

Google Cloud przedstawia trzywarstwową architekturę agentów dla wysokowydajnych, nadzorowanych zadań biotechnologicznych

Google Cloud opublikował architekturę referencyjną dla agentów AI koordynujących długotrwałe, wymagające GPU zadania naukowe, takie jak zwijanie białek i przesiewanie związków chemicznych, które łamią standardowy model pojedynczego agenta LLM z powodu limitów czasu i przepełnienia kontekstu. Architektura oddziela orkiestratora kognitywnego (Gemini na Agent Runtime) od warstwy wykonawczej GPU (NVIDIA NIM, np. ESMFold i GenMol, działające na GKE) i obejmuje całość warstwą zarządzania z tożsamością agenta, bramą, rejestrem i ochroną Model Armor. Przedstawiono też najlepsze praktyki: przekazywanie dużych danych przez odniesienie zamiast wprost, strumieniowanie pośrednich aktualizacji postępu oraz wymaganie zgody człowieka dla nieodwracalnych działań.

Google Cloud AI
Modele· Ważne· 🧪 Warte przetestowania

IBM łączy transkrypcję, podejmowanie decyzji i rozmowę w jednym modelu Granite Switch

IBM wydało Granite Switch 4.1 w wersjach 8B i 30B – modularny system, który obsługuje rozmowę, podejmowanie decyzji i transkrypcję mowy z jednego hostowanego endpointu zamiast z osobnych modeli. Aktualizacja dodaje ogólny adapter decyzyjny, wyspecjalizowany adapter Guardian do klasyfikacji związanych z bezpieczeństwem oraz wbudowany model ASR Granite-Speech-5.0-Turbo-CTC, który zajmuje pierwsze miejsce w rankingu OpenASR. Mimo połączenia trzech funkcji, zintegrowany model zużywa mniej więcej tyle samo VRAM co sam model bazowy.

Hugging Face
Modele· Ważne· 🧪 Warte przetestowania

Meta wydała Muse Spark Open – otwarty, multimodalny model MoE z 816B parametrów

Meta opublikowała Muse Spark Open – model mixture-of-experts o otwartych wagach, liczący około 816 miliardów parametrów łącznie i 42 miliardy aktywnych na token. Przyjmuje tekst, obrazy, audio i wideo, a generuje tekst, wykorzystując kontekst do 1 miliona tokenów. Meta przedstawia go jako model zoptymalizowany pod kątem kodowania i pracy agentowej, zbudowany na architekturze mniejszego modelu Muse Glimmer, określając go jako najbardziej zaawansowany jak dotąd amerykański model o otwartych wagach.

Hugging Face
Modele· Ważne· 🧪 Warte przetestowania

Apertus 1.5: otwarte modele 8B/70B rozumieją obraz i dźwięk, mają dłuższy kontekst i tryb myślenia

Swiss AI wydało Apertus 1.5 — kontynuację treningu otwartych modeli Apertus 1.0 (8B i 70B, licencja Apache 2.0), dodając natywne rozumienie obrazu i eksperymentalne rozumienie dźwięku, 4-krotnie większe okno kontekstu (262 144 tokeny), opcjonalny tryb myślenia oraz lepsze przestrzeganie instrukcji i obsługę narzędzi. Modele wytrenowano łącznie na 19T (8B) i 17T (70B) tokenach, a wszystkie dane treningowe, przepisy i checkpointy pośrednie zostały opublikowane publicznie dla powtarzalności. Zespół opublikował też szczegółowe, zestandaryzowane karty ewaluacyjne i ogłosił wczesny dostęp API od dostawców takich jak Swisscom i Infomaniak, a także plan dla ~600-miliardowego modelu MoE Apertus 2.0.

Hugging Face
Voice AI· 🧪 Warte przetestowania

Mały, dostrojony model uczy się nowych regulowanych scenariuszy rozmów bez ponownego treningu

Badacze opisują system FlowSpec, który zamienia prawną procedurę rozmowy wierzyciela na instrukcje odczytywalne maszynowo, ograniczenia narzędzi, sygnały treningowe i testy dla agenta głosowego. Model o 9 miliardach parametrów został dostrojony na nagraniach rozmów obejmujących niemal 300 losowo wygenerowanych procedur, a następnie przetestowany na czterech procedurach, których nigdy wcześniej nie widział, w tym jednej całkowicie odrębnej rodzinie scenariuszy, aby sprawdzić, czy zachowanie zgodności się przenosi.

arXiv cs.CL
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

GitHub zastąpił skaner sekretów oparty na LLM lekkim klasyfikatorem ModernBERT

GitHub zastąpił swój oparty na LLM system wykrywania ogólnych sekretów (haseł, kluczy API) dostrojonym klasyfikatorem ModernBERT połączonym z generowaniem kandydatów przez regex. Nowy dwuetapowy system poprawił dokładność wykrywania, jednocześnie drastycznie skracając czas skanowania i obniżając koszty obsługi, a jest teraz wystarczająco szybki, by działać w ramach ochrony przed push (push protection), a nie tylko po commitowaniu kodu.

GitHub
Modele· Ważne· 🧪 Warte przetestowania

Nowy otwarty model Liquid AI wykonuje agentowe rozumowanie lokalnie z zaledwie 2B aktywnych parametrów

Liquid AI opublikowało LFM2.5-24B-A2B, model typu mixture-of-experts z 24B parametrów łącznie, ale tylko 2B aktywnych na token, zaprojektowany do uruchamiania agentów rozumujących na lokalnym sprzęcie. Wersja ta rozszerza okno kontekstu do 131K tokenów, podwaja rozmiar słownika i została wytrenowana na mniej więcej dwukrotnie większej ilości danych wstępnych niż poprzednik. W testach agentowych i wywołań narzędzi model dorównuje lub przewyższa modele mające około 50% więcej parametrów, oferując przy tym szybkie wnioskowanie zarówno na sprzęcie konsumenckim, jak i w centrach danych.

Hugging Face
Agenci· Ważne· 🧪 Warte przetestowania

Orca Security obniżyła koszty zapytań o 90% dzięki wieloetapowemu pipeline'owi agentów na Bedrock

Orca Security zbudowała Discovery AI — agenta na Amazon Bedrock, który zamienia proste pytania w języku naturalnym na ustrukturyzowane zapytania do systemu Sonar, śledzącego ponad 900 typów zasobów chmurowych. Zamiast jednego dużego modelu z całym schematem wczytywanym do każdego promptu, wersja produkcyjna rozdziela pracę na dziewięć wyspecjalizowanych etapów i kilka różnych modeli bazowych. Efekt: znacznie niższe koszty, szybsze odpowiedzi i lepsza dokładność przy złożonych zapytaniach; system działa od marca 2026 roku.

AWS Machine Learning
Badania· 🧪 Warte przetestowania

AWS udostępnia open source'owe optymalizacje kerneli MoE dla vLLM – mniejsze opóźnienia i wyższa przepustowość na H200

AWS przedstawił trzy optymalizacje na poziomie kerneli dla obsługi modeli Mixture-of-Experts (MoE) na GPU Hopper, opracowane we współpracy ze społecznością vLLM i wdrożone w kontenerze LMI Amazon SageMaker AI. Zmiany eliminują nieefektywność obliczeń fused MoE podczas fazy dekodowania z małymi partiami, gdzie wcześniej rdzenie Tensor Core były niedostatecznie wykorzystywane. Łącznie optymalizacje dają do 10% wyższą przepustowość i do 9% szybszy czas do pierwszego tokena (TTFT).

AWS Machine Learning
Biznes· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia na open source platformę orkiestracji GPU Run:ai

NVIDIA ogłosiła, że cała platforma Run:ai jest teraz open source i staje się fundamentem NVIDIA DSX AI Factory Platform do orkiestracji obciążeń AI i GPU na Kubernetes. Wydanie obejmuje cztery modułowe komponenty — KAI Scheduler, GPU Fractioning Operator, KAI Resource Management i Workload Map — które można wdrażać razem lub niezależnie. Osiem partnerów ekosystemu, w tym Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud i vCluster, integruje platformę ze swoimi usługami.

NVIDIA Developer
Badania· Ważne· 🧪 Warte przetestowania

„Priming” od Amazon zamienia wstępnie wytrenowane modele Transformer w wydajne hybrydy za mniej niż 1% kosztu treningu

Badacze z Amazon Web Services opublikowali metodę „priming”, która przekształca wstępnie wytrenowane modele Transformer w architektury hybrydowe łączące warstwy uwagi (attention) i modeli przestrzeni stanów (SSM), wykorzystując istniejące wagi zamiast treningu od zera. Podejście obniża koszty wstępnego treningu o ponad 99% i pozwala 32-miliardowemu modelowi hybrydowemu dorównać jakością źródłowemu modelowi Transformer, dekodując nawet dwukrotnie szybciej. Amazon przetestował trzy typy SSM i udostępnił otwartoźródłowy zestaw modeli, kod treningowy oraz narzędzia na licencji Apache 2.0.

Amazon Science
Voice AI· Ważne· 🧪 Warte przetestowania

Mistral wydaje open-source'owy model rozpoznawania mowy arabskiej w czasie rzeczywistym Voxtral Mini 4B Realtime Arabic

Mistral AI wydał Voxtral Mini 4B Realtime Arabic — strumieniowy model rozpoznawania mowy (STT) dostrojony do dialektów arabskich, standardowego arabskiego oraz przełączania kodów językowych podczas rozmowy. Model z 4,4 mld parametrów przetwarza dźwięk 16 kHz w czasie rzeczywistym z konfigurowalnym opóźnieniem transkrypcji, osiągając przy opóźnieniu 480 ms średni wskaźnik błędów znakowych (CER) 8,82% w siedmiu testach dla języka arabskiego — blisko wyniku 7,91% CER offline'owego modelu Voxtral Transcribe Arabic. Model powstał we współpracy z marokańskim ministerstwem transformacji cyfrowej w ramach suwerennego partnerstwa AI i jest wydany na licencji Apache 2.0.

Mistral AI (Hugging Face)
Modele· Ważne· 🧪 Warte przetestowania

Google udostępnia ML Drift — nowy silnik GPU do wnioskowania AI na urządzeniu

Google wydał ML Drift, otwartoźródłowy, wieloplatformowy silnik obliczeniowy GPU do wnioskowania ML na urządzeniu, zastępujący dotychczasowy TFLite GPU delegate. Ujednolica obsługę shaderów między OpenGL ES, OpenCL, Metal i WebGPU, dodaje obsługę tensorów 5D oraz wprowadza optymalizacje etapowe dla faz prefill/decode w LLM. Jest już wdrożony produkcyjnie w Chrome, YouTube Shorts, Google Photos, Meet oraz aplikacjach partnerów Adobe i Snap.

Google Developers
Agenci· 🧪 Warte przetestowania

Google uruchamia dedykowane API do zakotwiczania agentów AI w swojej dokumentacji

Google wprowadziło Developer Knowledge API — ustrukturyzowane, maszynowo odczytywalne źródło dokumentacji Google Cloud, Firebase i Android, przeznaczone dla agentów AI i narzędzi deweloperskich. Zamiast scrapowania stron internetowych lub polegania na granicy wiedzy modelu LLM, agenci i interfejsy CLI mogą teraz pobierać świeżą dokumentację w formacie Markdown za pomocą kilku interfejsów: powierzchni gcloud CLI, instalowalnej umiejętności agenta, bibliotek klienckich oraz przeglądarkowego eksploratora API. Bazowy indeks jest odświeżany często, dzięki czemu odpowiedzi pozostają bliskie najnowszej opublikowanej dokumentacji.

Google Developers
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

AWS dodaje weryfikację uprawnień w czasie rzeczywistym do RAG w Amazon Quick i Bedrock Knowledge Bases

AWS opisuje nową dwuetapową architekturę kontroli dostępu dla Retrieval Augmented Generation (RAG) w Amazon Quick i Amazon Bedrock Knowledge Bases. Zamiast polegać wyłącznie na okresowo synchronizowanych listach kontroli dostępu (ACL), system teraz weryfikuje uprawnienia w czasie rzeczywistym bezpośrednio w systemie źródłowym (np. Google Drive, SharePoint, Confluence) w momencie zapytania, zanim treść trafi do LLM. AWS twierdzi, że eliminuje to luki bezpieczeństwa wynikające z nieaktualnych lub błędnie zmapowanych uprawnień między synchronizacjami. Jako klienta wymieniono Mondelēz International, zatrudniającą ponad 35 000 pracowników.

AWS Machine Learning
Voice AI· Ważne· 🧪 Warte przetestowania

AssemblyAI dodaje Qwen3.5 4B do LLM Gateway dla szybkiego przepisywania transkrypcji głosowych

AssemblyAI uruchomił hostowane wdrożenie open-source'owego modelu Qwen3.5 4B w swoim LLM Gateway, zoptymalizowane specjalnie do przepisywania surowej wyjściowej transkrypcji mowy na tekst na czysty, sformatowany tekst. W zadaniach przepisywania głosowego, takich jak czyszczenie dyktowania i formatowanie transkrypcji, model osiągał średni czas odpowiedzi 612ms — 1,9x szybciej niż GPT-4.1 — przy 94% niższym koszcie na godzinę przetworzonego audio. Cena modelu to $0.10/$0.50 za milion tokenów (prompt/odpowiedź), wspierane są tylko parametry max_tokens, temperature i stream, bez wywoływania narzędzi.

AssemblyAI
Modele· Ważne· 🧪 Warte przetestowania

Google wprowadza EmbeddingGemma 2 — otwarty, wielomodalny model embeddingów do RAG

Google wydało EmbeddingGemma 2, model embeddingów oparty na Gemma 4, udostępniony na licencji Apache 2.0, który umieszcza tekst, kod, obrazy, wideo i audio we wspólnej przestrzeni wektorowej o 768 wymiarach. Model jest modułowy — można wczytać tylko potrzebne enkodery: 270M parametrów dla samego tekstu i kodu, do 740M dla wszystkich modalności. Google podaje wzrost wyniku o 14% w benchmarku MTEB Code względem EmbeddingGemma 1, przy zachowaniu dokładności wielojęzycznego tekstu z poprzedniej wersji.

Google Developers
Badania· Ważne· 🧪 Warte przetestowania

GitHub udostępnia ReviewBench — wspólny standard oceny agentów AI do przeglądu kodu

GitHub opublikował ReviewBench, benchmark w fazie podglądu badawczego (research preview), który ma umożliwić porównywanie agentów AI do przeglądu kodu według wspólnego, weryfikowalnego standardu. Zbiór danych obejmuje 219 rzeczywistych publicznych pull requestów w 19 językach i 187 repozytoriach, dobranych tak, by odzwierciedlały rozkład języków i rozmiarów wśród 103,9 mln rzeczywistych pull requestów na GitHubie. Dane referencyjne (ground truth) pochodzą z połączenia recenzentów-ludzi, narzędzi do analizy statycznej oraz kilku czołowych modeli LLM, a ich oceny zweryfikowali starsi inżynierowie, których osądy zgadzały się z etykietami benchmarku w 96,6% przypadków. GitHub twierdzi, że już wykorzystał ReviewBench wewnętrznie do śledzenia własnego produktu Copilot code review (CCR), a zmiany wyników offline wiarygodnie przewidywały kierunek późniejszych testów A/B na produkcji.

GitHub
Agenci· 🧪 Warte przetestowania

AWS publikuje przewodnik łączenia Claude Desktop z bezpiecznym, zarządzanym narzędziem wyszukiwania internetowego przez AgentCore

AWS opublikował szczegółowy przewodnik krok po kroku pokazujący, jak zapewnić Claude Desktop (na Amazon Bedrock) dostęp do internetu w czasie rzeczywistym poprzez Amazon Bedrock AgentCore Gateway, eliminując lukę wynikającą z granicznej daty danych treningowych modelu. Konfiguracja wykorzystuje AWS IAM Identity Center SSO połączone z Amazon Cognito jako warstwą federacji SAML-to-OAuth, wystawiającą tokeny JWT, które AgentCore Gateway weryfikuje przy każdym żądaniu. Sama funkcja Web Search jest zgodna z MCP i działa na wewnętrznym indeksie webowym Amazon obejmującym dziesiątki miliardów dokumentów, dzięki czemu ruch zapytań nie opuszcza infrastruktury AWS i nie jest wymagany żaden zewnętrzny klucz API. Funkcja jest obecnie dostępna tylko w trzech regionach AWS: us-east-1 (N. Virginia), eu-west-1 (Irlandia) i ap-northeast-1 (Tokio).

AWS Machine Learning
Agenci· Ważne· 🧪 Warte przetestowania

Antigravity SDK od Google dodaje wsparcie dla lokalnych modeli offline z Gemma 4 26B

Google ogłosił, że jego Antigravity SDK obsługuje teraz uruchamianie agentowych przepływów pracy lokalnie i offline, z początkowym wsparciem dla Gemma 4 26B A4B działającego poprzez LiteRT z Google AI Edge. Deweloperzy mogą budować agentów działających całkowicie na urządzeniu, bez kosztów API w chmurze czy zależności od internetu. Google zademonstrował również hybrydowy wzorzec 'Architect-Builder', w którym model chmurowy (Gemini 3.8 Flash) planuje zadania, a lokalny rój instancji Gemma 4 26B wykonuje ciężką pracę, utrzymując kod źródłowy poza chmurą.

Google Developers