Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Wszystkie wiadomości

TENESYS AI NEWS śledzi najważniejsze wiadomości o AI i wyjaśnia, co się zmieniło, dlaczego to ważne i czy technologię warto przetestować.

“LLM” — 73 artykuły ✕

Badania· Ważne

Allen Institute wprowadza benchmark FairStress do wykrywania ukrytych uprzedzeń w decyzjach LLM

Allen Institute for AI (Ai2) opublikował FairStress – benchmark badający sprawiedliwość demograficzną modeli LLM nie tylko na podstawie końcowej decyzji, ale też tego, jak łatwo decyzja zmienia się pod wpływem perswazji. Testy modeli open-weight i flagowych, w tym Olmo, Llama, Qwen, Gemma, Claude i rodziny GPT, pokazały, że modele częściej rezygnują z poprawnej, dobrze uzasadnionej decyzji, gdy sprzyja to kandydatowi kodowanemu jako mniejszość – zjawisko nazwane „anty-stereotypową nadkorektą”. Benchmark obejmuje 300 scenariuszy w 29 dziedzinach (rekrutacja, kredyty, opieka zdrowotna, edukacja, mieszkalnictwo, wymiar sprawiedliwości), rozszerzonych do ponad 13 mln przypadków testowych, a także mniejszy podzbiór FairStress-Core liczący 50 tys. elementów do szybszej oceny.

Hugging Face
Badania· Ważne

Google i Meta zintegrowały natywne wsparcie TPU z frameworkiem treningowym PyTorch TorchTitan

Google wprowadziło TorchTPU – natywny backend PyTorch dla Cloud TPU (torch.device("tpu")) i wspólnie z Meta stworzyło fork TorchTitan dostosowany do treningu na TPU. Wcześniej trening modeli PyTorch na TPU wymagał przepisania kodu na JAX lub korzystania ze starszej ścieżki torch_xla; teraz wystarczają minimalne zmiany w inicjalizacji urządzenia. Fork oferuje gotowe przepisy do wstępnego treningu dużych modeli gęstych (Llama 3 70B/405B, Qwen 3 8B/32B), modeli MoE (Qwen 3 235B) oraz transformerów dyfuzyjnych (FLUX.1 12B), a także „Graph Trainer”, który przechwytuje cały krok treningowy jako jeden program XLA dla lepszej optymalizacji kompilatora.

Google Developers
Modele· Ważne

Google uruchamia natywne silniki wnioskowania PyTorch dla vLLM i SGLang na TPU

Google ogłosił nowe silniki wnioskowania (inference) vLLM i SGLang, zbudowane bezpośrednio na PyTorch dla TPU, opracowane odpowiednio z Inferact i RadixArk. Silniki działają na nowej warstwie TorchTPU, która czyni TPU natywnym urządzeniem PyTorch, zastępując wcześniejsze podejście oparte na JAX. Google podaje publiczny wynik benchmarku na poziomie 2,01 centa za milion tokenów przy konfiguracjach o wysokiej współbieżności w ramach projektu SemiAnalysis InferenceX, a także wsparcie dla obciążeń agentowych, długiego kontekstu, rozproszonego serwowania i modeli multimodalnych.

Google Developers
Agenci· Ważne· 🧪 Warte przetestowania

Wydano llm-d 1.0: otwartoźródłowy stos wnioskowania Kubernetes-native dojrzały do produkcji

Red Hat, IBM i Google ogłosiły llm-d 1.0 — rozproszony system obsługi wnioskowania LLM natywny dla Kubernetes, który wykroczył poza demonstrowanie pojedynczych technik wydajnościowych i stał się gotowy do pełnej eksploatacji produkcyjnej. Wersja dodaje wielodostępową kontrolę jakości usług, operacje bez przestojów oraz obsługę świadomą agentów, dzięki czemu ten sam endpoint może efektywnie obsługiwać zarówno ludzi, jak i autonomiczne agenty. W jednym teście router świadomy prefiksów llm-d osiągnął 97% ponownego wykorzystania cache w obciążeniu agentowym związanym z kodowaniem, a IBM/Red Hat uruchomili 3000 jednoczesnych agentów inżynierii oprogramowania za 5-10 razy mniej niż koszt tego samego modelu jako usługi hostowanej.

IBM Research
Badania· Ważne

Nowe badanie: agent AI nie decyduje się na posłuszeństwo wobec prompt injection od razu — decyzja kształtuje się w trakcie rozumowania

Nowe badanie podważa powszechne przekonanie, że los agenta AI wobec ataku prompt injection jest przesądzony w momencie przeczytania złośliwego tekstu. Badacze opracowali metodę rozgałęzionych przebiegów (branching rollouts) na zestawach testowych AgentDojo: powtarzali przebieg agenta do momentu, gdy natrafia na wstrzykniętą instrukcję, a następnie wielokrotnie symulowali dalszy ciąg epizodu, by zmierzyć, ile ostatecznego wyniku było już przesądzone, a ile pozostawało otwarte. Dla agenta Qwen3 bez rozszerzonego rozumowania ('thinking') 91% wyniku było już ustalone w tym momencie; po włączeniu rozumowania wskaźnik ten spadł do 62%, co pokazuje, że decyzja o posłuszeństwie często kształtuje się jeszcze długo po pierwszym kontakcie z atakiem. Włączenie rozumowania obniżyło też skuteczność ataków wobec Qwen3, ale zwiększyło ją dla dwóch innych testowanych modeli, a wyniki benchmarków dla rozumujących agentów różniły się po powtórzeniu testu nawet w 35% przypadków.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

AWS wprowadza przesyłanie KV typu „push”, skracające opóźnienia w rozdzielonej infrastrukturze vLLM

AWS udostępnił konektor NIXL typu „push” dla vLLM, zmieniający sposób przesyłania danych pamięci podręcznej klucz-wartość (KV) między instancjami prefill i decode w rozdzielonym serwowaniu LLM. Zamiast pobierania bloków KV przez instancję decode po zakończeniu prefill, instancja decode z wyprzedzeniem rejestruje docelową pamięć, a instancja prefill zapisuje dane KV bezpośrednio, gdy tylko są gotowe — usuwając koordynację ze ścieżki krytycznej. W testach z modelem Qwen3-32B w konfiguracji 1 prefill/1 decode na instancjach EC2 P5en z EFA, tryb push osiągnął nawet 3-krotnie lepszy czas do pierwszego tokenu (TTFT) i nawet o 30% lepszy czas generowania pojedynczego tokenu (TPOT) niż domyślny tryb pull, zwłaszcza przy dużym obciążeniu zapytaniami.

AWS Machine Learning

Microsoft i NVIDIA publikują wspólne ramy zarządzania ryzykiem modeli open-weight

Microsoft i NVIDIA wydały wspólny dokument „Risk Management for Open-Weight Models in Enterprise” — pierwszy z planowanej serii, oferujący firmom wspólną taksonomię ryzyka i metodykę oceny modeli AI o otwartych wagach. Dokument argumentuje, że to, czy model ma otwarte czy zamknięte wagi, nie jest kluczowym czynnikiem ryzyka — liczy się przypadek użycia, architektura wdrożenia i otaczające zabezpieczenia. Ryzyka podzielono na pięć kategorii (cyberbezpieczeństwo, ochrona danych, treść, interakcja człowiek-AI, stronniczość) i powiązano z ocenami zgodnymi ze standardami ISO oraz ramami NIST AI Risk Management Framework.

Microsoft Security
Badania· Ważne

Google Research buduje agentów AI, którzy samodzielnie przeprowadzają eksperymenty laboratoryjne

Google Research przedstawił badania nad osadzaniem agentów AI w fizycznej rzeczywistości laboratoryjnej za pomocą systemu cyfrowego bliźniaka o nazwie VERID, który pozwala agentom bezpiecznie planować i wykonywać protokoły robotów do obsługi cieczy. W połączeniu z zamkniętymi cyklami projektowania molekularnego dla aptamerów i białek, agenci uczyli się na podstawie wyników laboratoryjnych, poprawiając wskaźniki skuteczności w kolejnych rundach i ostatecznie odkrywając jednocyfrowe nanomolowe białka wiążące dla celu związanego z nowotworem.

Google Research
Agenci· 🧪 Warte przetestowania

Google Cloud przedstawia trzywarstwową architekturę agentów dla wysokowydajnych, nadzorowanych zadań biotechnologicznych

Google Cloud opublikował architekturę referencyjną dla agentów AI koordynujących długotrwałe, wymagające GPU zadania naukowe, takie jak zwijanie białek i przesiewanie związków chemicznych, które łamią standardowy model pojedynczego agenta LLM z powodu limitów czasu i przepełnienia kontekstu. Architektura oddziela orkiestratora kognitywnego (Gemini na Agent Runtime) od warstwy wykonawczej GPU (NVIDIA NIM, np. ESMFold i GenMol, działające na GKE) i obejmuje całość warstwą zarządzania z tożsamością agenta, bramą, rejestrem i ochroną Model Armor. Przedstawiono też najlepsze praktyki: przekazywanie dużych danych przez odniesienie zamiast wprost, strumieniowanie pośrednich aktualizacji postępu oraz wymaganie zgody człowieka dla nieodwracalnych działań.

Google Cloud AI
Modele· Ważne

Reflection udostępnia Beam – otwarty model MoE z 501B parametrów i kontekstem 1M tokenów

Nowe amerykańskie laboratorium AI, Reflection, zaprezentowało swój pierwszy model Beam – otwarty model typu mixture-of-experts (MoE) z 501B parametrów łącznie (23B aktywnych na token) i oknem kontekstowym 1M tokenów, wydany na licencji Apache 2.0. Model jest przeznaczony do zadań programistycznych i agentowych, jest dostarczany z dedykowanym środowiskiem uruchomieniowym opartym na Rust i ma wsparcie od dnia premiery w bibliotekach transformers, vLLM i SGLang. Reflection publikuje mocne wyniki w testach programistycznych, rozumowania i wywoływania narzędzi w wersjach BF16, FP8 i NVFP4.

Hugging Face

NVIDIA i AI4Bharat udostępniają zbiór danych do pretreningu w językach indyjskich o rozmiarze 2,8 biliona tokenów oraz otwarty pipeline generowania danych

NVIDIA we współpracy z laboratorium AI4Bharat z IIT Madras udostępnia Nemotron-pretraining-Indic-v1 – syntetyczny zbiór danych do pretreningu liczący około 2,8 biliona tokenów, obejmujący 22 języki indyjskie, wraz z otwartym pipeline'em przyspieszanym przez GPU, który posłużył do jego utworzenia. Zbiór zawiera dane w oryginalnym piśmie dla wszystkich 22 języków oraz tekst zromanizowany dla dwunastu z nich, stworzone przez tłumaczenie wyselekcjonowanych materiałów anglojęzycznych (tekst webowy, matematyka, kod, pytania-odpowiedzi) z użyciem NeMo Data Designer i weryfikowane za pomocą rubryki inspirowanej MQM. NVIDIA wykorzystała już podzbiór 10 miliardów tokenów indyjskich do kontynuowanego pretreningu Nemotron 3.5 Super VL, co przyniosło mierzalne poprawy w benchmarkach indyjskich.

Hugging Face
Modele· Ważne· 🧪 Warte przetestowania

IBM łączy transkrypcję, podejmowanie decyzji i rozmowę w jednym modelu Granite Switch

IBM wydało Granite Switch 4.1 w wersjach 8B i 30B – modularny system, który obsługuje rozmowę, podejmowanie decyzji i transkrypcję mowy z jednego hostowanego endpointu zamiast z osobnych modeli. Aktualizacja dodaje ogólny adapter decyzyjny, wyspecjalizowany adapter Guardian do klasyfikacji związanych z bezpieczeństwem oraz wbudowany model ASR Granite-Speech-5.0-Turbo-CTC, który zajmuje pierwsze miejsce w rankingu OpenASR. Mimo połączenia trzech funkcji, zintegrowany model zużywa mniej więcej tyle samo VRAM co sam model bazowy.

Hugging Face
Modele· Ważne· 🧪 Warte przetestowania

Meta wydała Muse Spark Open – otwarty, multimodalny model MoE z 816B parametrów

Meta opublikowała Muse Spark Open – model mixture-of-experts o otwartych wagach, liczący około 816 miliardów parametrów łącznie i 42 miliardy aktywnych na token. Przyjmuje tekst, obrazy, audio i wideo, a generuje tekst, wykorzystując kontekst do 1 miliona tokenów. Meta przedstawia go jako model zoptymalizowany pod kątem kodowania i pracy agentowej, zbudowany na architekturze mniejszego modelu Muse Glimmer, określając go jako najbardziej zaawansowany jak dotąd amerykański model o otwartych wagach.

Hugging Face

Apple pokazuje modele klasy biliona parametrów działające lokalnie na klastrach Mac Studio z MLX

Zespół MLX firmy Apple opublikował testy wydajności pokazujące, że duże modele open-weight — w tym model MoE o niemal bilionie parametrów o nazwie Muse Spark Open — działają na sprzęcie Mac Studio, zarówno na pojedynczej maszynie, jak i rozproszone na do czterech Mac Studio dzięki nowemu sterownikowi RDMA over Thunderbolt. Nowy chip M5 Ultra, z dedykowanymi GPU Neural Accelerators i przepustowością pamięci 1,2 TB/s, osiąga do 4,6 razy szybszy czas do pierwszego tokena i 1,6 razy szybszą generację w porównaniu z poprzednim M3 Ultra. Dla modeli zbyt dużych, by zmieścić się na jednej maszynie, MLX obsługuje teraz równoległość potokową i tensorową na wielu Makach połączonych przez Thunderbolt RDMA, pozwalając klastrowi czterech Mac Studio generować ponad 36 tokenów na sekundę dla modelu o 816 mld parametrów.

Apple Machine Learning
Modele· Ważne· 🧪 Warte przetestowania

Apertus 1.5: otwarte modele 8B/70B rozumieją obraz i dźwięk, mają dłuższy kontekst i tryb myślenia

Swiss AI wydało Apertus 1.5 — kontynuację treningu otwartych modeli Apertus 1.0 (8B i 70B, licencja Apache 2.0), dodając natywne rozumienie obrazu i eksperymentalne rozumienie dźwięku, 4-krotnie większe okno kontekstu (262 144 tokeny), opcjonalny tryb myślenia oraz lepsze przestrzeganie instrukcji i obsługę narzędzi. Modele wytrenowano łącznie na 19T (8B) i 17T (70B) tokenach, a wszystkie dane treningowe, przepisy i checkpointy pośrednie zostały opublikowane publicznie dla powtarzalności. Zespół opublikował też szczegółowe, zestandaryzowane karty ewaluacyjne i ogłosił wczesny dostęp API od dostawców takich jak Swisscom i Infomaniak, a także plan dla ~600-miliardowego modelu MoE Apertus 2.0.

Hugging Face
Voice AI· 🧪 Warte przetestowania

Mały, dostrojony model uczy się nowych regulowanych scenariuszy rozmów bez ponownego treningu

Badacze opisują system FlowSpec, który zamienia prawną procedurę rozmowy wierzyciela na instrukcje odczytywalne maszynowo, ograniczenia narzędzi, sygnały treningowe i testy dla agenta głosowego. Model o 9 miliardach parametrów został dostrojony na nagraniach rozmów obejmujących niemal 300 losowo wygenerowanych procedur, a następnie przetestowany na czterech procedurach, których nigdy wcześniej nie widział, w tym jednej całkowicie odrębnej rodzinie scenariuszy, aby sprawdzić, czy zachowanie zgodności się przenosi.

arXiv cs.CL
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

GitHub zastąpił skaner sekretów oparty na LLM lekkim klasyfikatorem ModernBERT

GitHub zastąpił swój oparty na LLM system wykrywania ogólnych sekretów (haseł, kluczy API) dostrojonym klasyfikatorem ModernBERT połączonym z generowaniem kandydatów przez regex. Nowy dwuetapowy system poprawił dokładność wykrywania, jednocześnie drastycznie skracając czas skanowania i obniżając koszty obsługi, a jest teraz wystarczająco szybki, by działać w ramach ochrony przed push (push protection), a nie tylko po commitowaniu kodu.

GitHub
Modele· Ważne· 🧪 Warte przetestowania

Nowy otwarty model Liquid AI wykonuje agentowe rozumowanie lokalnie z zaledwie 2B aktywnych parametrów

Liquid AI opublikowało LFM2.5-24B-A2B, model typu mixture-of-experts z 24B parametrów łącznie, ale tylko 2B aktywnych na token, zaprojektowany do uruchamiania agentów rozumujących na lokalnym sprzęcie. Wersja ta rozszerza okno kontekstu do 131K tokenów, podwaja rozmiar słownika i została wytrenowana na mniej więcej dwukrotnie większej ilości danych wstępnych niż poprzednik. W testach agentowych i wywołań narzędzi model dorównuje lub przewyższa modele mające około 50% więcej parametrów, oferując przy tym szybkie wnioskowanie zarówno na sprzęcie konsumenckim, jak i w centrach danych.

Hugging Face
Agenci· Ważne· 🧪 Warte przetestowania

Orca Security obniżyła koszty zapytań o 90% dzięki wieloetapowemu pipeline'owi agentów na Bedrock

Orca Security zbudowała Discovery AI — agenta na Amazon Bedrock, który zamienia proste pytania w języku naturalnym na ustrukturyzowane zapytania do systemu Sonar, śledzącego ponad 900 typów zasobów chmurowych. Zamiast jednego dużego modelu z całym schematem wczytywanym do każdego promptu, wersja produkcyjna rozdziela pracę na dziewięć wyspecjalizowanych etapów i kilka różnych modeli bazowych. Efekt: znacznie niższe koszty, szybsze odpowiedzi i lepsza dokładność przy złożonych zapytaniach; system działa od marca 2026 roku.

AWS Machine Learning
Badania· 🧪 Warte przetestowania

AWS udostępnia open source'owe optymalizacje kerneli MoE dla vLLM – mniejsze opóźnienia i wyższa przepustowość na H200

AWS przedstawił trzy optymalizacje na poziomie kerneli dla obsługi modeli Mixture-of-Experts (MoE) na GPU Hopper, opracowane we współpracy ze społecznością vLLM i wdrożone w kontenerze LMI Amazon SageMaker AI. Zmiany eliminują nieefektywność obliczeń fused MoE podczas fazy dekodowania z małymi partiami, gdzie wcześniej rdzenie Tensor Core były niedostatecznie wykorzystywane. Łącznie optymalizacje dają do 10% wyższą przepustowość i do 9% szybszy czas do pierwszego tokena (TTFT).

AWS Machine Learning
Biznes· Ważne· 🧪 Warte przetestowania

NVIDIA udostępnia na open source platformę orkiestracji GPU Run:ai

NVIDIA ogłosiła, że cała platforma Run:ai jest teraz open source i staje się fundamentem NVIDIA DSX AI Factory Platform do orkiestracji obciążeń AI i GPU na Kubernetes. Wydanie obejmuje cztery modułowe komponenty — KAI Scheduler, GPU Fractioning Operator, KAI Resource Management i Workload Map — które można wdrażać razem lub niezależnie. Osiem partnerów ekosystemu, w tym Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud i vCluster, integruje platformę ze swoimi usługami.

NVIDIA Developer
Badania· Ważne

IBM pokazuje, że agenci AI oparte na otwartych modelach mogą obniżyć koszty projektowania chipów ponad 11-krotnie

IBM Research wykorzystało skoordynowaną „fabrykę agentów” wieloagentowych do eksploracji optymalizacji sprzętowych dekodera korekcji błędów kwantowych, porównując modele własnościowe i otwarte modele wiodące przy tym samym budżecie 100 hipotez. Konfiguracja z otwartym modelem, uruchomiona lokalnie przez framework rozproszonego wnioskowania IBM llm-d, osiągnęła 52-krotne przyspieszenie względem bazowego projektu za około 26 USD kosztów wnioskowania, w porównaniu do 299 USD dla konfiguracji z modelem własnościowym, która osiągnęła wyższe, 204-krotne przyspieszenie. Badanie pokazuje, że routing uwzględniający pamięć podręczną i efektywne serwowanie (98% trafień w cache prefiksów, ~0,11 USD za milion tokenów) sprawiły, że podejście z otwartymi modelami było znacznie tańsze, przy wciąż znajdowaniu poprawnych, kompaktowych projektów sprzętowych.

IBM Research
Badania· Ważne· 🧪 Warte przetestowania

„Priming” od Amazon zamienia wstępnie wytrenowane modele Transformer w wydajne hybrydy za mniej niż 1% kosztu treningu

Badacze z Amazon Web Services opublikowali metodę „priming”, która przekształca wstępnie wytrenowane modele Transformer w architektury hybrydowe łączące warstwy uwagi (attention) i modeli przestrzeni stanów (SSM), wykorzystując istniejące wagi zamiast treningu od zera. Podejście obniża koszty wstępnego treningu o ponad 99% i pozwala 32-miliardowemu modelowi hybrydowemu dorównać jakością źródłowemu modelowi Transformer, dekodując nawet dwukrotnie szybciej. Amazon przetestował trzy typy SSM i udostępnił otwartoźródłowy zestaw modeli, kod treningowy oraz narzędzia na licencji Apache 2.0.

Amazon Science

NVIDIA i Princeton eliminują wąskie gardła dekodowania w hybrydowych modelach SSM

NVIDIA wraz z Dao AI Lab z Princeton opracowały ReplaySSM — nowy sposób przechowywania stanu w modelach hybrydowych, które łączą warstwy state-space (SSM) z warstwami uwagi (attention). Zamiast przepisywać cały stan w każdym kroku, metoda utrzymuje okresowy punkt kontrolny (checkpoint) oraz krótką listę ostatnich wejść, oddzielając obliczanie wyniku od aktualizacji pamięci. Efektem jest niemal dwukrotnie mniejszy ruch pamięci, przyspieszenie jąder dekodowania nawet 1,80-krotnie przy dużych partiach oraz ponad dwukrotny wzrost przepustowości dekodowania spekulacyjnego w modelach klasy 120B, przy zachowaniu dokładności zbliżonej do pełnej precyzji. Metoda jest już zintegrowana z TensorRT-LLM, vLLM i FlashInfer oraz działa produkcyjnie w GLM-5.3-Flash i Kimi-K3.

NVIDIA Developer