Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Modele AI

Nowe modele i wersje od OpenAI, Anthropic, Google, Meta, Mistral, xAI, DeepSeek, Qwen i innych.

“Inference” — 19 artykułów ✕

Modele· 🧪 Warte przetestowania

Optymalizacja wnioskowania modeli MoE poprzez strumieniowanie ekspertów

Hugging Face wprowadziło strumieniowanie ekspertów dla modeli typu Mixture-of-Experts (MoE) w bibliotece Transformers. Technika ta umożliwia uruchamianie modeli o ogromnych rozmiarach, które zazwyczaj przekraczałyby standardowe limity pamięci sprzętowej, dzięki strumieniowaniu aktywnych ekspertów w czasie rzeczywistym.

Hugging Face
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA wprowadza kompaktowe komputery stacjonarne RTX Spark do lokalnej sztucznej inteligencji

NVIDIA wprowadziła na rynek nową linię kompaktowych komputerów stacjonarnych od firm ASUS, Dell i MSI, zaprojektowanych z myślą o lokalnych obciążeniach AI. Systemy te wyposażono w 20-rdzeniowe procesory NVIDIA Grace, układy GPU Blackwell RTX oraz do 128 GB zunifikowanej pamięci, co umożliwia uruchamianie dużych modeli językowych i działających w trybie ciągłym agentów.

NVIDIA
Modele· Ważne· 🧪 Warte przetestowania

Nowy model 1B skoncentrowany na rozumowaniu matematycznym

Naukowcy udostępnili Limite 1B - Violetto, kompaktowy model o 1 miliardzie parametrów, zaprojektowany do rozwiązywania problemów matematycznych. Obsługuje okno kontekstowe o długości 131 tys. tokenów i jest udostępniony na licencji Apache 2.0.

arXiv cs.CL
Modele· Ważne· 🧪 Warte przetestowania

Modele czasowe OpenTSLM dostępne teraz w Amazon SageMaker

Firma Aionic Labs wprowadziła OpenTSLM-Flamingo, model językowy szeregów czasowych (TSLM), który można wdrażać za pośrednictwem Amazon SageMaker JumpStart. Łączy on architekturę Gemma 3 4B z enkoderem szeregów czasowych, aby interpretować wskaźniki operacyjne wraz z kontekstem tekstowym.

AWS Machine Learning
Modele· Ważne· 🧪 Warte przetestowania

Skalowanie inferencji LLM dzięki NVIDIA Dynamo na SageMaker HyperPod

AWS wprowadziło zarządzane wsparcie dla NVIDIA Dynamo w SageMaker HyperPod, co upraszcza wdrożenia wielkoskalowych modeli językowych. Aktualizacja wprowadza inferencję wielowęzłową, umożliwiając obsługę modeli przekraczających pamięć pojedynczego GPU dzięki rozdzieleniu faz prefill i decode.

AWS Machine Learning
Modele· Ważne· 🧪 Warte przetestowania

Amazon SageMaker AI wprowadza routing świadomy pamięci podręcznej KV

Amazon SageMaker AI wprowadziło strategię routingu 'KV_AWARE', która kieruje zapytania LLM do instancji na podstawie stanu ich pamięci podręcznej KV, a nie tylko nagłówków promptów. Optymalizuje to wieloetapowe konwersacje i długie konteksty, zapewniając obsługę zapytań tam, gdzie dane są już dostępne w pamięci GPU.

AWS Machine Learning
Modele· Ważne· 🧪 Warte przetestowania

Optymalizacja jąder rzadkiej uwagi dla modeli LLM z długim kontekstem

NVIDIA opublikowała techniczne wytyczne dotyczące projektowania rzadkiej uwagi („sparse attention”) w modelach z długim kontekstem. Poprzez optymalizację jąder indeksujących („indexer”), które identyfikują istotne tokeny przed pełną analizą, można znacząco poprawić wydajność wnioskowania przy kontekście przekraczającym 100 tys. tokenów.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

NVIDIA prezentuje Nemotron for Science dla autonomicznych agentów badawczych

NVIDIA wprowadziła 'Nemotron for Science', zestaw narzędzi łączący model Nemotron 3.5 Super VL ze specjalistycznymi zbiorami danych chemicznych i przepisami potreningowymi. Platforma ta umożliwia badaczom wdrażanie lokalnych agentów, którzy potrafią samodzielnie planować eksperymenty, uruchamiać kod i weryfikować wyniki danych.

NVIDIA
Modele· Ważne· 🧪 Warte przetestowania

Ujednolicone wielojęzyczne tagowanie mowy z wykorzystaniem multimodalnych LLM

Badacze przedstawili „OmniTag-Bench”, nowy pięciojęzyczny zestaw testowy do oceny multimodalnych modeli LLM pod kątem jednoczesnej transkrypcji mowy i tagowania metadanych. Badanie wykazuje, że jeden, dotrenowany multimodalny model może wyodrębniać transkrypcje, emocje, płeć, język oraz nazwy własne w jednym przebiegu wnioskowania, zastępując łańcuchy specjalistycznych modeli.

arXiv cs.CL
Modele· Ważne· 🧪 Warte przetestowania

Hugging Face przenosi Inference Providers na OpenRouter

Hugging Face nawiązało współpracę z OpenRouter, aby obsługiwać inferencję modeli językowych. Wszystkie zapytania są teraz automatycznie kierowane przez OpenRouter, który wybiera najlepszego dostawcę w oparciu o bieżące ceny, szybkość i niezawodność.

Hugging Face
Modele· Ważne

Platforma NVIDIA Vera Rubin osiąga nowe rekordy w testach MLPerf

Firma NVIDIA opublikowała pierwsze wyniki testów MLPerf Training v6.1 oraz Endpoints v1.0 dla swojej nowej architektury Vera Rubin. System wykazał znaczny postęp w szybkości trenowania oraz efektywności energetycznej w zadaniach opartych na agentach AI.

NVIDIA
Modele· Ważne· 🧪 Warte przetestowania

Optymalizacja kosztów agentów kodujących w Amazon Bedrock dzięki NVIDIA NeMo Switchyard

Amazon opublikował architekturę referencyjną integrującą bibliotekę NVIDIA NeMo Switchyard z LiteLLM w celu dynamicznego kierowania zapytań agentów programistycznych między różnymi modelami w Bedrock. Stosując routing warstwowy (stage) lub losowy (random), możesz przekierowywać ruch między modelami o wysokiej wydajności a modelami ekonomicznymi, balansując koszty i skuteczność.

AWS Machine Learning
Modele· Ważne

OpenFold3 dostępny w Amazon SageMaker JumpStart

Amazon wprowadził model OpenFold3-preview do SageMaker JumpStart, umożliwiając użytkownikom przewidywanie struktur 3D białek, DNA, RNA i ligandów. Wdrożenie wykorzystuje asynchroniczne punkty końcowe do obsługi długotrwałych obliczeń, wspierając automatyczne skalowanie oraz możliwość wyłączenia instancji w stanie bezczynności.

AWS Machine Learning
Modele· 🧪 Warte przetestowania

NVIDIA wprowadza natywne wsparcie dla wnioskowania DLA w Pythonie

Firma NVIDIA udostępniła moduł cuda.bindings.cudla, umożliwiający bezpośrednie zarządzanie akceleratorem Deep Learning Accelerator (DLA) na platformie Jetson AGX Orin za pomocą języka Python. Programiści mogą teraz łączyć wstępne przetwarzanie GPU i wnioskowanie DLA w jednym strumieniu CUDA.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

Skalowanie dużych modeli MoE na wielu stacjach NVIDIA DGX

Firma NVIDIA udostępniła workflow techniczny umożliwiający uruchomienie modelu MoE GLM-5.3 o 753 mld parametrów na dwóch stacjach DGX wyposażonych w GB300. Dzięki zastosowaniu zrównoleglenia tensorowego (TP=2) poprzez połączenia RDMA i vLLM, można pokonać ograniczenia pamięci pojedynczego GPU (252 GB HBM3e) w przypadku modeli o ogromnej skali.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

llama.cpp osiąga wersję 1.0.0 z formalną stabilnością API

Projekt llama.cpp oficjalnie osiągnął kamień milowy 1.0.0, trzy i pół roku po powstaniu. Wydanie wprowadza rygorystyczne wersjonowanie semantyczne, aby zapewnić większą przewidywalność dla programistów korzystających z bibliotek C/C++: libllama i libggml.

Hugging Face
Modele· Ważne· 🧪 Warte przetestowania

DeepSeek wprowadza natywne funkcje API dla wyszukiwania, plików i głosu

DeepSeek udostępnił użytkownikom API cały swój zestaw narzędzi aplikacyjnych. Deweloperzy mogą teraz aktywować parametry wyszukiwania w sieci, czytania URL, parsowania plików oraz filtrów bezpieczeństwa bezpośrednio w zapytaniach czatu, a także korzystać z niezależnych punktów końcowych ASR, TTS i OCR.

DeepSeek API Updates
Modele· Ważne· 🧪 Warte przetestowania

AWS wprowadza obsługę SGLang dla układów Trainium

Firma Amazon udostępniła SGLang-Neuron – wtyczkę, która pozwala programistom uruchamiać wielkoskalowe modele AI na sprzęcie AWS Trainium przy użyciu standardowego interfejsu SGLang. Integracja ta umożliwia natywne wykonywanie kodu PyTorch i wspiera zaawansowane funkcje, takie jak PD disaggregation za pośrednictwem EFA, w celu optymalizacji serwowania modeli.

AWS Machine Learning