Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Modele AI

Nowe modele i wersje od OpenAI, Anthropic, Google, Meta, Mistral, xAI, DeepSeek, Qwen i innych.

“NVIDIA” — 4 artykuły ✕

Modele· Ważne· 🧪 Warte przetestowania

Optymalizacja kosztów agentów kodujących w Amazon Bedrock dzięki NVIDIA NeMo Switchyard

Amazon opublikował architekturę referencyjną integrującą bibliotekę NVIDIA NeMo Switchyard z LiteLLM w celu dynamicznego kierowania zapytań agentów programistycznych między różnymi modelami w Bedrock. Stosując routing warstwowy (stage) lub losowy (random), możesz przekierowywać ruch między modelami o wysokiej wydajności a modelami ekonomicznymi, balansując koszty i skuteczność.

AWS Machine Learning
Modele· 🧪 Warte przetestowania

NVIDIA wprowadza natywne wsparcie dla wnioskowania DLA w Pythonie

Firma NVIDIA udostępniła moduł cuda.bindings.cudla, umożliwiający bezpośrednie zarządzanie akceleratorem Deep Learning Accelerator (DLA) na platformie Jetson AGX Orin za pomocą języka Python. Programiści mogą teraz łączyć wstępne przetwarzanie GPU i wnioskowanie DLA w jednym strumieniu CUDA.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

Skalowanie dużych modeli MoE na wielu stacjach NVIDIA DGX

Firma NVIDIA udostępniła workflow techniczny umożliwiający uruchomienie modelu MoE GLM-5.3 o 753 mld parametrów na dwóch stacjach DGX wyposażonych w GB300. Dzięki zastosowaniu zrównoleglenia tensorowego (TP=2) poprzez połączenia RDMA i vLLM, można pokonać ograniczenia pamięci pojedynczego GPU (252 GB HBM3e) w przypadku modeli o ogromnej skali.

NVIDIA Developer
Modele· Ważne· 🧪 Warte przetestowania

llama.cpp osiąga wersję 1.0.0 z formalną stabilnością API

Projekt llama.cpp oficjalnie osiągnął kamień milowy 1.0.0, trzy i pół roku po powstaniu. Wydanie wprowadza rygorystyczne wersjonowanie semantyczne, aby zapewnić większą przewidywalność dla programistów korzystających z bibliotek C/C++: libllama i libggml.

Hugging Face