Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

AI modeliai

Nauji OpenAI, Anthropic, Google, Meta, Mistral, xAI, DeepSeek, Qwen ir kitų modeliai bei versijos.

“Amazon” — 6 straipsniai ✕

Modeliai· Svarbu· 🧪 Verta testuoti

OpenTSLM laiko eilučių modeliai dabar prieinami per Amazon SageMaker

„Aionic Labs“ išleido „OpenTSLM-Flamingo“ – laiko eilučių kalbos modelį (TSLM), kurį dabar galima diegti per „Amazon SageMaker JumpStart“. Jis sujungia „Gemma 3 4B“ architektūrą su laiko eilučių kodavimo įrankiu, kad kartu su tekstiniu kontekstu interpretuotų operacinius duomenis.

AWS Machine Learning
Modeliai· Svarbu· 🧪 Verta testuoti

LLM išvesties spartinimas naudojant NVIDIA Dynamo per SageMaker HyperPod

AWS pristatė valdomą NVIDIA Dynamo palaikymą SageMaker HyperPod aplinkoje, supaprastindama didelių kalbos modelių diegimą. Atnaujinimas suteikia galimybę naudoti kelių mazgų (multi-node) išvestį, leidžiančią vykdyti modelius, kurie viršija vieno GPU atminties ribas per atskirtus prefill ir decode procesus.

AWS Machine Learning
Modeliai· Svarbu· 🧪 Verta testuoti

Amazon SageMaker AI pristatė KV podėliu pagrįstą užklausų nukreipimą

Amazon SageMaker AI pristatė naują 'KV_AWARE' nukreipimo strategiją, kuri nukreipia LLM užklausas į egzempliorius pagal faktinę KV podėlio būseną, o ne tik pagal užklausos pradžią. Tai optimizuoja daugiasluoksnius pokalbius ir ilgo konteksto užduotis, užtikrinant, kad užklausos patektų ten, kur jau saugomi reikiami duomenys.

AWS Machine Learning
Modeliai· Svarbu· 🧪 Verta testuoti

Kodo agentų sąnaudų optimizavimas naudojant „Amazon Bedrock“ ir „NVIDIA NeMo Switchyard“

„Amazon“ pristatė architektūrinį sprendimą, integruojantį „NVIDIA NeMo Switchyard“ biblioteką su „LiteLLM“, skirtą dinamiškai nukreipti kodo agentų užklausas tarp skirtingų „Bedrock“ modelių. Naudojant „stage“ arba „random“ maršrutizavimą, galima efektyviai paskirstyti srautą tarp galingų ir ekonomiškų modelių, optimizuojant našumą bei kaštus.

AWS Machine Learning
Modeliai· Svarbu· 🧪 Verta testuoti

AWS pristatė SGLang palaikymą Trainium lustams

Amazon išleido SGLang-Neuron – įskiepį, leidžiantį kūrėjams vykdyti didelio masto DI modelius naudojant AWS Trainium aparatinę įrangą per standartinę SGLang sąsają. Ši integracija palaiko natūralų PyTorch vykdymą ir pažangias funkcijas, tokias kaip PD disaggregation naudojant EFA, siekiant optimizuoti modelių aptarnavimą.

AWS Machine Learning
Modeliai· Svarbu· 🧪 Verta testuoti

Tiesioginė interneto paieška integruota į Amazon Bedrock AgentCore

Amazon pristatė tiesioginį Web Search API, skirtą Bedrock AgentCore, leidžiantį vykdyti paieškas tiesiogiai per standartinius AWS SDK ir CLI. Šis atnaujinimas supaprastina realaus laiko duomenų integravimą į dirbtinio intelekto agentus, pašalinant būtinybę konfigūruoti pilną AgentCore Gateway.

AWS Machine Learning