Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

“Inference” — 21 straipsnis ✕

Modeliai· Svarbu· 🧪 Verta testuoti

NVIDIA pristatė „RTX Spark“ kompaktiškus stalinius kompiuterius vietiniam DI

NVIDIA išleido naują „RTX Spark“ stalinių kompiuterių seriją, skirtą vietiniams DI procesams vykdyti. Šiuose kompiuteriuose, kuriuos gamina ASUS, „Dell“ ir MSI, naudojami 20 branduolių „NVIDIA Grace“ procesoriai, „Blackwell RTX“ grafikos plokštės bei iki 128 GB suvienytosios atminties dideliems kalbos modeliams ir nuolatiniams agentams veikti.

NVIDIA
Modeliai· Svarbu· 🧪 Verta testuoti

Naujas 1 mlrd. parametrų modelis, skirtas matematiniam mąstymui

Tyrėjai pristatė „Limite 1B - Violetto“ – kompaktišką 1 milijardo parametrų modelį, sukurtą matematinių užduočių sprendimui. Jis palaiko 131 tūkst. žetonų konteksto langą ir yra platinamas pagal „Apache 2.0“ licenciją.

arXiv cs.CL
Tyrimai· Svarbu· 🧪 Verta testuoti

LLM atsisakymų sąnaudų vertinimas naudojant egzistuojančius žurnalus

Naujas priežastinis metodas RAW (Refusal Aversion in the Wild) naudoja LLM stochastiškumą, kad išmatuotų, kaip dažnai vartotojų užklausų atmetimas lemia platformos palikimą. Analizuodami egzistuojančius sąveikos žurnalus, galite nustatyti tikslų priežastinį atsisakymų poveikį tolesniam vartotojų įsitraukimui.

arXiv cs.CL
Modeliai· Svarbu· 🧪 Verta testuoti

OpenTSLM laiko eilučių modeliai dabar prieinami per Amazon SageMaker

„Aionic Labs“ išleido „OpenTSLM-Flamingo“ – laiko eilučių kalbos modelį (TSLM), kurį dabar galima diegti per „Amazon SageMaker JumpStart“. Jis sujungia „Gemma 3 4B“ architektūrą su laiko eilučių kodavimo įrankiu, kad kartu su tekstiniu kontekstu interpretuotų operacinius duomenis.

AWS Machine Learning
Modeliai· Svarbu· 🧪 Verta testuoti

LLM išvesties spartinimas naudojant NVIDIA Dynamo per SageMaker HyperPod

AWS pristatė valdomą NVIDIA Dynamo palaikymą SageMaker HyperPod aplinkoje, supaprastindama didelių kalbos modelių diegimą. Atnaujinimas suteikia galimybę naudoti kelių mazgų (multi-node) išvestį, leidžiančią vykdyti modelius, kurie viršija vieno GPU atminties ribas per atskirtus prefill ir decode procesus.

AWS Machine Learning
Modeliai· Svarbu· 🧪 Verta testuoti

Amazon SageMaker AI pristatė KV podėliu pagrįstą užklausų nukreipimą

Amazon SageMaker AI pristatė naują 'KV_AWARE' nukreipimo strategiją, kuri nukreipia LLM užklausas į egzempliorius pagal faktinę KV podėlio būseną, o ne tik pagal užklausos pradžią. Tai optimizuoja daugiasluoksnius pokalbius ir ilgo konteksto užduotis, užtikrinant, kad užklausos patektų ten, kur jau saugomi reikiami duomenys.

AWS Machine Learning
Modeliai· Svarbu· 🧪 Verta testuoti

Retosios dėmesio architektūros optimizavimas didelio konteksto LLM

„NVIDIA“ paskelbė technines gaires, kaip kurti retosios dėmesio („sparse attention“) mechanizmus didelio konteksto modeliams. Optimizuojant „indexer“ branduolius, kurie prieš atliekant pilną dėmesio skaičiavimą nustato svarbiausius duomenis, galima žymiai padidinti išvedimo (inference) efektyvumą esant daugiau nei 100 tūkst. žetonų kontekstui.

NVIDIA Developer
Modeliai· Svarbu· 🧪 Verta testuoti

NVIDIA pristato „Nemotron for Science“ autonominiams tyrimų agentams

NVIDIA pristatė „Nemotron for Science“ – įrankių rinkinį, jungiantį „Nemotron 3.5 Super VL“ modelį su specializuotais chemijos duomenų rinkiniais ir apmokymo receptais. Ši platforma leidžia tyrėjams diegti vietinius agentus, kurie gali savarankiškai planuoti eksperimentus, vykdyti kodą ir patikrinti duomenų rezultatus.

NVIDIA
Modeliai· Svarbu· 🧪 Verta testuoti

Vieningas daugiakalbis kalbos žymėjimas su multimodaliais LLM

Pristatytas „OmniTag-Bench“ – naujas penkių kalbų vertinimo rėmas, skirtas multimodalių LLM testavimui, atliekant sinchroninę kalbos transkripciją ir metaduomenų žymėjimą. Tyrimas rodo, kad vienas, papildomai apmokytas multimodalus modelis gali išgauti transkripciją, emocijas, lytį, kalbą ir vardines entybes vienu žingsniu, pakeičiant atskirus specializuotus modelius.

arXiv cs.CL
Agentai· Svarbu· 🧪 Verta testuoti

„TokenEconomizer“ sumažina dirbtinio intelekto kodavimo agentų kaštus optimizuojant patirtį

„TokenEconomizer“ yra naujas atvirojo kodo įskiepis, leidžiantis DI kodavimo agentams mokytis iš ankstesnių sesijų konkrečioje saugykloje. Stebėdamas pasikartojančius modelius, šalindamas nenaudojamus įrankius ir užkirsdamas kelią nesėkmių ciklams, jis ženkliai sumažina žetonų sunaudojimą nekeičiant paties agento ar jo bazinio modelio.

Microsoft Research
Modeliai· Svarbu· 🧪 Verta testuoti

Hugging Face perkelia „Inference Providers“ į „OpenRouter“

„Hugging Face“ pradėjo partnerystę su „OpenRouter“, kad optimizuotų kalbos modelių išvedimo (inference) procesus. Visos užklausos dabar automatiškai nukreipiamos per „OpenRouter“, parenkant tinkamiausią teikėją pagal kainą, greitį ir patikimumą realiuoju laiku.

Hugging Face
Tyrimai· Svarbu· 🧪 Verta testuoti

LLM elgsenos valdymas optimizuojant įvestį

Tyrėjai pristatė ActGCG metodą, leidžiantį atkartoti aktyvavimo valdymo (activation steering) efektus, kurie anksčiau reikalavo vidinės prieigos prie modelio, optimizuojant įvesties sufiksus. Šis metodas leidžia atkartoti specifinius elgsenos modelius, pavyzdžiui, kalbos keitimą, vien tik per išorinio teksto įvestį.

arXiv cs.CL
Modeliai· Svarbu· 🧪 Verta testuoti

Kodo agentų sąnaudų optimizavimas naudojant „Amazon Bedrock“ ir „NVIDIA NeMo Switchyard“

„Amazon“ pristatė architektūrinį sprendimą, integruojantį „NVIDIA NeMo Switchyard“ biblioteką su „LiteLLM“, skirtą dinamiškai nukreipti kodo agentų užklausas tarp skirtingų „Bedrock“ modelių. Naudojant „stage“ arba „random“ maršrutizavimą, galima efektyviai paskirstyti srautą tarp galingų ir ekonomiškų modelių, optimizuojant našumą bei kaštus.

AWS Machine Learning
Modeliai· Svarbu

„OpenFold3“ dabar pasiekiama „Amazon SageMaker JumpStart“

„Amazon“ papildė „SageMaker JumpStart“ „OpenFold3-preview“ modeliu, leidžiančiu prognozuoti baltymų, DNR, RNR ir ligandų 3D struktūras. Sprendimas naudoja asinchroninius užklausų taškus ilgai trunkančioms užduotims atlikti, palaiko automatinį mastelio keitimą bei išteklių mažinimą iki nulio, kai sistema nenaudojama.

AWS Machine Learning
Karšta naujienaKibernetinis saugumas· 🧪 Verta testuoti

Autonominių DI įsilaužimo testavimo įrankių plitimas

Nuo spalio pradžios sparčiai išaugo DI pagrįstų įsilaužimo (pentesting) ir orkestravimo sistemų skaičius, dabar aktyviai veikia tūkstančiai jų modifikacijų. Šie autonominiai įrankiai automatizuoja visą kibernetinės atakos grandinę, leisdami jiems greitai išnaudoti pavogtus kredencialus ir judėti per infrastruktūrą.

Cloudflare Security
Modeliai· Svarbu· 🧪 Verta testuoti

Didelių MoE modelių diegimas naudojant kelias NVIDIA DGX stotis

„NVIDIA“ paskelbė techninį vadovą, kaip paleisti 753B parametrų GLM-5.3 MoE modelį naudojant dvi DGX stotis su GB300 procesoriais. Naudojant tenzorinį lygiagretumą (TP=2) per RDMA jungtis ir vLLM, galima įveikti vieno GPU atminties apribojimus (252 GB HBM3e) naudojant masyvius modelius.

NVIDIA Developer
Modeliai· Svarbu· 🧪 Verta testuoti

llama.cpp pasiekė 1.0.0 versiją su oficialiu API stabilumu

„llama.cpp“ projektas oficialiai pasiekė 1.0.0 versijos etapą praėjus trejiems su puse metų nuo įkūrimo. Šiame leidime pristatomas griežtas semantinis versijavimas, siekiant užtikrinti geresnį nuspėjamumą kūrėjams, naudojantiems „libllama“ ir „libggml“ C/C++ bibliotekas.

Hugging Face
Modeliai· Svarbu· 🧪 Verta testuoti

DeepSeek pristatė natyvias API funkcijas paieškai, failams ir balsui

DeepSeek išplėtė savo paslaugas, atverdama kūrėjams visą taikomųjų programų įrankių rinkinį. Nuo šiol API vartotojai gali įjungti žiniatinklio paieškos, URL nuskaitymo, failų apdorojimo ir saugos filtrų parametrus, taip pat naudoti atskirus ASR, TTS ir OCR taškus.

DeepSeek API Updates
Modeliai· Svarbu· 🧪 Verta testuoti

AWS pristatė SGLang palaikymą Trainium lustams

Amazon išleido SGLang-Neuron – įskiepį, leidžiantį kūrėjams vykdyti didelio masto DI modelius naudojant AWS Trainium aparatinę įrangą per standartinę SGLang sąsają. Ši integracija palaiko natūralų PyTorch vykdymą ir pažangias funkcijas, tokias kaip PD disaggregation naudojant EFA, siekiant optimizuoti modelių aptarnavimą.

AWS Machine Learning