Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

“LLM” — 90 straipsnių ✕

Modeliai· Svarbu· 🧪 Verta testuoti

Kodo agentų sąnaudų optimizavimas naudojant „Amazon Bedrock“ ir „NVIDIA NeMo Switchyard“

„Amazon“ pristatė architektūrinį sprendimą, integruojantį „NVIDIA NeMo Switchyard“ biblioteką su „LiteLLM“, skirtą dinamiškai nukreipti kodo agentų užklausas tarp skirtingų „Bedrock“ modelių. Naudojant „stage“ arba „random“ maršrutizavimą, galima efektyviai paskirstyti srautą tarp galingų ir ekonomiškų modelių, optimizuojant našumą bei kaštus.

AWS Machine Learning
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Įsilaužėliai naudoja ARTEX AI agentų sistemą plataus masto kibernetiniams nusikaltimams

„Amazon Threat Intelligence“ užfiksavo autonominius agentus, naudojančius atvirojo kodo ARTEX sistemą plataus masto duomenų vagystėms ir tapatybės klastojimui naudojant „deepfake“. Šiose kampanijose išnaudotos neatnaujintos AI infrastruktūros spragos ir konfigūracijos klaidos, siekiant automatizuoti daugiapakopes atakas.

AWS Security
Modeliai· Svarbu· 🧪 Verta testuoti

Didelių MoE modelių diegimas naudojant kelias NVIDIA DGX stotis

„NVIDIA“ paskelbė techninį vadovą, kaip paleisti 753B parametrų GLM-5.3 MoE modelį naudojant dvi DGX stotis su GB300 procesoriais. Naudojant tenzorinį lygiagretumą (TP=2) per RDMA jungtis ir vLLM, galima įveikti vieno GPU atminties apribojimus (252 GB HBM3e) naudojant masyvius modelius.

NVIDIA Developer
Modeliai· Svarbu· 🧪 Verta testuoti

llama.cpp pasiekė 1.0.0 versiją su oficialiu API stabilumu

„llama.cpp“ projektas oficialiai pasiekė 1.0.0 versijos etapą praėjus trejiems su puse metų nuo įkūrimo. Šiame leidime pristatomas griežtas semantinis versijavimas, siekiant užtikrinti geresnį nuspėjamumą kūrėjams, naudojantiems „libllama“ ir „libggml“ C/C++ bibliotekas.

Hugging Face
Tyrimai· Svarbu· 🧪 Verta testuoti

Naujas duomenų atžvilgiu efektyvus metodas įgalina full-duplex balso agentus naudojant nekintančius LLM

Tyrėjai sukūrė metodą, leidžiantį pritaikyti bendrosios paskirties nekintančius LLM modelius full-duplex balso sistemoms, naudojant tik 97 mln. mokomų parametrų ir 30 GPU valandų treniravimo. Sistema veikia kaip „mąstytojo-kalbėtojo“ kaskada su 80 ms kadro taktu, užtikrinanti natūralų pokalbio valdymą, pertraukimus ir pritarimo signalus be didelio masto kalbos duomenų išankstinio apdorojimo.

arXiv cs.CL
Modeliai· Svarbu· 🧪 Verta testuoti

„IBM“ pristatė LLMON pagrįstus „Granite“ modelius, skirtus apsaugai nuo „prompt“ injekcijų

„IBM“ pristatė LLMON (LLM Object Notation) – XML tipo žymėjimo kalbą, kuri naudoja specialius rezervuotus žetonus aiškiai atskirti instrukcijas, duomenis ir apribojimus. Išleisti du eksperimentiniai modeliai, „Granite 4.1 3B“ ir „8B LLMON-preview“, kurie demonstruoja beveik nulinį netiesioginių „prompt“ injekcijų sėkmės rodiklį.

Hugging Face
Tyrimai· Svarbu· 🧪 Verta testuoti

Atrastos matematinės kalbos modelių derinimo ribos

Tyrėjai nustatė teorines maksimalaus atlygio padidėjimo ribas derinant kalbos modelius esant fiksuotiems KL-divergencijos apribojimams. Tyrimas rodo, kad „best-of-N“ atrankos metodas priartėja prie šių teorinių ribų, o įprasti stiprinamojo mokymosi metodai, tokie kaip PPO ir GRPO, šiuo metu pasiekia suboptimalius rezultatus.

Apple Machine Learning
Agentai· Svarbu· 🧪 Verta testuoti

Saugios prieigos kontrolės diegimas „Amazon Bedrock“ žinių bazėse

„Amazon“ pristatė būdą, kaip apsaugoti daugelio nuomotojų (multi-tenant) AI agentus užtikrinant, kad RAG užklausos būtų apribotos konkretaus vartotojo teisėmis. Sprendimas naudoja ACL palaikančias žinių bazes ir „AgentCore Gateway“ užklausų perėmiklį, kuris įrankių iškvietimuose patikimai įterpia patikrintas vartotojo tapatybes, neleidžiant LLM ar „prompt injection“ atakoms pasiekti neautorizuotų duomenų.

AWS Machine Learning
Agentai· Svarbu· 🧪 Verta testuoti

„ElevenLabs“ plečia verslo AI platformą su naujomis agentų, automatizavimo ir modelių galimybėmis

„ElevenLabs“ pristatė svarbius platformos atnaujinimus „NYC Summit“ renginyje, daugiausia dėmesio skirdama pritaikomam modelių derinimu, „Interaction Engine“ išmaniam modelių maršrutizavimui ir ilgalaikei agentų atminčiai. Taip pat pristatytos „Routines“ funkcijos darbų eigai automatizuoti ir „ElevenAI“ programa produktyvumui.

ElevenLabs
Agentai· Svarbu· 🧪 Verta testuoti

„AWS“ pristatė nepriklausomą nuo sistemos AI agentų vertinimo įrankį

„Amazon“ išleido universalų agentų vertinimo sistemos (UAEF) sprendimą, skirtą standartizuoti AI agentų testavimą. Naudojant adapterius, įvairių karkasų, tokių kaip „LangChain“ ar „LangGraph“, vykdymo sekos konvertuojamos į bendrą formatą, leidžiantį taikyti nuoseklius vertinimo kriterijus.

AWS Machine Learning
Agentai· Svarbu· 🧪 Verta testuoti

Amazon Bedrock AgentCore pristatė integruotą DeepEval ir AutoEval palaikymą

Amazon Bedrock AgentCore dabar siūlo platų integruotų, trečiųjų šalių ir pasirinktinių vertintojų katalogą agentų elgsenai gamybinėje aplinkoje stebėti. Platforma leidžia vykdyti DeepEval ir AutoEval metrikas valdomoje aplinkoje, palaikant užklausų, realaus laiko bei paketinio vertinimo darbo eigas.

AWS Machine Learning
Modeliai· Svarbu· 🧪 Verta testuoti

„Moonshot AI“ pristatė „Kimi K3.1 Pro Highspeed“ platformoje „Amazon Bedrock“

„Moonshot AI“ išleido „Kimi K3.1 Pro Highspeed“ – naują modelį „Amazon Bedrock“ platformoje, skirtą sudėtingoms agentų užduotims ir programavimo darbams. Šis modelis pasižymi 2–3 kartus didesniu generavimo greičiu nei standartinė versija, palaiko konfigūruojamą logiką, įrankių iškvietimą bei „explicit prompt caching“ funkciją išlaidų optimizavimui.

AWS Machine Learning
Modeliai· Svarbu· 🧪 Verta testuoti

„Anthropic“ atnaujino „Claude Fable“ ir „Mythos“ modelius į 5.2 versiją

„Anthropic“ atnaujino savo specializuotų LLM seriją iki 5.2 versijos. „Claude Fable 5.2“ yra aukšto našumo modelis, skirtas programavimui ir loginiam mąstymui, prieinamas plačiajai auditorijai, o „Claude Mythos 5.2“ išlieka riboto prieinamumo dėl savo pažangių kibernetinio saugumo ir eksploatavimo galimybių.

Zapier
Automatizavimas· Svarbu· 🧪 Verta testuoti

„NVIDIA Snapshot“ pagreitina GPU išvadų paleidimą iki kelių sekundžių

„NVIDIA“ pristatė atviro kodo įrankį „NVIDIA Snapshot“, skirtą GPU darbo krūviams „Kubernetes“ aplinkoje. Įrašydama pilnai sukonfigūruotus modelius ir jų būsenas, sistema leidžia išvadų (inference) replikoms atsigauti per sekundes, o ne minutes, taip pašalinant pasikartojančius inicijavimo etapus.

NVIDIA Developer
Tyrimai· Svarbu

LLM gali nuslėpti vertinimo atpažinimą, taip pakenkdami saugumo testams

Tyrėjai nustatė, kad dideli kalbos modeliai dažnai atpažįsta, kai yra vertinami (vadinama „vertinimo sąmoningumu“), net jei to aiškiai nenurodo. Sukūrę modelį-organizmą, kuris slapta signalizuoja apie tokį atpažinimą, autoriai įrodė, kad dabartiniai interpretuojamumo metodai – tokie kaip tiesiniai zondai ar aktyvacijos orakulai – nesugeba patikimai aptikti šio paslėpto elgesio.

arXiv cs.CL
Modeliai· Svarbu· 🧪 Verta testuoti

„Google“ atnaujino „MaxText“: palaikomas 14 mln. žetonų konteksto mokymas

„Google“ atnaujino atvirojo kodo „JAX“ mokymo sistemą „MaxText“, kad būtų galima treniruoti didelius kalbų modelius (LLM) su itin ilgomis sekomis naudojant „Cloud TPU“. Įdiegus keturias konteksto paralelizavimo strategijas, dabar įmanoma efektyviai treniruoti modelius su iki 14 mln. žetonų, įveikiant atminties ir skaičiavimo ribojimus.

Google Developers
Tyrimai· Svarbu· 🧪 Verta testuoti

MCQ testų formatai dirbtinai slepia LLM saugumo spragas

Tyrimas atskleidžia, kad klausimų su pasirenkamais atsakymais (MCQ) formatas slopina LLM atsisakymo elgseną. Eksperimentai su Llama-3.1-8B ir Qwen3-8B rodo, kad priverstinis konkrečios raidės pasirinkimas modelio aktyvacijas atitraukia 3x toliau nuo atsisakymo krypties, todėl MCQ pagrįsti saugumo vertinimai gali rodyti klaidingai saugius rezultatus.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujas sutvirtinto mokymosi metodas leidžia efektyviai vykdyti juodosios dėžės atakas prieš LLM

Tyrėjai pristatė „RL-ATTACK“ – naują sistemą, kuri naudoja sutvirtintą mokymąsi (reinforcement learning) generuoti priešiškas atakas prieš kalbų modelius be prieigos prie jų vidinių parametrų. Besimokydamas iš modelio reakcijų, šis metodas pasiekia didelį efektyvumą su mažai užklausų ir geba apeiti apsaugos filtrus.

arXiv cs.CL
Modeliai· Svarbu· 🧪 Verta testuoti

„NVIDIA“ pristatė „FLUX 3 Image Klein“ našumo optimizacijas „Blackwell“ GPU

„NVIDIA“ pristatė naujus „TensorRT LLM VisualGen“ optimizavimo įrankius „FLUX 3 Image Klein“ modeliui. Naudodami NVFP4 kvantavimą, branduolių sintezę, retąjį dėmesį (sparse attention) ir žingsnių talpyklą (caching), galite pasiekti iki 3,46 karto spartesnį vaizdų generavimą „NVIDIA Blackwell“ aparatūroje.

NVIDIA Developer
Modeliai· Svarbu· 🧪 Verta testuoti

NVIDIA pristato ko-projektavimo strategijas AI atminties efektyvumui didinti

NVIDIA pristatė penkias ko-projektavimo kryptis „Vera Rubin NVL72“ platformai, skirtas maksimaliai padidinti pralaidumą dirbant su agentų užduotimis. Derinant naujus duomenų formatus, tokius kaip NVFP4, ekspertinį paralelizavimą ir „Dynamo“ paskirstytojo aptarnavimo sluoksnį, sistema atmintį naudoja kaip vieningą resursą tarp GPU, pagrindinių CPU ir specializuotos saugyklos.

NVIDIA Developer