Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

“LLM” — 70 straipsnių ✕

Tyrimai· Svarbu· 🧪 Verta testuoti

AWS pristato „push“ tipo KV perdavimą, mažinantį delsą atskirtame vLLM infrastruktūros apdorojime

AWS išleido „push“ tipo NIXL konektorių vLLM sistemai, keičiantį, kaip raktas-reikšmė (KV) talpyklos duomenys perduodami tarp prefill ir decode egzempliorių atskirtame LLM aptarnavime. Vietoj to, kad decode egzempliorius trauktų KV blokus po prefill pabaigos, decode egzempliorius iš anksto užregistruoja paskirties atmintį, o prefill egzempliorius tiesiogiai įrašo KV duomenis, kai tik jie parengti – taip koordinavimo darbas pašalinamas iš kritinio kelio. Testuojant su Qwen3-32B modeliu 1 prefill/1 decode konfigūracijoje EC2 P5en egzemplioriuose su EFA, push režimas pasiekė iki 3 kartų geresnį laiką iki pirmo tokeno (TTFT) ir iki 30% geresnį vieno tokeno generavimo laiką (TPOT) nei numatytasis pull režimas, ypač esant didelei užklausų apkrovai.

AWS Machine Learning
Agentai· 🧪 Verta testuoti

Google Cloud pristatė trijų sluoksnių agentų architektūrą didelio skaičiavimo ir valdomiems biotechnologijų procesams

Google Cloud paskelbė referencinę architektūrą, skirtą AI agentams, koordinuojantiems ilgai trunkančias, GPU reikalaujančias mokslines užduotis, tokias kaip baltymų lankstymas ir junginių atranka, kurios sugriauna įprastą vieno LLM agento modelį dėl laiko limitų ir konteksto perpildymo. Architektūra atskiria kognityvinį orkestratorių (Gemini su Agent Runtime) nuo GPU vykdymo sluoksnio (NVIDIA NIM, pvz., ESMFold ir GenMol, veikiantys GKE) ir viską apgaubia įmonės valdymo lygmeniu su agento identitetu, vartais, registru ir Model Armor apsauga. Taip pat pateikiamos geriausios praktikos: didelius duomenis perduoti nuorodomis, o ne tiesiogiai, transliuoti tarpinius pažangos atnaujinimus ir negrįžtamus veiksmus leisti tik gavus žmogaus patvirtinimą.

Google Cloud AI
Modeliai· Svarbu· 🧪 Verta testuoti

IBM sujungia transkripciją, sprendimų priėmimą ir pokalbį viename Granite Switch modelyje

IBM pristatė Granite Switch 4.1 8B ir 30B dydžio versijas – modulinę sistemą, kuri vykdo pokalbį, sprendimų priėmimą ir kalbos transkripciją iš vieno talpinamo endpoint'o, o ne iš atskirų modelių. Atnaujinime pridėtas bendros paskirties sprendimų adapteris, specializuotas „Guardian“ adapteris saugumo klasifikacijai ir integruotas ASR modelis Granite-Speech-5.0-Turbo-CTC, pirmaujantis OpenASR reitinge. Nors sujungtos trys funkcijos, bendras modelis naudoja maždaug tiek pat VRAM, kiek ir pagrindinis modelis vienas.

Hugging Face
Modeliai· Svarbu· 🧪 Verta testuoti

Meta pristatė Muse Spark Open – atviro svorio 816B parametrų multimodalinį MoE modelį

Meta paskelbė Muse Spark Open – atvirų svorių mišraus ekspertų (MoE) modelį, turintį apie 816 milijardų parametrų iš viso ir 42 milijardus aktyvių vienam tokenui. Jis priima tekstą, vaizdus, garsą ir video, o generuoja tekstą, naudodamas iki 1 milijono tokenų kontekstą. Meta pristato jį kaip kodavimui optimizuotą, agentinį modelį, sukurtą ant mažesnio Muse Glimmer architektūros pagrindo, vadindama jį pažangiausiu iki šiol išleistu JAV atvirų svorių modeliu.

Hugging Face
Modeliai· Svarbu· 🧪 Verta testuoti

Apertus 1.5: atviri 8B/70B modeliai dabar supranta vaizdą ir garsą, turi ilgesnį kontekstą bei mąstymo režimą

Swiss AI išleido Apertus 1.5 — tolesnį atvirų Apertus 1.0 modelių (8B ir 70B, Apache 2.0 licencija) apmokymą, pridedant natyvų vaizdo ir eksperimentinį garso supratimą, 4 kartus didesnį kontekstą (262 144 žetonai), pasirenkamą mąstymo režimą bei pagerintą instrukcijų laikymąsi ir įrankių naudojimą. Modeliai apmokyti iš viso su 19T (8B) ir 17T (70B) žetonų, o visi mokymo duomenys, receptai ir tarpiniai kontrolpunktai paskelbti viešai atkuriamumui. Komanda taip pat paskelbė detalias standartizuotas vertinimo korteles ir pranešė apie ankstyvą API prieigą per tiekėjus kaip Swisscom bei Infomaniak, be to, pristatė ~600B parametrų MoE Apertus 2.0 planus.

Hugging Face
Voice AI· 🧪 Verta testuoti

Nedidelis apmokytas modelis išmoksta vykdyti naujus reguliuojamus skambučių scenarijus be perkvalifikavimo

Tyrėjai pristato sistemą FlowSpec, kuri kreditoriaus teisinę skambučio procedūrą paverčia mašininiu formatu suprantamomis instrukcijomis, įrankių apribojimais, mokymo signalais ir testais balso agentui. 9 milijardų parametrų modelis buvo apmokytas naudojant skambučius, apimančius beveik 300 atsitiktinai sugeneruotų procedūrų, o vėliau išbandytas su keturiomis niekada nematytomis procedūromis, įskaitant visiškai atskirtą scenarijų šeimą, siekiant patikrinti, ar atitikties elgsena perduodama.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

GitHub pakeitė LLM pagrindu veikusį paslapčių skaitytuvą lengvu ModernBERT klasifikatoriumi

GitHub pakeitė savo LLM pagrindu veikusią sistemą, skirtą aptikti bendro pobūdžio paslaptis (slaptažodžius, API raktus), fine-tuned ModernBERT klasifikatoriumi kartu su regex kandidatų generavimu. Nauja dviejų pakopų sistema pagerino aptikimo tikslumą, kartu gerokai sumažindama skenavimo laiką ir eksploatavimo kaštus, ir dabar yra pakankamai greita, kad veiktų ne tik po kodo įkėlimo, bet ir prieš jį (push protection).

GitHub
Modeliai· Svarbu· 🧪 Verta testuoti

Nauja atviro svorio „Liquid AI“ modelio versija leidžia vykdyti agentinį samprotavimą lokaliai, naudojant tik 2B aktyvių parametrų

„Liquid AI“ paskelbė LFM2.5-24B-A2B – mišrių ekspertų (MoE) modelį su 24B bendrų parametrų, bet tik 2B aktyvių vienam tokenui, skirtą samprotaujantiems agentams vykdyti lokalioje įrangoje. Naujoje versijoje konteksto langas išplėstas iki 131K tokenų, žodynas padvigubintas, o pradinis mokymas atliktas naudojant maždaug dvigubai daugiau duomenų nei ankstesnėje versijoje. Agentinio ir įrankių naudojimo testų rezultatais modelis prilygsta arba lenkia modelius, turinčius apie 50 % daugiau parametrų, kartu pasiekdamas greitą veikimą tiek vartotojiškoje, tiek duomenų centro įrangoje.

Hugging Face
Agentai· Svarbu· 🧪 Verta testuoti

Orca Security 90% sumažino užklausų kaštus naudodama pakopinį Bedrock agentų konvejerį

Orca Security sukūrė Discovery AI — Amazon Bedrock agentą, verčiantį paprastus klausimus natūralia kalba į struktūrizuotas užklausas Sonar sistemai, kuri stebi daugiau nei 900 debesijos išteklių tipų. Vietoj vieno didelio modelio su visa schema kiekviename užklausime, gamybinė versija darbą paskirsto devynioms specializuotoms pakopoms ir keliems skirtingiems pagrindiniams modeliams. Rezultatas — gerokai mažesnės sąnaudos, greitesni atsakymai ir geresnis tikslumas sudėtingoms užklausoms; sistema veikia nuo 2026 m. kovo.

AWS Machine Learning
Tyrimai· 🧪 Verta testuoti

AWS atveria MoE branduolio optimizacijas vLLM sistemai – mažesnė delsa ir didesnis pralaidumas H200 GPU

AWS pristatė tris branduolio (kernel) lygio optimizacijas Mixture-of-Experts (MoE) modelių aptarnavimui Hopper GPU, sukurtas bendradarbiaujant su vLLM bendruomene ir įdiegtas Amazon SageMaker AI LMI konteineryje. Pakeitimai sprendžia fused MoE skaičiavimų neefektyvumą dekodavimo fazėje su mažomis partijomis, kai anksčiau Tensor Core branduoliai būdavo nepilnai išnaudojami. Kartu optimizacijos suteikia iki 10% didesnį pralaidumą ir iki 9% greitesnį laiką iki pirmo tokeno (TTFT).

AWS Machine Learning
Verslas· Svarbu· 🧪 Verta testuoti

NVIDIA atveria „Run:ai“ GPU orkestravimo platformos kodą

NVIDIA paskelbė, kad visa „Run:ai“ platforma dabar yra atvirojo kodo ir tampa NVIDIA DSX AI Factory Platform pagrindu AI darbo krūvių bei GPU orkestravimui Kubernetes aplinkoje. Leidime pateikiami keturi moduliniai komponentai — KAI Scheduler, GPU Fractioning Operator, KAI Resource Management ir Workload Map, kuriuos galima naudoti kartu arba atskirai. Aštuoni ekosistemos partneriai, tarp jų Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud ir vCluster, integruoja platformą į savo paslaugas.

NVIDIA Developer
Tyrimai· Svarbu· 🧪 Verta testuoti

„Amazon“ „Priming“ metodas paverčia iš anksto apmokytus Transformer modelius efektyviais hibridais už mažiau nei 1% mokymo kainos

„Amazon Web Services“ tyrėjai paskelbė metodą „priming“, kuris paverčia iš anksto apmokytus Transformer modelius hibridinėmis architektūromis, derinančiomis dėmesio (attention) ir būsenos erdvės modelio (SSM) sluoksnius, panaudojant jau turimus svorius vietoj mokymo nuo nulio. Metodas sumažina mokymo sąnaudas daugiau nei 99% ir leidžia 32 milijardų parametrų hibridiniam modeliui pasiekti tokią pačią kokybę kaip originalus Transformer modelis, dekoduojant iki dvigubai greičiau. „Amazon“ išbandė tris SSM tipus ir atvirai paskelbė modelių rinkinį, mokymo kodą bei įrankius pagal Apache 2.0 licenciją.

Amazon Science
Voice AI· Svarbu· 🧪 Verta testuoti

Mistral išleido atvirojo kodo realaus laiko arabų kalbos atpažinimo modelį Voxtral Mini 4B Realtime Arabic

Mistral AI pristatė Voxtral Mini 4B Realtime Arabic — srautinio kalbos atpažinimo (STT) modelį, pritaikytą arabų kalbos tarmėms, literatūrinei arabų kalbai ir kalbų kaitaliojimui pokalbio metu. 4,4 milijardo parametrų modelis apdoroja 16 kHz garsą realiu laiku su konfigūruojamu transkripcijos vėlavimu ir, esant 480 ms delsai, pasiekia vidutinį 8,82% simbolių klaidų rodiklį (CER) septyniuose arabų kalbos testuose — tai artima neprisijungus veikiančio Voxtral Transcribe Arabic modelio 7,91% rodikliui. Modelis sukurtas kartu su Maroko skaitmeninės transformacijos ministerija kaip suvereni AI priemonė ir išleistas pagal Apache 2.0 licenciją.

Mistral AI (Hugging Face)
Modeliai· Svarbu· 🧪 Verta testuoti

„Google“ atvėrė ML Drift — naują GPU variklį AI inferencijai įrenginyje

„Google“ išleido ML Drift — atvirojo kodo, kelioms platformoms skirtą GPU skaičiavimo variklį ML inferencijai įrenginyje, pakeičiantį senąjį TFLite GPU delegate. Jis suvienodina šeiderių tvarkymą tarp OpenGL ES, OpenCL, Metal ir WebGPU, prideda 5D tenzorių palaikymą ir įveda etapais pagrįstus optimizavimus LLM prefill/decode fazėms. Jis jau veikia gamyboje „Chrome“, „YouTube Shorts“, „Google Photos“, „Meet“ ir partnerių programose iš „Adobe“ bei „Snap“.

Google Developers
Agentai· 🧪 Verta testuoti

Google atveria atskirą API, skirtą AI agentus pagrįsti jo kūrėjų dokumentacija

Google pristatė Developer Knowledge API — struktūrizuotą, mašininiu būdu nuskaitomą Google Cloud, Firebase ir Android dokumentacijos šaltinį, skirtą AI agentams ir kūrėjų įrankiams. Vietoj svetainių scraping'o ar pasikliovimo LLM mokymo duomenų riba, agentai ir CLI dabar gali užklausti šviežią, Markdown formato dokumentaciją per kelias sąsajas: gcloud CLI, įdiegiamą agento įgūdį, kliento bibliotekas ir naršyklėje veikiantį API tyrinėtoją. Pagrindinis indeksas atnaujinamas dažnai, kad atsakymai liktų arti naujausios paskelbtos dokumentacijos.

Google Developers
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

AWS prideda realaus laiko teisių tikrinimą RAG sistemoms „Amazon Quick“ ir „Bedrock Knowledge Bases“

AWS pristato naują dviejų pakopų prieigos kontrolės architektūrą RAG (Retrieval Augmented Generation) sistemoms „Amazon Quick“ ir „Amazon Bedrock Knowledge Bases“. Vietoj to, kad pasikliautų tik periodiškai sinchronizuojamais prieigos sąrašais (ACL), sistema dabar realiu laiku tikrina teises tiesiogiai šaltinio sistemoje (pvz., Google Drive, SharePoint, Confluence) užklausos metu, prieš perduodama turinį LLM. AWS teigia, kad tai panaikina saugumo spragas, atsirandančias dėl pasenusių ar netiksliai susietų teisių tarp sinchronizavimų. Kaip pavyzdys minima „Mondelēz International“, turinti daugiau nei 35 000 darbuotojų.

AWS Machine Learning
Voice AI· Svarbu· 🧪 Verta testuoti

AssemblyAI pristato Qwen3.5 4B LLM Gateway platformoje greitam balso transkripcijų perrašymui

AssemblyAI paleido atviro kodo Qwen3.5 4B modelio diegimą savo LLM Gateway platformoje, specialiai optimizuotą perrašyti neapdorotą kalbos-teksto išvestį į švarų, suformatuotą tekstą. Balso perrašymo užduotyse, tokiose kaip diktavimo valymas ir transkripcijos formatavimas, modelis vidutiniškai atsakė per 612ms — 1,9 karto greičiau nei GPT-4.1 — ir kainavo 94% mažiau per valandą apdoroto garso. Modelio kaina — $0.10/$0.50 už milijoną tokenų (užklausa/atsakymas), palaikomi tik max_tokens, temperature ir stream parametrai, be įrankių kvietimo (tool calling).

AssemblyAI
Modeliai· Svarbu· 🧪 Verta testuoti

Google pristatė EmbeddingGemma 2 — atvirą daugiarūšį embeddingų modelį RAG sprendimams

Google išleido EmbeddingGemma 2 — Gemma 4 pagrindu sukurtą embeddingų modelį, platinamą pagal Apache 2.0 licenciją, kuris tekstą, kodą, vaizdus, video ir garsą sudeda į bendrą 768 dimensijų vektorinę erdvę. Modelis moduliškas — galima įkelti tik reikalingus enkoderius: 270M parametrų vien tekstui ir kodui, iki 740M visoms modalumams. Google teigia, kad MTEB Code lyginamajame teste rezultatas pagerėjo 14% lyginant su EmbeddingGemma 1, išlaikant ankstesnio modelio daugiakalbio teksto tikslumą.

Google Developers
Tyrimai· Svarbu· 🧪 Verta testuoti

GitHub atveria ReviewBench — bendrą standartą AI kodo peržiūros agentų vertinimui

GitHub paskelbė ReviewBench — tyrimų peržiūros stadijos (research preview) etaloną, skirtą palyginti AI kodo peržiūros agentus pagal bendrą, patikrinamą standartą. Duomenų rinkinį sudaro 219 realių viešų pull request'ų iš 19 kalbų ir 187 saugyklų, parinktų taip, kad atspindėtų kalbų ir dydžio pasiskirstymą tarp 103,9 mln. realių GitHub PR. Pagrindinė tiesa (ground truth) sudaryta iš žmonių recenzentų, statinės analizės įrankių ir kelių pažangiausių (frontier) LLM, o jų vertinimus patikrino vyresnieji inžinieriai, kurių sprendimai sutapo su etalono žymėjimais 96,6% atvejų. GitHub teigia jau naudojęs ReviewBench vidiniam Copilot code review (CCR) produkto sekimui, ir kad offline etalono pokyčiai patikimai prognozavo vėlesnių gamybinių A/B testų kryptį.

GitHub
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

„GitHub“ atviro kodo AI agentas rado 24 „Android“ programų pažeidžiamumus

„GitHub Security Lab“ sukūrė atviro kodo „Taskflow Agent“, kuris naudoja pritaikomus AI darbo eigos šablonus kodo saugumo auditui, ir juo rado bei pranešė apie daugiau nei 24 pažeidžiamumus „Android“ programose. Du detalūs pavyzdžiai rodo, kaip agentas atrado vartotojo vietos sekimo spragą „OsmAnd“ navigacijos programoje ir paskyros perėmimo grandinę „Wikipedia“ „Android“ programoje per deeplink nuorodų apdorojimo klaidą. Komanda pastebi, kad LLM gerai randa sudėtingas logines pažeidžiamumų klases ir gerai supranta API elgseną, tačiau sunkiai įvertina tikrą rimtumą ir dažnai generuoja klaidingus teigiamus rezultatus, todėl radiniai vis dar turi būti peržiūrimi žmogaus. Darbo eigos šablonai yra atviro kodo ir gali būti paleisti bet kuriame „GitHub“ saugykloje per „Copilot“ varomą codespace skriptą, tačiau tam reikia premium modelio užklausų ir gali užtrukti kelias valandas.

GitHub Security
Agentai· 🧪 Verta testuoti

AWS pristatė instrukciją, kaip prijungti saugią web paiešką prie Claude Desktop per AgentCore

AWS paskelbė žingsnis po žingsnio instrukciją, kaip suteikti Claude Desktop (veikiančiam per Amazon Bedrock) gyvą interneto prieigą per Amazon Bedrock AgentCore Gateway, taip užpildant spragą, kurią sukuria modelio mokymo duomenų atnaujinimo riba. Sąranka sujungia AWS IAM Identity Center SSO su Amazon Cognito kaip SAML-į-OAuth federacijos sluoksniu, kuris išduoda JWT žetonus, tikrinamus AgentCore Gateway kiekvienos užklausos metu. Pati Web Search funkcija yra suderinama su MCP ir veikia naudodama vidinį Amazon žiniatinklio indeksą, apimantį dešimtis milijardų dokumentų, todėl užklausos nepalieka AWS infrastruktūros ir nereikia trečiosios šalies API raktų. Šiuo metu funkcija pasiekiama tik trijuose AWS regionuose: us-east-1 (N. Virginia), eu-west-1 (Airija) ir ap-northeast-1 (Tokijas).

AWS Machine Learning
Agentai· Svarbu· 🧪 Verta testuoti

Google „Antigravity SDK“ dabar palaiko lokalius AI modelius su Gemma 4 26B

Google paskelbė, kad „Antigravity SDK“ dabar palaiko agentinių darbo eigų vykdymą lokaliai ir neprisijungus prie interneto, pradedant „Gemma 4 26B A4B“ modeliu per „Google AI Edge“ „LiteRT“. Kūrėjai gali kurti agentus, veikiančius visiškai įrenginyje, be debesijos API kaštų ar priklausomybės nuo interneto. Google taip pat pademonstravo hibridinį „Architect-Builder“ modelį, kai debesijos modelis („Gemini 3.8 Flash“) planuoja užduotis, o lokalus „Gemma 4 26B“ modelių pulkas atlieka pagrindinį darbą, neišsiunčiant šaltinio kodo į debesiją.

Google Developers