Pereiti prie turinio
2026 m. lapkričio 22 d., sekmadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

#Latency — 14 straipsnių ✕

Karšta naujienaModeliai· 🧪 Verta testuoti

„Google“ pristatė „Gemini Decisions API“, skirtą itin spartiam multimodaliniam klasifikavimui

„Google“ pristatė „Gemini Decisions API“, varomą naujojo „gemini-decision-1“ modelio. Skirtingai nei standartiniai generatyviniai modeliai, šis įrankis atlieka vieno žingsnio klasifikavimą ir vertinimą apdorojant tekstą, garsą, vaizdus, vaizdo įrašus ir PDF failus, grąžindamas pasitikėjimo balus (confidence scores), o ne tekstą.

Google AI
Automatizavimas· Svarbu· 🧪 Verta testuoti

„Amazon SageMaker“ dabar palaiko „Multi-Instance GPU“ valdomiems galiniams taškams

„Amazon SageMaker Inference“ pristatė NVIDIA „Multi-Instance GPU“ (MIG) palaikymą, leidžiantį padalyti vieną fizinį GPU į kelis nepriklausomus vienetus. Šis aparatinis padalijimas suteikia kiekvienai particijai skirtą skaičiavimo galią ir atmintį, užtikrinant nuspėjamą delsą ir griežtą izoliaciją tarp modelių, esančių tame pačiame akceleratoriuje.

AWS Machine Learning
Tyrimai· Svarbu· 🧪 Verta testuoti

AI agentų blaškymosi mažinimas didelėse kodo bazėse

AI agentai dažnai klaidingai supranta senus kodo komentarus, tokius kaip TODO ar FIXME, laikydami juos dabartinėmis instrukcijomis. Tyrimai rodo, kad 6 % programavimo sesijų agentai imasi tirti nereikšmingus, uždarytus ar pasenusius klaidas, o tai didina išlaidas ir apimties didėjimą (scope creep).

Google Developers
Modeliai· Svarbu· 🧪 Verta testuoti

RAG paieškos optimizavimas naudojant neuroninių tinklų maršrutizatorius

„Apple“ tyrėjai pristatė būdą pagreitinti maksimalios vidinės sandaugos paiešką (MIPS) RAG sistemose, naudojant mažus, konkrečiai užduočiai optimizuotus neuroninius tinklus. Apmokius modelius (SupportNet ir KeyNet) pagal užklausų pasiskirstymą, pasiekiamas didesnis tikslumas ir mažesnė delsa, palyginus su tradiciniu klasterizavimu.

Apple Machine Learning
Tyrimai· 🧪 Verta testuoti

Kelių juodraščių spekuliacinio dekodavimo efektyvumo optimizavimas

Tyrėjai sukūrė metodą, leidžiantį apskaičiuoti teorinę kelių juodraščių spekuliacinio dekodavimo (MDSD) efektyvumo ribą, sprendžiant optimalaus transportavimo problemos dualiąją formą. Tyrimas atskleidžia, kad dabartiniai verifikavimo algoritmai dažnai nepasiekia šios ribos, o atranka be grąžinimo (sampling without replacement) gerokai padidina priėmimo rodiklius, palyginti su atranka su grąžinimu.

arXiv cs.CL
Modeliai· Svarbu· 🧪 Verta testuoti

Google atnaujino A2UI su keičiamais išvadų formatais ir Express režimu

„Google“ atnaujino savo A2UI generatyvinio UI protokolą, įtraukdama keičiamus išvadų (inference) formatus, taip spręsdama vėlavimo ir patikimumo problemas, susijusias su ankstesniu „Direct JSON“ metodu. Naujasis „A2UI Express“ formatas sumažina tokenų sunaudojimą iki 3 kartų ir delsą iki 3 kartų, naudodamas glaustą „Python“ stiliaus sintaksę.

Google Developers
Modeliai· Svarbu· 🧪 Verta testuoti

„Boa Compressor“ suteikia LLM galimybę realiuoju laiku glaudinti ilgą kontekstą

Tyrėjai pristatė „Boa Compressor“ – internetinį įrankį, naudojantį „Mamba“ būsenos erdvės modelį, kuris linijiniu laiku suspaudžia ilgą kontekstą į trumpesnes reprezentacijas. Išskirstant žinias iš pilno konteksto LLM sąveikų, šis metodas leidžia efektyviai atlikti išvadas kiekvienai užklausai be didelių „Transformer“ pagrįsto glaudinimo delsos sąnaudų.

arXiv cs.CL
Modeliai· Svarbu· 🧪 Verta testuoti

Mažinkite AI agentų kaštus su Bedrock „prompt“ spartinimu

„Amazon Bedrock“ dabar palaiko aiškų (explicit) ir numanomą (implicit) užklausų spartinimą (prompt caching) „OpenAI“ modeliams, leidžiantį saugoti ir pakartotinai naudoti statinius duomenis, tokius kaip įrankiai, instrukcijos ir pokalbių istorija. Išvengus identiškų žetonų pakartotinio apdorojimo, galite žymiai sumažinti įvesties kaštus ir pagerinti reagavimą sudėtingose agentų darbo eigose.

AWS Machine Learning
Tyrimai· Svarbu· 🧪 Verta testuoti

IBM papildinys leidžia vLLM stebėti ir valdyti LLM realiuoju laiku beveik be sulėtėjimo

IBM Research pristatė vLLM-Hook MIA – papildinį atviro kodo vLLM išvedimo varikliui, leidžiantį kūrėjams stebėti ir keisti modelio vidinę būseną vykdymo metu – pavyzdžiui, atmesti kenkėjiškus užklausimus, pažymėti haliucinuotus faktus ar koreguoti atsakymo toną – neišjungiant spartaus vLLM grafikų kartojimo režimo. Pagal IBM techninę ataskaitą, MIA yra iki 20 kartų greitesnis nei ankstesnė vLLM-Hook versija ir iki 14 kartų greitesnis nei metodai, įterpiantys kodą tiesiai į modelį. Testuose valdant 8B Llama ar 1,5B Qwen modelį delsa padidėjo vos apie 2%, o su 70B Llama modeliu – apie 6%.

IBM Research
Tyrimai· Svarbu· 🧪 Verta testuoti

AWS pristato „push“ tipo KV perdavimą, mažinantį delsą atskirtame vLLM infrastruktūros apdorojime

AWS išleido „push“ tipo NIXL konektorių vLLM sistemai, keičiantį, kaip raktas-reikšmė (KV) talpyklos duomenys perduodami tarp prefill ir decode egzempliorių atskirtame LLM aptarnavime. Vietoj to, kad decode egzempliorius trauktų KV blokus po prefill pabaigos, decode egzempliorius iš anksto užregistruoja paskirties atmintį, o prefill egzempliorius tiesiogiai įrašo KV duomenis, kai tik jie parengti – taip koordinavimo darbas pašalinamas iš kritinio kelio. Testuojant su Qwen3-32B modeliu 1 prefill/1 decode konfigūracijoje EC2 P5en egzemplioriuose su EFA, push režimas pasiekė iki 3 kartų geresnį laiką iki pirmo tokeno (TTFT) ir iki 30% geresnį vieno tokeno generavimo laiką (TPOT) nei numatytasis pull režimas, ypač esant didelei užklausų apkrovai.

AWS Machine Learning