Nauja beta versijos funkcija leidžia saugoti pokalbio būseną serverio pusėje. Siųsdami tik naujus pranešimus, o ne visą pokalbio istoriją, galite pasiekti greitesnį pirmosios atsakymo dalies (time-to-first-token) generavimą.
Amazon pristatė kelių agentų sistemą, sukurtą „Bedrock AgentCore“ pagrindu, kuri automatizuoja inžinerinių dokumentų vertinimą. Architektūra sujungia multimodalų informacijos paieškos mechanizmą, deterministinius Python pagrindu veikiančius taisyklių patikrinimus ir hierarchinį LLM orkestravimą.
NVIDIA pristatė „Cosmos“ – platformą, siūlančią pasaulio modelius ir kūrimo įrankius, skirtus fizinio pasaulio dirbtinio intelekto (Physical AI) taikymams, tokiems kaip robotika ir autonominiai automobiliai. Platforma apima modulinius mokymo receptus bei NIM mikrotarnybas, kurios pagreitina modelių veikimą ir leidžia generuoti sinchronizuotus vaizdo bei LiDAR duomenis.
„Amazon“ pristatė darbo eigą, leidžiančią taikyti sekų lygio žinių distiliavimą (SeqKD), siekiant apmokyti mažesnius modelius remiantis didžiųjų „frontier“ modelių sugeneruotomis veiksmų trajektorijomis. Naudojant mokytojo modelį sėkmingiems įrankių naudojimo veiksmams sugeneruoti ir filtruojant juos programiniu vertintoju, komandos gali sukurti kompaktiškus studento modelius, kurie atlieka sudėtingas užduotis žymiai mažesniais kaštais.
„Apple“ tyrėjai pristatė naują mobiliųjų UI agentų mokymo infrastruktūrą, kuri atskiria navigacijos logiką nuo vizualinio atpažinimo. Naudojant žingsninį atlygį iš LLM vertintojo ir naują GiGPPO vertinimo metodą, šie agentai pasižymi didesniu patikimumu nei modeliai, apmokyti tik stacionariais duomenimis.
Naujausi tyrimai rodo, kad kalbos modeliai nesugeba prisitaikyti prie besikeičiančių vartotojo preferencijų ir dažnai tiesiog aklai remiasi pasenusiais duomenimis. Nors modeliai geba atpažinti tinkamą strategiją atrankos testuose, laisvos formos generavimo metu jų tikslumas krenta 35–46%.
Pristatytas Mage-VL-Cowork – 4B parametrų kompiuterio valdymo agentas, gebantis sujungti GUI sąveiką su kodo ir terminalo vykdymu. Naudojant Mage-CUA-Forge sistemą, kūrėjai 82,6 % sumažino užduočių rengimo kaštus ir pasiekė 66 % OSWorld-Verified vertinimo rezultatą.
„NVIDIA“ pristatė „AI Cluster Runtime“ (AICR), skirtą „Dynamo“ išvesties infrastruktūrai sujungti į patikrintus diegimo šablonus. Šis atnaujinimas supaprastina diegimą, fiksuodamas versijas ir pašalindamas privalomas išorines priklausomybes, pvz., „NATS“, bei pristatydamas naujus „KV-aware“ maršrutizavimo kelius „Kubernetes“ aplinkoje.
„Amazon Bedrock AgentCore“ dabar palaiko „Session endpoints“, leidžiančius kūrėjams stebėti ir sąveikauti su internetinėmis programomis tiesiogiai, kol jas kuria dirbtinio intelekto programavimo agentas. Nukreipiant srautą per autentifikuotą, izoliuotą „microVM“ sesiją, pakeitimai naršyklėje atsiranda akimirksniu be atskirų diegimo procesų.
NVIDIA pristatė naują komandinės eilutės sąsają „TensorRT Edge-LLM“ vykdymo mechanizmui, leidžiančią kūrėjams greitai kurti ir testuoti dirbtinio intelekto modelius „DGX Spark 64GB“ darbo stotyse. Įrankių rinkinys palengvina modelių paleidimą vietoje ir palaiko „DSpark“ spekuliatyvųjį dekodavimą, skirtą padidinti generavimo spartą ribotų resursų aparatinėje įrangoje.
Efektyvus automatizavimas priklauso nuo to, kaip jūsų sistemos reaguoja į API apribojimus. Šiame straipsnyje paaiškinamas skirtumas tarp „rate limiting“ (griežti limitai, sukeliantys 429 klaidas) ir „throttling“ (užklausų vėlinimas) bei pateikiamos strategijos, tokios kaip eksponentinis atsitraukimas („exponential backoff“), „jitter“ ir aktyvus paketavimas patikimumui užtikrinti.
NVIDIA pristatė „NemoClaw“ – atvirą „blueprint“ sistemą, skirtą sujungti agentų „harness“ su optimizuotais „Nemotron“ modeliais ir saugiomis vykdymo aplinkomis. Tai leidžia kūrėjams diegti agentus, kurie yra valdomi griežtomis saugumo politikomis, išlaikant aukštą našumą savo infrastruktūroje.
Pristatytas „Artifact Distillation“ metodas, leidžiantis galingiems modeliams eksportuoti savo sprendimų priėmimo procesus į išorinę duomenų saugyklą. Mažesni modeliai, naudodamiesi šia informacija vykdymo metu, pasiekia geresnių rezultatų be būtinybės atlikti brangų modelio tobulinimą (fine-tuning).
Google perkėlė „Computer Use“ įrankį į stabilų visuotinio prieinamumo etapą Gemini API ekosistemoje. Ši funkcija suteikia modeliams galimybę sąveikauti su kompiuterių sąsajomis ir dabar yra palaikoma gamybinėse „Interactions“ ir „GenerateContent“ API sistemose.
Naujausi tyrimai rodo, kad dabartiniai saugumo stebėsenos įrankiai dažnai klysta, painiodami injekcijos poveikį su agento realiu ketinimu atlikti nesaugų veiksmą. Autorius siūlo dvipusio stratifikavimo vertinimo metodą, kuris atskiria poveikį nuo elgsenos, taip žymiai pagerinant gebėjimą prognozuoti nesaugius įrankių iškvietimus iki dviejų žingsnių į priekį.
„Claude API“ dabar palaiko didesnės apimties duomenų perdavimą per „Messages“ ir „Token Counting“ sąsajas. Kūrėjai gali teikti užklausas iki 128 MB, tai keturis kartus daugiau nei anksčiau galiojęs 32 MB limitas.
„Anthropic“ išleido beta versijos „Usage and Cost Analytics“ API, leidžiantį organizacijoms tiksliau stebėti žetonų suvartojimą ir patiriamas išlaidas. Įrankis suteikia galimybę filtruoti bei grupuoti duomenis pagal modelius, darbo sritis, API raktus ir konkrečias vartotojų paskyras.
MoEngage sėkmingai pavertė daugiau nei 400 vidinių REST API į agentų įrankius naudodami Amazon Bedrock AgentCore Gateway. Šis metodas panaikino būtinybę rankiniu būdu prižiūrėti MCP serverius, konfigūruoti sudėtingus tinklus ir riziką, kylančią dėl viešojo interneto naudojimo.
„NVIDIA“ išleido „Nemotron 3.5 Super VL“ – 120B parametrų multimodalų modelį su 1M žetonų kontekstiniu langu. Modelis naudoja hibridinę „Mamba-2“ ir „MoE“ architektūrą, kad subalansuotų mąstymo gebėjimus ir našumą, ir yra paruoštas diegimui „Amazon EKS“ bei „SageMaker HyperPod“ aplinkose.
IBM išleido „Granite Switch 4.1.1“ – pataisą savo modulinių kalbos modelių architektūrai. Atnaujinimas apima geresnį daugiakalbį kalbos atpažinimo (ASR) modelį ir patobulintą „Decision“ adapterį, nereikalaujant pakartotinio bazinio modelio treniravimo.
„Microsoft“ duomenimis, DI agentų skaičius „M365“ ekosistemoje per metus išaugo 15 kartų, todėl CISO privalo diegti naujus saugumo pagrindus. Dėmesys krypsta į griežtą tapatybės kontrolę ir detalią stebėseną, siekiant išvengti rizikų, kylančių dėl nekontroliuojamo DI savarankiškumo.
„Google“ pristatė naują „Agents CLI“ vertinimo įrankį, skirtą „hill-climbing“ metodui – iteraciniam agentų našumo gerinimo procesui per testavimą, vertinimą ir analizę. Įrankis leidžia stebėti regresijas lyginant agentų veiklos pėdsakus po modelių ar užklausų (prompt) pakeitimų, aptinkant problemas, kurių nepastebi standartiniai vienetiniai testai.
„Google“ paskelbė apie „Gemini 4 Carbon“ – naują galingą modelį, skirtą sudėtingoms inžinerijos užduotims ir kibernetiniam saugumui. Modelis pasižymi puikiais pažeidžiamumų aptikimo, saugaus kodo taisymo ir ilgalaikio planavimo rezultatais bei geresne apsauga nuo įvedimo užklausų injekcijų.