Efektyvus automatizavimas priklauso nuo to, kaip jūsų sistemos reaguoja į API apribojimus. Šiame straipsnyje paaiškinamas skirtumas tarp „rate limiting“ (griežti limitai, sukeliantys 429 klaidas) ir „throttling“ (užklausų vėlinimas) bei pateikiamos strategijos, tokios kaip eksponentinis atsitraukimas („exponential backoff“), „jitter“ ir aktyvus paketavimas patikimumui užtikrinti.
NVIDIA pristatė „NemoClaw“ – atvirą „blueprint“ sistemą, skirtą sujungti agentų „harness“ su optimizuotais „Nemotron“ modeliais ir saugiomis vykdymo aplinkomis. Tai leidžia kūrėjams diegti agentus, kurie yra valdomi griežtomis saugumo politikomis, išlaikant aukštą našumą savo infrastruktūroje.
Pristatytas „Artifact Distillation“ metodas, leidžiantis galingiems modeliams eksportuoti savo sprendimų priėmimo procesus į išorinę duomenų saugyklą. Mažesni modeliai, naudodamiesi šia informacija vykdymo metu, pasiekia geresnių rezultatų be būtinybės atlikti brangų modelio tobulinimą (fine-tuning).
Google perkėlė „Computer Use“ įrankį į stabilų visuotinio prieinamumo etapą Gemini API ekosistemoje. Ši funkcija suteikia modeliams galimybę sąveikauti su kompiuterių sąsajomis ir dabar yra palaikoma gamybinėse „Interactions“ ir „GenerateContent“ API sistemose.
Naujausi tyrimai rodo, kad dabartiniai saugumo stebėsenos įrankiai dažnai klysta, painiodami injekcijos poveikį su agento realiu ketinimu atlikti nesaugų veiksmą. Autorius siūlo dvipusio stratifikavimo vertinimo metodą, kuris atskiria poveikį nuo elgsenos, taip žymiai pagerinant gebėjimą prognozuoti nesaugius įrankių iškvietimus iki dviejų žingsnių į priekį.
„Claude API“ dabar palaiko didesnės apimties duomenų perdavimą per „Messages“ ir „Token Counting“ sąsajas. Kūrėjai gali teikti užklausas iki 128 MB, tai keturis kartus daugiau nei anksčiau galiojęs 32 MB limitas.
„Anthropic“ išleido beta versijos „Usage and Cost Analytics“ API, leidžiantį organizacijoms tiksliau stebėti žetonų suvartojimą ir patiriamas išlaidas. Įrankis suteikia galimybę filtruoti bei grupuoti duomenis pagal modelius, darbo sritis, API raktus ir konkrečias vartotojų paskyras.
MoEngage sėkmingai pavertė daugiau nei 400 vidinių REST API į agentų įrankius naudodami Amazon Bedrock AgentCore Gateway. Šis metodas panaikino būtinybę rankiniu būdu prižiūrėti MCP serverius, konfigūruoti sudėtingus tinklus ir riziką, kylančią dėl viešojo interneto naudojimo.
„NVIDIA“ išleido „Nemotron 3.5 Super VL“ – 120B parametrų multimodalų modelį su 1M žetonų kontekstiniu langu. Modelis naudoja hibridinę „Mamba-2“ ir „MoE“ architektūrą, kad subalansuotų mąstymo gebėjimus ir našumą, ir yra paruoštas diegimui „Amazon EKS“ bei „SageMaker HyperPod“ aplinkose.
IBM išleido „Granite Switch 4.1.1“ – pataisą savo modulinių kalbos modelių architektūrai. Atnaujinimas apima geresnį daugiakalbį kalbos atpažinimo (ASR) modelį ir patobulintą „Decision“ adapterį, nereikalaujant pakartotinio bazinio modelio treniravimo.
„Microsoft“ duomenimis, DI agentų skaičius „M365“ ekosistemoje per metus išaugo 15 kartų, todėl CISO privalo diegti naujus saugumo pagrindus. Dėmesys krypsta į griežtą tapatybės kontrolę ir detalią stebėseną, siekiant išvengti rizikų, kylančių dėl nekontroliuojamo DI savarankiškumo.
„Google“ pristatė naują „Agents CLI“ vertinimo įrankį, skirtą „hill-climbing“ metodui – iteraciniam agentų našumo gerinimo procesui per testavimą, vertinimą ir analizę. Įrankis leidžia stebėti regresijas lyginant agentų veiklos pėdsakus po modelių ar užklausų (prompt) pakeitimų, aptinkant problemas, kurių nepastebi standartiniai vienetiniai testai.
„Google“ paskelbė apie „Gemini 4 Carbon“ – naują galingą modelį, skirtą sudėtingoms inžinerijos užduotims ir kibernetiniam saugumui. Modelis pasižymi puikiais pažeidžiamumų aptikimo, saugaus kodo taisymo ir ilgalaikio planavimo rezultatais bei geresne apsauga nuo įvedimo užklausų injekcijų.
„AssemblyAI“ pristatė „AssemblyAI-TTS-1“ – tekstas-į-kalbą (TTS) modelį, optimizuotą balso agentams. Jis užtikrina mažesnį nei 100 ms vėlinimą, turi daugiau nei 4000 balsų biblioteką ir greitą balso klonavimą už 15 USD kainą už 1 mln. simbolių.
Tyrėjai pristatė LOTUS – sistemą haliucinacijoms aptikti, kuri naudoja multilinijinę mažo rango dekompoziciją (low-rank decomposition) signalams iš paslėptų LLM sluoksnių išgauti. Analizuojant aktyvacijų pikus ir tarp-sluoksninius modelius, šis metodas tiksliau atpažįsta neteisingus atsakymus nei dabartinės telkimo (pooling) technikos.
Kūrėjai dabar gali nustatyti konkrečias turinio saugos gaires tiesiogiai teikdami API užklausas „Grok“ modeliams. Pridėję „guidelines“ masyvą į „Chat Completions“ ar „Responses“ užklausas, galite valdyti, kaip modelis elgiasi su NSFW, smurto ir necenzūrinės leksikos kategorijomis.
NVIDIA pristatė CUDA 13.4, įdiegdama skaidrų atminties ribojimą GPU dalijimuisi. Kartu su nauju atvirojo kodo „GPU Fractioning Operator“ ir „KAI Scheduler“ v0.18.0, jūsų įmonė gali tiesiogiai „Kubernetes“ Pod anotacijose nustatyti konkrečius atminties poreikius, maksimalias ribas ir skaičiavimo režimus.
„Google Project Zero“ išanalizavo, kaip LLM pagrįstos sistemos (BigSleep) lyginasi su tradiciniais generatyviniais „fuzz“ įrankiais (Fuzzilli) ieškant V8 JavaScript variklio spragų. Per šešis mėnesius abu metodai savarankiškai aptiko unikalių klaidų, o jų sutapimas vertinamas tarp 25–60 proc.
„LiquidAI“ išleido „LFM3“ – naujos kartos mažus fundamentalius modelius, veikiančius bendrame 2B parametrų pagrinde. Seriją sudaro teksto, vaizdo, garso ir „omni“ modeliai, sukurti efektyviam veikimui tiesiogiai įrenginiuose.
NVIDIA išleido „Nemotron-Personas“ duomenų rinkinius Prancūzijai ir Belgijai, skirtus pagerinti LLM tikslumą regioninių procedūrų, demografijos ir kultūrinių niuansų atžvilgiu. Šis atnaujinimas suteikia pilną mokymo po pradinio treniravimo darbo eigą, įskaitant sintetinių duomenų generavimą, „LoRA“ derinimą per „NVIDIA NeMo“ ir vertinimą, padedantį pereiti nuo bendrųjų modelių prie konkrečiai sričiai skirtų agentų.
„Google DeepMind“ pristatė „Genie 4“ – multimodalinį pasaulio modelį, leidžiantį kurti interaktyvias simuliacijas realiuoju laiku. Jis natūraliai generuoja vaizdą, garsą ir interaktyvius dialogus, naudodamas „Gemini 3.8 Flash“ fiziniam nuoseklumui ir loginiam mąstymui užtikrinti.
„Google“ atnaujino savo A2UI generatyvinio UI protokolą, įtraukdama keičiamus išvadų (inference) formatus, taip spręsdama vėlavimo ir patikimumo problemas, susijusias su ankstesniu „Direct JSON“ metodu. Naujasis „A2UI Express“ formatas sumažina tokenų sunaudojimą iki 3 kartų ir delsą iki 3 kartų, naudodamas glaustą „Python“ stiliaus sintaksę.
„Google“ atvėrė viešąją „Gemini Robotics Embodied Reasoning 2“ (ER 2) versijos peržiūrą „Gemini“ platformoje. Šis modelis veikia kaip aukšto lygio kognityvinis robotikos sluoksnis, gebantis planuoti, savarankiškai taisyti užduočių eigą ir valdyti kelių robotų sistemas naudojant natūralios kalbos instrukcijas.