Efektyvus automatizavimas priklauso nuo to, kaip jūsų sistemos reaguoja į API apribojimus. Šiame straipsnyje paaiškinamas skirtumas tarp „rate limiting“ (griežti limitai, sukeliantys 429 klaidas) ir „throttling“ (užklausų vėlinimas) bei pateikiamos strategijos, tokios kaip eksponentinis atsitraukimas („exponential backoff“), „jitter“ ir aktyvus paketavimas patikimumui užtikrinti.
NVIDIA pristatė „NemoClaw“ – atvirą „blueprint“ sistemą, skirtą sujungti agentų „harness“ su optimizuotais „Nemotron“ modeliais ir saugiomis vykdymo aplinkomis. Tai leidžia kūrėjams diegti agentus, kurie yra valdomi griežtomis saugumo politikomis, išlaikant aukštą našumą savo infrastruktūroje.
Pristatytas „Artifact Distillation“ metodas, leidžiantis galingiems modeliams eksportuoti savo sprendimų priėmimo procesus į išorinę duomenų saugyklą. Mažesni modeliai, naudodamiesi šia informacija vykdymo metu, pasiekia geresnių rezultatų be būtinybės atlikti brangų modelio tobulinimą (fine-tuning).
Google perkėlė „Computer Use“ įrankį į stabilų visuotinio prieinamumo etapą Gemini API ekosistemoje. Ši funkcija suteikia modeliams galimybę sąveikauti su kompiuterių sąsajomis ir dabar yra palaikoma gamybinėse „Interactions“ ir „GenerateContent“ API sistemose.
Naujausi tyrimai rodo, kad dabartiniai saugumo stebėsenos įrankiai dažnai klysta, painiodami injekcijos poveikį su agento realiu ketinimu atlikti nesaugų veiksmą. Autorius siūlo dvipusio stratifikavimo vertinimo metodą, kuris atskiria poveikį nuo elgsenos, taip žymiai pagerinant gebėjimą prognozuoti nesaugius įrankių iškvietimus iki dviejų žingsnių į priekį.
Amazon pristatė galimybę kurti ketinimais pagrįstus UI testus naudojant Nova Act kartu su Bedrock AgentCore Browser Tool įrankiu. Tai leidžia inžinierių komandoms rašyti testų scenarijus natūralia kalba, atsisakant trapių, DOM selektoriais paremtų testavimo skriptų.
„AssemblyAI“ išleido „Universal-3 Pro“ – specializuotą kalbos į tekstą (STT) modelį, leidžiantį kūrėjams pateikti instrukcijas tiesiogiai transkripcijos metu. Modelis palaiko tikslią (verbatim) ir tvarkingą (clean) transkripciją, pasirinktinių garso įvykių žymėjimą ir automatiškai perjungia šešias kalbas.
„Claude API“ dabar palaiko didesnės apimties duomenų perdavimą per „Messages“ ir „Token Counting“ sąsajas. Kūrėjai gali teikti užklausas iki 128 MB, tai keturis kartus daugiau nei anksčiau galiojęs 32 MB limitas.
„Anthropic“ išleido beta versijos „Usage and Cost Analytics“ API, leidžiantį organizacijoms tiksliau stebėti žetonų suvartojimą ir patiriamas išlaidas. Įrankis suteikia galimybę filtruoti bei grupuoti duomenis pagal modelius, darbo sritis, API raktus ir konkrečias vartotojų paskyras.
MoEngage sėkmingai pavertė daugiau nei 400 vidinių REST API į agentų įrankius naudodami Amazon Bedrock AgentCore Gateway. Šis metodas panaikino būtinybę rankiniu būdu prižiūrėti MCP serverius, konfigūruoti sudėtingus tinklus ir riziką, kylančią dėl viešojo interneto naudojimo.
IBM išleido „Granite Switch 4.1.1“ – pataisą savo modulinių kalbos modelių architektūrai. Atnaujinimas apima geresnį daugiakalbį kalbos atpažinimo (ASR) modelį ir patobulintą „Decision“ adapterį, nereikalaujant pakartotinio bazinio modelio treniravimo.
Tinkami „ChatGPT Pro“ ir „Business“ vartotojai dabar gali gauti iki 500 USD API kreditų kas mėnesį. Ši nauda susiejama tiesiogiai su jūsų API organizacija.
AWS pristatė paruoštus „Ray Train“ gilaus mokymosi konteinerius (DLC), kuriuose viename patikrintame atvaizde sujungtos „PyTorch“, „CUDA“, „NCCL“ ir „EFA“ tinklo bibliotekos. Tai leidžia jūsų įmonei diegti paskirstytojo mokymo grupes „Amazon EKS“ platformoje, nereikalaujant prižiūrėti pritaikytų atvaizdų kūrimo procesų ar spręsti sudėtingų tvarkyklių suderinamumo problemų.
AWS atnaujino savo „QA Studio“ etaloninį sprendimą, pridedant gimtąjį palaikymą kelių komandų organizacinėms struktūroms. Naujos galimybės apima programų lygio nuosavybę, automatizuotą sveikatos vertinimą remiantis „CloudWatch“ metrikomis ir granuliuotą vaidmenimis pagrįstą prieigos valdymą.
„Microsoft“ duomenimis, DI agentų skaičius „M365“ ekosistemoje per metus išaugo 15 kartų, todėl CISO privalo diegti naujus saugumo pagrindus. Dėmesys krypsta į griežtą tapatybės kontrolę ir detalią stebėseną, siekiant išvengti rizikų, kylančių dėl nekontroliuojamo DI savarankiškumo.
„Google“ paskelbė apie „Gemini 4 Carbon“ – naują galingą modelį, skirtą sudėtingoms inžinerijos užduotims ir kibernetiniam saugumui. Modelis pasižymi puikiais pažeidžiamumų aptikimo, saugaus kodo taisymo ir ilgalaikio planavimo rezultatais bei geresne apsauga nuo įvedimo užklausų injekcijų.
„NVIDIA“ išleido „Nemotron 3.5 Transcribe“ – atviro svorio, instrukcijomis valdomą modelį, skirtą kalbos vertimui į tekstą, pranešėjų diarizacijai ir vertimui. Modelyje naudojama hibridinė „Mamba-Transformer“ architektūra, užtikrinanti geriausią pramonės našumą su vos 4 milijardais aktyvių parametrų.
„AssemblyAI“ pristatė „AssemblyAI-TTS-1“ – tekstas-į-kalbą (TTS) modelį, optimizuotą balso agentams. Jis užtikrina mažesnį nei 100 ms vėlinimą, turi daugiau nei 4000 balsų biblioteką ir greitą balso klonavimą už 15 USD kainą už 1 mln. simbolių.
Tyrėjai pristatė LOTUS – sistemą haliucinacijoms aptikti, kuri naudoja multilinijinę mažo rango dekompoziciją (low-rank decomposition) signalams iš paslėptų LLM sluoksnių išgauti. Analizuojant aktyvacijų pikus ir tarp-sluoksninius modelius, šis metodas tiksliau atpažįsta neteisingus atsakymus nei dabartinės telkimo (pooling) technikos.
Kūrėjai dabar gali nustatyti konkrečias turinio saugos gaires tiesiogiai teikdami API užklausas „Grok“ modeliams. Pridėję „guidelines“ masyvą į „Chat Completions“ ar „Responses“ užklausas, galite valdyti, kaip modelis elgiasi su NSFW, smurto ir necenzūrinės leksikos kategorijomis.
Pristatyta platforma, kuri transkribuoja kiekvieną telefono pokalbį, įvertina jį pagal pačios įmonės kokybės kriterijus ir paverčia rezultatus darbuotojų rodikliais bei ugdymo planu. Ji jungiasi prie 3CX, Asterisk, XCALLY, Genesys Cloud, Avaya ir Cisco telefonijos ir veikia su lietuviškais, latviškais ir angliškais pokalbiais.
„Google Project Zero“ išanalizavo, kaip LLM pagrįstos sistemos (BigSleep) lyginasi su tradiciniais generatyviniais „fuzz“ įrankiais (Fuzzilli) ieškant V8 JavaScript variklio spragų. Per šešis mėnesius abu metodai savarankiškai aptiko unikalių klaidų, o jų sutapimas vertinamas tarp 25–60 proc.
NVIDIA išleido „Nemotron-Personas“ duomenų rinkinius Prancūzijai ir Belgijai, skirtus pagerinti LLM tikslumą regioninių procedūrų, demografijos ir kultūrinių niuansų atžvilgiu. Šis atnaujinimas suteikia pilną mokymo po pradinio treniravimo darbo eigą, įskaitant sintetinių duomenų generavimą, „LoRA“ derinimą per „NVIDIA NeMo“ ir vertinimą, padedantį pereiti nuo bendrųjų modelių prie konkrečiai sričiai skirtų agentų.