„TokenEconomizer“ yra naujas atvirojo kodo įskiepis, leidžiantis DI kodavimo agentams mokytis iš ankstesnių sesijų konkrečioje saugykloje. Stebėdamas pasikartojančius modelius, šalindamas nenaudojamus įrankius ir užkirsdamas kelią nesėkmių ciklams, jis ženkliai sumažina žetonų sunaudojimą nekeičiant paties agento ar jo bazinio modelio.
NVIDIA prisidėjo „Agent Substrate“ projektu prie „CNCF Sandbox“, siekdama išspręsti neefektyvų AI agentų veikimą „Kubernetes“ aplinkoje. Platforma leidžia sujungti daugybę agentų sesijų į nedidelį aktyvių „worker“ pod'ų telkinį, išsaugant atminties ir failų sistemos būsenas neveiklos metu.
Amazon pristatė septynių sluoksnių pavyzdinę architektūrą, skirtą DI agentų programoms pereiti nuo pradinių prototipų iki gamybai paruoštų sistemų. Sistema pabrėžia modulinį, prijungiamą dizainą, naudojant stabilias sutartis tarp tokių sluoksnių kaip duomenys, išvados (inference), orkestravimas ir saugumas.
Taxbit įdiegė saugų, vaidmenis atpažįstantį AI asistentą su Amazon Bedrock AgentCore, skirtą automatizuoti pagalbą naudojant produkto dokumentaciją. Agentas naudoja RAG metodą, kad pagrįstų atsakymus patvirtintu turiniu, tuo pačiu griežtai užtikrinant PII maskavimą, duomenų vietos rezidavimą ir vartotojų vaidmenų leidimus.
NVIDIA pristatė „NemoClaw“ – atvirą „blueprint“ sistemą, skirtą sujungti agentų „harness“ su optimizuotais „Nemotron“ modeliais ir saugiomis vykdymo aplinkomis. Tai leidžia kūrėjams diegti agentus, kurie yra valdomi griežtomis saugumo politikomis, išlaikant aukštą našumą savo infrastruktūroje.
Red Hat, IBM ir Google pristatė llm-d 1.0 — Kubernetes pagrįstą paskirstytą LLM užklausų aptarnavimo sistemą, kuri peržengė atskirų našumo technikų demonstravimo etapą ir tapo tinkama realiai gamybinei eksploatacijai. Naujoje versijoje pridėta daugiafunkcė paslaugų kokybės kontrolė, nenutrūkstamos naujinimo operacijos ir agentams pritaikytas aptarnavimas, kad tas pats galinis taškas galėtų efektyviai aptarnauti tiek žmones, tiek autonominius agentus. Viename teste llm-d prefiksų talpyklos maršrutizatorius pasiekė 97% talpyklos pakartotinio panaudojimo agentiniame programavimo scenarijuje, o IBM/Red Hat paleido 3000 vienu metu veikiančių programinės įrangos inžinerijos agentų 5-10 kartų pigiau nei naudojant tą patį modelį kaip talpinamą paslaugą.
AWS visiems „Anthropic Claude“ modeliams, veikiantiems „Amazon Bedrock“ platformoje, įdiegė struktūrizuotus atsakymus — tiek standartiniame runtime endpoint'e, tiek naujesniame agentinėms užduotims skirtame Mantle endpoint'e. Vietoj tikėjimosi, kad modelis grąžins teisingą JSON, kūrėjai dabar gali priversti atsakymus tiksliai atitikti schemą naudojant apribotą dekodavimą, kuris neleidžia modeliui generuoti formatą pažeidžiančių token'ų. Papildoma funkcija — griežtas įrankių naudojimas (strict tool use) — tą patį garantą taiko ir funkcijų iškvietimo parametrams, kad agentų darbo eigos nenutrūktų dėl netinkamo formato įvesties.
Cohere sukūrė kontroliuojamą testavimo aplinką, kad ištirtų, kaip turėtų būti organizuojamos kodavimo agentų komandos — testuojant, kur deleguojamas darbas, kaip pagrindinis agentas laukia darbuotojų, kokie modeliai atlieka kokius vaidmenis, komandos dydį ir bendravimo būdus. ProgramBench teste gerai organizuotos komandos lenkė pavienius agentus iki ~10 procentinių punktų, tačiau kainavo 3–7 kartus brangiau. Svarbiausia išvada: deleguojant darbuotojams tik tyrinėjimą ir planavimą pasiekiamas toks pat rezultatas kaip deleguojant visus etapus (įgyvendinimą ir patikrinimą) už perpus mažesnę kainą, o stiprus pagrindinis agentas su 16 pigių planavimo darbuotojų pasiekė 61,8% rezultatą, palyginti su 63,2% visiškai stipraus modelio komandoje, sumažinant kainą nuo 510 iki 155 dolerių.
AWS kartu su Postman paskelbė techninę apžvalgą, kaip Postman sukūrė „Agent Mode“ – AI pagrįstą sąsają API testavimui ir dokumentacijai, veikiančią produkcinėje aplinkoje dideliu mastu. Komanda nustatė, kad didžiausia kliūtis buvo ne modelio kokybė, o įrankių gausa ir trūkstamas kontekstas. Įraše aprašomi architektūriniai sprendimai: dinaminis įrankių parinkimas, schema pagrįstos užklausos, specializuoti konteksto apdorojimo moduliai bei Amazon Bedrock teikiamos galimybės – modelio lankstumas, kelių regionų išvada, duomenų rezidavimo kontrolė ir prompt caching.
AWS paskelbė atvejo analizę apie Amazon Bedrock AgentCore payments – valdomą funkciją, leidžiančią AI agentams savarankiškai mokėti už paslaugas, pvz., modelio užklausas, po vieną kartą naudojant x402 mokėjimų protokolą. Incarna šią funkciją panaudojo tam, kad jos agentai galėtų mokėti BlockRun, kelių tiekėjų inferencijos maršrutizatoriui, už kiekvieną atskirą modelio užklausą, atsiskaitant USDC stabilia moneta Base tinkle. AWS teigia, kad Incarna sutrumpino integracijos laiką nuo planuotų dviejų–trijų mėnesių iki trijų dienų ir apie 200 kodo eilučių. Beta testavimo metu agentai apdorojo daugiau nei 1000 mokėjimų, svyruojančių nuo 0,001 iki 0,05 USD už užklausą.