„Google“ pristatė naują vieningą AI agentų stebėsenos sistemą, integruotą tiesiai į „BigQuery“ ir „Looker“. Sistema leidžia kūrėjams perduoti įrašus (logs) ir telemetriją iš nuosavų bei trečiųjų šalių agentų (pvz., „LangGraph“) į „BigQuery“ duomenų saugyklas, skirtas našumo analizei, vertinimui ir kaštų valdymui.
„Amazon“ išleido universalų agentų vertinimo sistemos (UAEF) sprendimą, skirtą standartizuoti AI agentų testavimą. Naudojant adapterius, įvairių karkasų, tokių kaip „LangChain“ ar „LangGraph“, vykdymo sekos konvertuojamos į bendrą formatą, leidžiantį taikyti nuoseklius vertinimo kriterijus.
„Mistral AI“ pristatė svarbius „Mistral Studio“ atnaujinimus – platformą, skirtą AI projektų perkėlimui iš bandomosios versijos į gamybinę aplinką. Atnaujinimai apima valdomus agentus, pažangų darbo eigų (workflow) valdymą ir įmonės lygio stebėseną, leidžiančią diegti sprendimus debesyje, VPC ar lokaliai.
NVIDIA išleido „NVIDIA Attribution“ – atvirojo kodo įrankį, skirtą žurnalams, metrikoms ir planuoklio būsenoms koreliuoti į struktūrizuotas paskirstytų DI mokymo darbų diagnostikas. Įrankis automatiškai išskiria pagrindinę gedimo priežastį iš šalutinių simptomų (pvz., NCCL klaidų), taip padėdamas infrastruktūros komandoms efektyviau valdyti didelio masto GPU sistemas.
„Microsoft“ duomenimis, DI agentų skaičius „M365“ ekosistemoje per metus išaugo 15 kartų, todėl CISO privalo diegti naujus saugumo pagrindus. Dėmesys krypsta į griežtą tapatybės kontrolę ir detalią stebėseną, siekiant išvengti rizikų, kylančių dėl nekontroliuojamo DI savarankiškumo.
NVIDIA pristatė Minerva – operacijų platformą, kuri sujungia telemetriją iš GPU, tinklo įrangos, saugyklų ir vykdomų užduočių, kad operatoriai galėtų pastebėti problemas masiniuose GPU klasteriuose anksčiau, nei jos sukelia prastovas. Mašininio mokymosi modeliai sudaro gyvą techninės įrangos ir darbo krūvių žemėlapį, pažymi neįprastą elgseną ir sugrupuoja susijusius perspėjimus į vieną incidentą su tikėtina priežastimi, užuot užtvindę komandas atskirais pranešimais. Įmontuotas asistentas leidžia darbuotojams užduoti klausimus apie klasterio būklę natūralia kalba, o sistema gali jungtis prie automatizavimo įrankių, kad vykdytų taisymus. IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI ir Tesla jau ruošiasi ją naudoti, o Dell, Lenovo ir Supermicro siūlys ją kaip dalį savo infrastruktūros sprendimų.