„Amazon“ pristatė „Web Answer“ platformoje „Bedrock AgentCore“ – valdomą įrankį, supaprastinantį agentų vykdomus interneto tyrimus. Jis automatizuoja visą procesą nuo paieškos ir faktų tikrinimo iki cituojamų atsakymų sugeneravimo per MCP.
„OpenAI“ pristatė „GPT-6-Cyber“ – naują modelio versiją, skirtą saugumo spragų aptikimui, atkūrimui ir klaidų taisymui. Prieš naudojimą būtina sukonfigūruoti „Daybreak“ aplinką.
„Mistral AI“ pristatė svarbius „Mistral Studio“ atnaujinimus – platformą, skirtą AI projektų perkėlimui iš bandomosios versijos į gamybinę aplinką. Atnaujinimai apima valdomus agentus, pažangų darbo eigų (workflow) valdymą ir įmonės lygio stebėseną, leidžiančią diegti sprendimus debesyje, VPC ar lokaliai.
„Dharma-AI“ pristatė 2 milijardų parametrų modelį, skirtą struktūriniams JSON duomenims iš įvairių dokumentų išgauti. Jis palaiko tiek atvirą išgavimą, tiek išgavimą pagal schemą ir lenkia bendros paskirties LLM modelius pagal F1 tikslumo rodiklius, kartu smarkiai sumažinant veiklos sąnaudas.
„Amazon Quick“ pristatė „Smart Approvals“ funkciją, skirtą automatizuoti rutinines agentų užduotis, išlaikant žmogaus priežiūrą kritiniams sprendimams. Sistema naudoja klasifikatorių, kuris vertina atliekamus veiksmus pagal pokalbio kontekstą ir nustatytas taisykles, todėl sumažina nereikalingų pertraukimų skaičių nepažeidžiant saugumo reikalavimų.
NVIDIA pristatė darbo eigą, leidžiančią paversti gamybos metu aptiktas agentų klaidas struktūrizuotais testais, naudojant NeMo Compass ir NeMo Eval Author. Šis procesas analizuoja veiklos žurnalus, kad nustatytų pasikartojančias problemas, generuoja tikslinius vertinimus ir patikrina agento patobulinimus.
Cloudflare pristatė naują „Personal Assistants“ kategoriją savo saugumo analitikos įrankiuose, kuri leidžia svetainių savininkams stebėti ir valdyti AI agentų generuojamą automatizuotą srautą. Dabar įmonės gali nustatyti individualias prieigos politikas kiekvienam agentui, taip apsaugodamos reklamos pajamas ar jautrias svetainės zonas, neblokuojant teisėtų užklausų.
„Claude Duet“ yra naujas tyrimų stadijoje esantis agentas, sukurtas veikti fone be nuolatinio vartotojo raginimo. Jis proaktyviai tikrina prijungtas programas, teikia suvestines ir atlieka užduotis gavęs vartotojo leidimą jautriems veiksmams.
Tyrėjai pristatė SLATE – etaloninį testą, skirtą įvertinti ilgalaikį, didelio masto API pasirinkimą įmonių programinės įrangos aplinkose. Skirtingai nei dabartiniai testai, jis priverčia modelius naviguoti tarp maždaug 1000 įrankių, kad atliktų sudėtingas užduotis.
Pristatytas „Circuit Oracle“ – kelių agentų LLM sistema, skirta kalbos modelių skaičiavimams interpretuoti analizuojant atributų grafus. Įrankis naudoja „tool calling“ funkciją, kad atsakytų į natūralios kalbos klausimus apie tikslinio modelio elgseną ir saugumą.
NVIDIA išleido „NVIDIA Attribution“ – atvirojo kodo įrankį, skirtą žurnalams, metrikoms ir planuoklio būsenoms koreliuoti į struktūrizuotas paskirstytų DI mokymo darbų diagnostikas. Įrankis automatiškai išskiria pagrindinę gedimo priežastį iš šalutinių simptomų (pvz., NCCL klaidų), taip padėdamas infrastruktūros komandoms efektyviau valdyti didelio masto GPU sistemas.
NVIDIA Recovery yra nauja atviro kodo paslauga, sukurta palaikyti mokymų produktyvumą automatizuojant klaidų šalinimą GPU klasteriuose. Ji pakeičia rankinę priežiūrą sistemingu procesu, kuris aptinka klaidas, nustato jų priežastis ir inicijuoja perkrovimus arba atskirų mazgų izoliavimą.
Amazon pristatė kelių agentų sistemą, sukurtą „Bedrock AgentCore“ pagrindu, kuri automatizuoja inžinerinių dokumentų vertinimą. Architektūra sujungia multimodalų informacijos paieškos mechanizmą, deterministinius Python pagrindu veikiančius taisyklių patikrinimus ir hierarchinį LLM orkestravimą.
NVIDIA pristatė „Workload Map“ – įrankį, skirtą suteikti bendrą būdą „Kubernetes“ planuokliams ir platformoms interpretuoti įvairius paskirstytus dirbtinio intelekto darbo krūvius. Naudojant deklaratyvius YAML apibrėžimus, nebereikia kurti specialių pritaikymo adapterių kiekvienai naujai sistemai, tokiai kaip „JobSet“, „Ray“ ar „KServe“.
Efektyvus automatizavimas priklauso nuo to, kaip jūsų sistemos reaguoja į API apribojimus. Šiame straipsnyje paaiškinamas skirtumas tarp „rate limiting“ (griežti limitai, sukeliantys 429 klaidas) ir „throttling“ (užklausų vėlinimas) bei pateikiamos strategijos, tokios kaip eksponentinis atsitraukimas („exponential backoff“), „jitter“ ir aktyvus paketavimas patikimumui užtikrinti.