TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.
“AWS” — 21 straipsnis ✕
„Amazon Bedrock AgentCore“ yra nauja paslauga, skirta supaprastinti daugiagentės architektūros diegimą ir valdymą. Ji tvarko agentų prieglobą, saugią prieigą prie įrankių per MCP ir sesijų izoliaciją, leisdama komandoms susitelkti į agentų elgseną, o ne į operacinę infrastruktūrą.
AWS atnaujino „Amazon Polly“ generatyvinį variklį – kalba tapo natūralesnė, išraiškingesnė ir tikslesnė skaitant skaičius, adresus bei patvirtinimo kodus. Atnaujinime pridėta 14 naujų balsų 9 lokalėse, iš viso dabar yra 57 generatyviniai balsai 11 kalbų ir 25 lokalėse, įskaitant pirmą kartą visuotinai pasiekiamus hindi ir suomių kalbos balsus. Tai „drop-in“ atnaujinimas: balsų pavadinimai, API ir kainodara nesikeičia, todėl esamos programos veikia be pakeitimų.
AWS paskelbė, kad Amazon SageMaker AI serverless modelio pritaikymo funkcija „training sessions“ dabar prieinama visiems (general availability). Komandos gali rašyti savo po-treniravimo ciklus — įskaitant nuosavas nuostolio funkcijas ir apdovanojimo signalus stiprinamojo mokymosi (RL) užduotims — o SageMaker AI pasirūpina GPU paskirstymu, paskirstytu vykdymu, klaidų atkūrimu ir kontrolinių taškų saugojimu. Palaikomos technikos: SFT, DPO, RLVR, RLAIF ir daugiapakopis RL, galima rinktis LoRA arba pilną derinimą. Funkcija palaiko modelius gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B ir Qwen3.8-27B, o mokestis skaičiuojamas pagal apdorotus žetonus (tokens), sustabdant skaitiklį, kol naudotojo apdovanojimo funkcija vertina atsakymus.
AWS paskelbė praktinį vadovą apie Adaptive Agentic Intelligence Framework (AAIF), sukurtą ant Strands Agents, kuris paprastas užklausas nukreipia į mažus vietinius modelius (per Ollama), o sudėtingas – į debesijos modelius per Amazon Bedrock. Lengvas 1 milijardo parametrų modelis (llama3.2:1b) veikia kaip orkestratorius, nusprendžiantis, kur nukreipti kiekvieną užklausą; pavyzdyje naudojamas IoT stebėjimo agentas su vietine telemetrijos užklausa, vietine vaizdo analize ir debesijos ekspertinėmis įžvalgomis. AWS teigia, kad hibridinėje konfigūracijoje apie 80 proc. srauto gali būti apdorota vietoje, nekreipiantis į mokamą API, o architektūra gali veikti visiškai krašto įrenginiuose (pvz., Raspberry Pi su 8 GB atminties), visiškai debesijoje arba hibridiniu būdu.
Dirbtinio intelekto tyrimų bendrovė i14 kartu su AWS pritaikė savo Laplace 3B modelį — 24 sluoksnių architektūrą, pagrįstą Gated Linear Attention (GLA) vietoj įprasto transformerių dėmesio mechanizmo — AWS Trainium2 lustams, naudodama natyvų PyTorch (TorchNeuron Native). Vietoj su kiekvienu tokenu augančios KV talpyklos, modelis išlaiko pastovią 29,5 MB pasikartojančią būseną kiekvienai sekai. Viename trn2.48xlarge serveryje komanda pasiekė apie 120 000 tokenų per sekundę mokymo metu ir aptarnavo 11 544 išvesties tokenus per sekundę esant 1 280 lygiagrečių sekų per nemodifikuotą vLLM variklį.
AWS pristatė Agent Registry – valdomą katalogo paslaugą Model Context Protocol (MCP) serveriams, agentams ir agentų įgūdžiams registruoti. Vietoj kiekvieno įrankio kietai užkoduoto orkestratoriuje, agentai dabar gali ieškoti patvirtintame, versijuotame kataloge vykdymo metu ir sukurti klientą pagal grąžintą aprašą. Pavyzdinis sprendimas demonstruoja Discover → Instantiate → Execute ciklą naudojant Amazon Bedrock AgentCore Gateway bei AgentCore runtime, o pagrindinis modelis – Anthropic Claude Sonnet.
Eon, duomenų apsaugos ISV įmonė, veikianti AWS infrastruktūroje, pakeitė atskirus kredencialus ir lokalius MCP serverius vienu Amazon Bedrock AgentCore MCP Gateway. Gateway naudoja Cedar politikas, kad užtikrintų mažiausios privilegijos prieigą tiek inžinieriams, tiek autonominiam SRE agentui, veikiančiam su Claude per Amazon Bedrock, nukreipdamas užklausas į MCP serverius, talpinamus AgentCore Runtimes keliose AWS paskyrose. Po diegimo 100+ kūrėjų ir maždaug 10 000 sesijų, naujo darbuotojo prisijungimo prie visų įrankių laikas sumažėjo nuo ~2 dienų iki ~2 minučių.
AWS kartu su Keyfactor paskelbė referencinę architektūrą, sprendžiančią žinomą Model Context Protocol (MCP) spragą – MCP neturi įmontuoto būdo patvirtinti, kuris agentas iš tikrųjų siunčia užklausą. Architektūra prideda tris pasitikėjimo lygius – vartotojas-sistema, agentas-agentas ir agentas-įrankių serveris – pagrįstus pasirašytais užklausų vokais, vartotojo pasirašytais delegavimo patvirtinimais, RFC 8693 auditorija apribotais tokenais ir realaus laiko OCSP atšaukimo tikrinimu. Veikiantis pavyzdys naudoja Amazon Bedrock ir AWS Strands Agents SDK, o Keyfactor EJBCA išduoda ir tikrina X.509 sertifikatus; visas kodas paskelbtas GitHub.
AWS visiems „Anthropic Claude“ modeliams, veikiantiems „Amazon Bedrock“ platformoje, įdiegė struktūrizuotus atsakymus — tiek standartiniame runtime endpoint'e, tiek naujesniame agentinėms užduotims skirtame Mantle endpoint'e. Vietoj tikėjimosi, kad modelis grąžins teisingą JSON, kūrėjai dabar gali priversti atsakymus tiksliai atitikti schemą naudojant apribotą dekodavimą, kuris neleidžia modeliui generuoti formatą pažeidžiančių token'ų. Papildoma funkcija — griežtas įrankių naudojimas (strict tool use) — tą patį garantą taiko ir funkcijų iškvietimo parametrams, kad agentų darbo eigos nenutrūktų dėl netinkamo formato įvesties.
AWS ir Deepgram kartu perrašė Nova-3 kalbos atpažinimo modelį, kad jis veiktų tiesiogiai ant Trainium2 lustų vietoj įprastos GPU pagrįstos PyTorch infrastruktūros, orientuojantis į didelio masto nesinchroninius transkripcijos darbus. Darbo metu buvo perrašyti lėčiausi sluoksniai į individualius branduolius (kernels), o Python paslaugų sluoksnis pakeistas Rust laikomąja sistema, tiesiogiai kreipiantis į Trainium. Rezultatas: viena trn2.3xlarge instancija, vykdanti aštuonias lygiagrečias modelio kopijas, apdoroja 11-70% daugiau garso vienam doleriui nei ankstesnė Deepgram infrastruktūra, o panašus sutaupymas potencialiai pasiekiamas klientams, savarankiškai diegiantiems sprendimą per SageMaker.
AWS išleido „push“ tipo NIXL konektorių vLLM sistemai, keičiantį, kaip raktas-reikšmė (KV) talpyklos duomenys perduodami tarp prefill ir decode egzempliorių atskirtame LLM aptarnavime. Vietoj to, kad decode egzempliorius trauktų KV blokus po prefill pabaigos, decode egzempliorius iš anksto užregistruoja paskirties atmintį, o prefill egzempliorius tiesiogiai įrašo KV duomenis, kai tik jie parengti – taip koordinavimo darbas pašalinamas iš kritinio kelio. Testuojant su Qwen3-32B modeliu 1 prefill/1 decode konfigūracijoje EC2 P5en egzemplioriuose su EFA, push režimas pasiekė iki 3 kartų geresnį laiką iki pirmo tokeno (TTFT) ir iki 30% geresnį vieno tokeno generavimo laiką (TPOT) nei numatytasis pull režimas, ypač esant didelei užklausų apkrovai.
AWS paskelbė valdymo sistemą „Trust in Depth“, skirtą leisti AI agentams veikti su didesne autonomija, bet laikantis vykdomų apribojimų. Ji apjungia agento teisių apibrėžimą prieš diegimą, kiekvieno agento patikrinamą tapatybę, ribų vykdymą realiu laiku per politikos šliuzus ir agento elgsenos stebėjimą po veiksmų. Sistema remiasi automatizuotu samprotavimu (matematiniu įrodymu) tiksliai apibrėžiamoms taisyklėms ir žmogaus sprendimu neaiškiems atvejams, naudojant AWS įrankius: Bedrock AgentCore, Guardrails, Kiro, Strands, Agent Registry ir CloudWatch Omni.
Orca Security sukūrė Discovery AI — Amazon Bedrock agentą, verčiantį paprastus klausimus natūralia kalba į struktūrizuotas užklausas Sonar sistemai, kuri stebi daugiau nei 900 debesijos išteklių tipų. Vietoj vieno didelio modelio su visa schema kiekviename užklausime, gamybinė versija darbą paskirsto devynioms specializuotoms pakopoms ir keliems skirtingiems pagrindiniams modeliams. Rezultatas — gerokai mažesnės sąnaudos, greitesni atsakymai ir geresnis tikslumas sudėtingoms užklausoms; sistema veikia nuo 2026 m. kovo.
AWS pristatė tris branduolio (kernel) lygio optimizacijas Mixture-of-Experts (MoE) modelių aptarnavimui Hopper GPU, sukurtas bendradarbiaujant su vLLM bendruomene ir įdiegtas Amazon SageMaker AI LMI konteineryje. Pakeitimai sprendžia fused MoE skaičiavimų neefektyvumą dekodavimo fazėje su mažomis partijomis, kai anksčiau Tensor Core branduoliai būdavo nepilnai išnaudojami. Kartu optimizacijos suteikia iki 10% didesnį pralaidumą ir iki 9% greitesnį laiką iki pirmo tokeno (TTFT).
AWS kartu su Postman paskelbė techninę apžvalgą, kaip Postman sukūrė „Agent Mode“ – AI pagrįstą sąsają API testavimui ir dokumentacijai, veikiančią produkcinėje aplinkoje dideliu mastu. Komanda nustatė, kad didžiausia kliūtis buvo ne modelio kokybė, o įrankių gausa ir trūkstamas kontekstas. Įraše aprašomi architektūriniai sprendimai: dinaminis įrankių parinkimas, schema pagrįstos užklausos, specializuoti konteksto apdorojimo moduliai bei Amazon Bedrock teikiamos galimybės – modelio lankstumas, kelių regionų išvada, duomenų rezidavimo kontrolė ir prompt caching.
AWS pristato naują dviejų pakopų prieigos kontrolės architektūrą RAG (Retrieval Augmented Generation) sistemoms „Amazon Quick“ ir „Amazon Bedrock Knowledge Bases“. Vietoj to, kad pasikliautų tik periodiškai sinchronizuojamais prieigos sąrašais (ACL), sistema dabar realiu laiku tikrina teises tiesiogiai šaltinio sistemoje (pvz., Google Drive, SharePoint, Confluence) užklausos metu, prieš perduodama turinį LLM. AWS teigia, kad tai panaikina saugumo spragas, atsirandančias dėl pasenusių ar netiksliai susietų teisių tarp sinchronizavimų. Kaip pavyzdys minima „Mondelēz International“, turinti daugiau nei 35 000 darbuotojų.
Anthropic išleido „Claude Haiku 5.5“ (claude-haiku-5-5) — pajėgiausią Haiku modelį, skirtą dideliam apkrovimui ir delsai jautrioms užduotims. Jis palaiko 1 milijono token kontekstą, iki 128k išvesties token ir adaptyvų mąstymą, valdomą nauju effort parametru. Modelis pasiekiamas per Claude API, Amazon Bedrock, Claude Platform on AWS, Google Cloud ir Microsoft Foundry. Anthropic įspėja, kad kodas, parašytas ankstesniam Haiku 4.5 modeliui, gali neveikti naujoje versijoje.
Z.ai sukurtas GLM 5.3 — 753 milijardų parametrų MoE modelis, optimizuotas kodavimui ir ilgalaikėms agentinėms užduotims — dabar prieinamas kaip pilnai valdomas modelis „Amazon Bedrock“ platformoje. Jis tobulina GLM 5 liniją geresniais kodavimo benchmarkų rezultatais, išskirtinėmis kibernetinio saugumo galimybėmis (CyberGym rezultatas 84,5) ir gilesne integracija su Bedrock, įskaitant OpenAI suderinamas API, prompt talpinimą, tarpregioninį interferavimą ir aptarnavimo lygius. AWS taip pat parodo, kaip GLM 5.3 naudoti su atviro kodo agentu Strix autorizuotam savo programų penetraciniam testavimui.
GitHub paskelbė ReviewBench — tyrimų peržiūros stadijos (research preview) etaloną, skirtą palyginti AI kodo peržiūros agentus pagal bendrą, patikrinamą standartą. Duomenų rinkinį sudaro 219 realių viešų pull request'ų iš 19 kalbų ir 187 saugyklų, parinktų taip, kad atspindėtų kalbų ir dydžio pasiskirstymą tarp 103,9 mln. realių GitHub PR. Pagrindinė tiesa (ground truth) sudaryta iš žmonių recenzentų, statinės analizės įrankių ir kelių pažangiausių (frontier) LLM, o jų vertinimus patikrino vyresnieji inžinieriai, kurių sprendimai sutapo su etalono žymėjimais 96,6% atvejų. GitHub teigia jau naudojęs ReviewBench vidiniam Copilot code review (CCR) produkto sekimui, ir kad offline etalono pokyčiai patikimai prognozavo vėlesnių gamybinių A/B testų kryptį.
„GitHub Security Lab“ sukūrė atviro kodo „Taskflow Agent“, kuris naudoja pritaikomus AI darbo eigos šablonus kodo saugumo auditui, ir juo rado bei pranešė apie daugiau nei 24 pažeidžiamumus „Android“ programose. Du detalūs pavyzdžiai rodo, kaip agentas atrado vartotojo vietos sekimo spragą „OsmAnd“ navigacijos programoje ir paskyros perėmimo grandinę „Wikipedia“ „Android“ programoje per deeplink nuorodų apdorojimo klaidą. Komanda pastebi, kad LLM gerai randa sudėtingas logines pažeidžiamumų klases ir gerai supranta API elgseną, tačiau sunkiai įvertina tikrą rimtumą ir dažnai generuoja klaidingus teigiamus rezultatus, todėl radiniai vis dar turi būti peržiūrimi žmogaus. Darbo eigos šablonai yra atviro kodo ir gali būti paleisti bet kuriame „GitHub“ saugykloje per „Copilot“ varomą codespace skriptą, tačiau tam reikia premium modelio užklausų ir gali užtrukti kelias valandas.
AWS paskelbė žingsnis po žingsnio instrukciją, kaip suteikti Claude Desktop (veikiančiam per Amazon Bedrock) gyvą interneto prieigą per Amazon Bedrock AgentCore Gateway, taip užpildant spragą, kurią sukuria modelio mokymo duomenų atnaujinimo riba. Sąranka sujungia AWS IAM Identity Center SSO su Amazon Cognito kaip SAML-į-OAuth federacijos sluoksniu, kuris išduoda JWT žetonus, tikrinamus AgentCore Gateway kiekvienos užklausos metu. Pati Web Search funkcija yra suderinama su MCP ir veikia naudodama vidinį Amazon žiniatinklio indeksą, apimantį dešimtis milijardų dokumentų, todėl užklausos nepalieka AWS infrastruktūros ir nereikia trečiosios šalies API raktų. Šiuo metu funkcija pasiekiama tik trijuose AWS regionuose: us-east-1 (N. Virginia), eu-west-1 (Airija) ir ap-northeast-1 (Tokijas).