Amazon Bedrock AgentCore Identity dabar leidžia agentams atlikti tapatybės patvirtinimą naudojant privačias sertifikatų įstaigas (CA). Tai leidžia saugiai jungtis prie organizacijos viduje talpinamų tapatybės teikėjų, pavyzdžiui, Keycloak ar PingFederate, nenaudojant viešųjų prieigos taškų.
„Moonshot AI“ atnaujino „Kimi Code CLI“ į v2.7.0 versiją, pridėdama integruotą „Amazon Bedrock“ paslaugų teikėją. Dabar kūrėjai gali naudoti standartines AWS autentifikavimo grandines ir SSO, užuot valdę atskirus ilgalaikius API raktus.
„Amazon SageMaker AI“ dabar palaiko integruotą tarpregioninį duomenų apdorojimo maršrutizavimą (inference routing), leidžiantį automatiškai nukreipti užklausas į veikiančius galinius punktus kituose regionuose, kai trūksta vietinių resursų. Šis funkcionalumas valdo atkrytį, stebi būklę ir atkuria srautą be būtinybės rašyti papildomą kodą.
„Amazon Polly“ įdiegė balso klonavimo funkciją, leidžiančią sugeneruoti sintetinį balsą iš 2–10 minučių įrašo. Šis įrankis dabar pasiekiamas per ribotą išleidimą septyniomis kalbomis ir yra tiesiogiai integruotas į AWS infrastruktūrą, užtikrinant aukštą saugumo bei prekės ženklo vientisumo lygį.
„Amazon Bedrock AgentCore“ atnaujino savo pagrindinį karkasą į „Strands“. Šis atnaujinimas prideda tokias galimybes kaip paieška internete, užduočių planavimas ir automatinis konteksto valdymas, bei pristato gyvavimo ciklo kabliukus (lifecycle hooks) deterministinei agentų kontrolei.
„Amazon“ paskelbė etaloninę architektūrą, skirtą „Bedrock AgentCore“ prijungti prie privačių REST API ir MCP serverių ribojamoje tinklo aplinkoje. Naudojant VPC „Lattice“ išteklių šliuzą (resource gateway), esantį atskirame tinklo paskyros VPC, srautas tarp agentų ir vidinių įrankių yra nukreipiamas per centrinę ugniasienę.
AWS pateikia tris strategijas, kaip valdyti masyvius JSON duomenų paketus (virš 20 MB) AI agentuose, pasiekiant iki 71 % mažesnį tokenų sunaudojimą ir 80 % mažesnį delsos laiką. Metodas apima duomenų perkėlimą į Amazon S3, rezultatų fragmentavimą ir žodynų glaudinimą.
„Amazon“ paskelbė saugumo vadovą, skirtą AI agentams, naudojantiems „Bedrock AgentCore Runtime“, diegti, pabrėžiant tvirtos įsilaužimo kontrolės svarbą. Vadove išsamiai aprašoma, kaip naudojant tapatybės propagavimą ir sluoksniuotą autorizaciją išvengti duomenų nutekėjimo tarp nuomininkų ir privilegijų eskalavimo.
„Amazon“ „SageMaker“ platformoje įdiegė naujas dirbtinio intelekto pagrindu veikiančias duomenų paruošimo galimybes, palengvinančias aukštos kokybės duomenų rinkinių kūrimą ir priežiūrą. Funkcionalumas apima automatinį žymėjimą, sintetinių duomenų generavimą ir kokybės patikras, valdomas per „Python SDK“ arba AI agentus.
AWS pristatė valdomą NVIDIA Dynamo palaikymą SageMaker HyperPod aplinkoje, supaprastindama didelių kalbos modelių diegimą. Atnaujinimas suteikia galimybę naudoti kelių mazgų (multi-node) išvestį, leidžiančią vykdyti modelius, kurie viršija vieno GPU atminties ribas per atskirtus prefill ir decode procesus.
Amazon SageMaker AI pristatė naują 'KV_AWARE' nukreipimo strategiją, kuri nukreipia LLM užklausas į egzempliorius pagal faktinę KV podėlio būseną, o ne tik pagal užklausos pradžią. Tai optimizuoja daugiasluoksnius pokalbius ir ilgo konteksto užduotis, užtikrinant, kad užklausos patektų ten, kur jau saugomi reikiami duomenys.
„Amazon Bedrock“ pristatė naują atmintį palaikančią funkciją „AgenticRetrieveStream“. Ji automatizuoja su naudotoju susijusių faktų bei pokalbių istorijos saugojimą ir paiešką, leisdama agentams pateikti kontekstu pagrįstus atsakymus, kartu išlaikant griežtą dokumentų prieigos kontrolę.
„Amazon“ pristatė architektūrinį sprendimą, integruojantį „NVIDIA NeMo Switchyard“ biblioteką su „LiteLLM“, skirtą dinamiškai nukreipti kodo agentų užklausas tarp skirtingų „Bedrock“ modelių. Naudojant „stage“ arba „random“ maršrutizavimą, galima efektyviai paskirstyti srautą tarp galingų ir ekonomiškų modelių, optimizuojant našumą bei kaštus.
Amazon išleido SGLang-Neuron – įskiepį, leidžiantį kūrėjams vykdyti didelio masto DI modelius naudojant AWS Trainium aparatinę įrangą per standartinę SGLang sąsają. Ši integracija palaiko natūralų PyTorch vykdymą ir pažangias funkcijas, tokias kaip PD disaggregation naudojant EFA, siekiant optimizuoti modelių aptarnavimą.
„Amazon“ pristatė naujos kartos „Bedrock AgentCore“ vykdymo aplinką, skirtą sudėtingiems ir ilgai veikiantiems DI agentams. Atnaujinimas suteikia aparatine įranga izoliuotas aplinkas, greitesnį startą, didesnius skaičiavimo pajėgumus ir optimizuotą kainodarą pagal naudojimą.
„Amazon“ pristatė būdą, kaip apsaugoti daugelio nuomotojų (multi-tenant) AI agentus užtikrinant, kad RAG užklausos būtų apribotos konkretaus vartotojo teisėmis. Sprendimas naudoja ACL palaikančias žinių bazes ir „AgentCore Gateway“ užklausų perėmiklį, kuris įrankių iškvietimuose patikimai įterpia patikrintas vartotojo tapatybes, neleidžiant LLM ar „prompt injection“ atakoms pasiekti neautorizuotų duomenų.
Amazon pristatė tiesioginį Web Search API, skirtą Bedrock AgentCore, leidžiantį vykdyti paieškas tiesiogiai per standartinius AWS SDK ir CLI. Šis atnaujinimas supaprastina realaus laiko duomenų integravimą į dirbtinio intelekto agentus, pašalinant būtinybę konfigūruoti pilną AgentCore Gateway.
„Amazon“ įgalino programinės įrangos apskaitą pagal suvartojimą dvikrypčio srautinio perdavimo modeliams „SageMaker AI“ platformoje. Anksčiau ilgos trukmės sesijoms buvo sunku taikyti programinės įrangos mokesčius, nes jų nebuvo galima suderinti su paprastomis HTTP atsakymų antraštėmis. Dabar modelių teikėjai gali pranešti apie faktinį suvartojimą realiuoju laiku naudodami specialų metaduomenų „WebSocket“ ryšį.
„Amazon“ išplėtė „AgenticRetrieveStream“ API funkcionalumą, leisdama kūrėjams nurodyti iteracijų skaičių žinių bazės užklausoms. Dabar galite rinktis tarp nulio, vieno ar kelių paieškos žingsnių, kad subalansuotumėte greitį, kainą ir sudėtingumą.
„Amazon“ pristatė daugiapakopę gynybos architektūrą, skirtą apsaugoti DI agentus, naudojančius ilgalaikę atmintį, nuo „atminties užnuodijimo“ (netiesioginio užklausų įterpimo). Sprendimas naudoja „Lambda“ pagrindu veikiantį „AgentCore Gateway“ pertvėrimą, kuris tikrina įrašus pagal semantinį nuokrypį, „regex“ šablonus, vardų sričių ribas ir dažnio apribojimus.
Taxbit įdiegė saugų, vaidmenis atpažįstantį AI asistentą su Amazon Bedrock AgentCore, skirtą automatizuoti pagalbą naudojant produkto dokumentaciją. Agentas naudoja RAG metodą, kad pagrįstų atsakymus patvirtintu turiniu, tuo pačiu griežtai užtikrinant PII maskavimą, duomenų vietos rezidavimą ir vartotojų vaidmenų leidimus.
„Amazon“ pristatė „Web Answer“ platformoje „Bedrock AgentCore“ – valdomą įrankį, supaprastinantį agentų vykdomus interneto tyrimus. Jis automatizuoja visą procesą nuo paieškos ir faktų tikrinimo iki cituojamų atsakymų sugeneravimo per MCP.
„Cartesia“ pristatė du balso modelius: „Sonic“ (teksto pavertimas balsu) ir „Ink“ (balsas į tekstą). Sukurti naudojant būsenos erdvės modelio (SSM) architektūrą, šie modeliai yra skirti itin mažo vėlinimo, realaus laiko veikimui, tinkamam profesionaliems balso agentams.
„Amazon Bedrock AgentCore“ dabar palaiko „Session endpoints“, leidžiančius kūrėjams stebėti ir sąveikauti su internetinėmis programomis tiesiogiai, kol jas kuria dirbtinio intelekto programavimo agentas. Nukreipiant srautą per autentifikuotą, izoliuotą „microVM“ sesiją, pakeitimai naršyklėje atsiranda akimirksniu be atskirų diegimo procesų.