Firma Amazon opublikowała wzorcową architekturę łączenia Bedrock AgentCore z prywatnymi interfejsami REST API oraz serwerami MCP w restrykcyjnych środowiskach sieciowych. Dzięki zastosowaniu bramy zasobów (resource gateway) VPC Lattice umieszczonej w dedykowanym VPC konta sieciowego, ruch między agentami a narzędziami wewnętrznymi jest wymuszany przez centralną zaporę sieciową.
Firma Amazon opublikowała przewodnik bezpieczeństwa dla wdrażania agentów AI w środowisku Bedrock AgentCore Runtime, kładąc nacisk na rygorystyczną kontrolę wejściową. Przewodnik szczegółowo omawia zapobieganie wyciekom danych między najemcami oraz eskalacji uprawnień poprzez propagację tożsamości i autoryzację warstwową.
Amazon wprowadził nowe możliwości przygotowywania danych oparte na AI w platformie SageMaker, usprawniając tworzenie i utrzymywanie wysokiej jakości zbiorów danych treningowych i ewaluacyjnych. Funkcje obejmują automatyczne etykietowanie, generowanie danych syntetycznych i zautomatyzowane kontrole jakości, sterowane przez Python SDK lub agentów AI.
AWS wprowadziło zarządzane wsparcie dla NVIDIA Dynamo w SageMaker HyperPod, co upraszcza wdrożenia wielkoskalowych modeli językowych. Aktualizacja wprowadza inferencję wielowęzłową, umożliwiając obsługę modeli przekraczających pamięć pojedynczego GPU dzięki rozdzieleniu faz prefill i decode.
Amazon SageMaker AI wprowadziło strategię routingu 'KV_AWARE', która kieruje zapytania LLM do instancji na podstawie stanu ich pamięci podręcznej KV, a nie tylko nagłówków promptów. Optymalizuje to wieloetapowe konwersacje i długie konteksty, zapewniając obsługę zapytań tam, gdzie dane są już dostępne w pamięci GPU.
Firma Amazon opublikowała trzystopniowy plan mający pomóc zespołom platformowym i aplikacyjnym we wdrożeniu odpowiedzialnego podejścia do systemów agentowych AI. Plan pomaga zarządzać wyzwaniami takimi jak niedeterministyczne zachowania, izolacja granic danych oraz zgodność z przepisami podczas przechodzenia od fazy pilotażowej do produkcji.
Amazon Bedrock uruchomił nową funkcję obsługi pamięci dla AgenticRetrieveStream. Automatyzuje ona przechowywanie, ekstrakcję i przywoływanie faktów oraz historii rozmów użytkownika, co pozwala agentom udzielać odpowiedzi świadomych kontekstu przy zachowaniu rygorystycznej kontroli dostępu do dokumentów.
Amazon Bedrock Managed Knowledge Base wspiera teraz wyszukiwanie tabelaryczne, umożliwiając agentom przetwarzanie danych bezpośrednio z plików CSV, XLSX i XLS. System wykorzystuje kod wygenerowany przez model w bezpiecznym, izolowanym środowisku typu sandbox do wykonywania obliczeń na całych plikach, łącząc wyniki z danymi z nieustrukturyzowanych dokumentów.
Amazon opublikował architekturę referencyjną integrującą bibliotekę NVIDIA NeMo Switchyard z LiteLLM w celu dynamicznego kierowania zapytań agentów programistycznych między różnymi modelami w Bedrock. Stosując routing warstwowy (stage) lub losowy (random), możesz przekierowywać ruch między modelami o wysokiej wydajności a modelami ekonomicznymi, balansując koszty i skuteczność.
Amazon Threat Intelligence zaobserwował autonomiczne agenty korzystające z frameworka open-source ARTEX do prowadzenia zakrojonych na szeroką skalę kradzieży danych uwierzytelniających i oszustw tożsamości z wykorzystaniem deepfake. Kampanie te wykorzystywały niezałatane luki w infrastrukturze AI i błędy konfiguracyjne do automatyzacji wieloetapowych operacji ofensywnych.
Firma Amazon udostępniła SGLang-Neuron – wtyczkę, która pozwala programistom uruchamiać wielkoskalowe modele AI na sprzęcie AWS Trainium przy użyciu standardowego interfejsu SGLang. Integracja ta umożliwia natywne wykonywanie kodu PyTorch i wspiera zaawansowane funkcje, takie jak PD disaggregation za pośrednictwem EFA, w celu optymalizacji serwowania modeli.
Amazon wprowadził nową generację środowiska wykonawczego dla Bedrock AgentCore, przeznaczoną do obsługi złożonych i długotrwałych zadań AI. Aktualizacja wprowadza izolowane sprzętowo środowiska z szybszym uruchamianiem, większymi zasobami obliczeniowymi oraz lepszą efektywnością kosztową dzięki rozliczaniu opartemu na rzeczywistym zużyciu.
Amazon wprowadził wzorzec zabezpieczania agentów AI obsługujących wielu użytkowników poprzez ograniczenie zasięgu zapytań RAG do konkretnych osób. Rozwiązanie wykorzystuje bazy wiedzy z obsługą list kontroli dostępu (ACL) oraz przechwytywacz zapytań w bramie AgentCore Gateway, który deterministycznie wstrzykuje zweryfikowane tożsamości użytkowników do wywołań narzędzi, zapobiegając dostępowi do nieautoryzowanych danych przez LLM.
Amazon wprowadził framework do identyfikacji cichych uszkodzeń danych (SDC) w treningu rozproszonym, gdzie uszkodzony sprzęt zwraca błędne wyniki matematyczne bez generowania logów błędów. Poprzez integrację trzech własnych testów – weryfikacji gradientów, audytów powtarzania pętli i odcisków palców wag – z pętlami treningowymi PyTorch DDP, możesz wykrywać, izolować i wymieniać uszkodzone węzły.
Amazon udostępnił interfejs API do wyszukiwania w sieci w ramach Bedrock AgentCore, co pozwala deweloperom na wykonywanie zapytań przez standardowe AWS SDK i CLI. To rozwiązanie eliminuje konieczność konfiguracji bramy AgentCore Gateway, ułatwiając implementację funkcji wyszukiwania w niestandardowych agentach AI.
Amazon udostępnił Universal Agent Evaluation Framework (UAEF) – otwartoźródłowe narzędzie standaryzujące ocenę agentów AI. Dzięki adapterom, ślady wykonania z różnych frameworków, takich jak LangChain czy LangGraph, są normalizowane do jednego formatu, co pozwala na spójne testowanie w oparciu o 36 metryk w 7 wymiarach.
Amazon umożliwił rozliczanie oprogramowania w modelu usage-based dla modeli działających w ramach dwukierunkowego streamingu w SageMaker AI. Wcześniej naliczanie opłat za długotrwałe sesje streamingowe było utrudnione, ponieważ nie można było ich powiązać z prostymi nagłówkami odpowiedzi HTTP. Teraz dostawcy modeli mogą raportować wykorzystanie w czasie rzeczywistym za pomocą dedykowanego połączenia WebSocket z metadanymi.
Amazon Bedrock AgentCore oferuje teraz szeroki katalog wbudowanych, zewnętrznych i własnych ewaluatorów do monitorowania zachowania agentów w środowisku produkcyjnym. Platforma umożliwia uruchamianie metryk z bibliotek DeepEval i AutoEval w środowisku zarządzanym, wspierając testy na żądanie, w czasie rzeczywistym oraz wsadowe.
Amazon wprowadził Mitra-v2, podstawowy model dla danych tabelarycznych trenowany w całości na danych syntetycznych. Ta wersja przewyższa poprzednika dzięki przeskalowaniu danych treningowych oraz wprowadzeniu hybrydowego modelu przyczynowego (SCM), który lepiej odwzorowuje rzeczywiste relacje w danych.
Amazon rozszerzył możliwości API AgenticRetrieveStream, pozwalając programistom określić poziom iteracji dla zapytań do bazy wiedzy. Teraz możesz wybierać między zerem, jednym lub wieloma krokami wyszukiwania, aby zrównoważyć szybkość, koszt i złożoność każdego zapytania.
Amazon wprowadził siedmiowarstwową architekturę referencyjną, mającą na celu przeniesienie aplikacji opartych na agentach AI z fazy prototypów do systemów gotowych do wdrożenia produkcyjnego. Framework promuje modularną i wymienną strukturę, wykorzystującą stabilne kontrakty między warstwami, takimi jak dane, wnioskowanie, orkiestracja i bezpieczeństwo.
Firma Amazon udostępniła wielowarstwową architekturę obronną, zapobiegającą zatruwaniu pamięci (rodzaj pośredniego wstrzykiwania promptów) w agentach AI wykorzystujących pamięć trwałą. Rozwiązanie wykorzystuje interceptor Lambda w bramie AgentCore Gateway do walidacji zapisów w oparciu o dryf semantyczny, wzorce regex, granice przestrzeni nazw i limity częstotliwości.
Usługa Amazon SageMaker Inference wprowadziła obsługę NVIDIA Multi-Instance GPU (MIG), co pozwala na dzielenie pojedynczego fizycznego procesora graficznego na wiele niezależnych jednostek. Ten podział sprzętowy zapewnia każdej partycji dedykowane zasoby obliczeniowe i pamięć, gwarantując przewidywalne opóźnienia oraz silną izolację pomiędzy modelami hostowanymi na tym samym akceleratorze.
Firma Taxbit wdrożyła bezpiecznego, świadomego ról asystenta AI przy użyciu Amazon Bedrock AgentCore, aby zautomatyzować wsparcie w oparciu o dokumentację produktu. Agent wykorzystuje RAG do opierania odpowiedzi na zweryfikowanych treściach, jednocześnie rygorystycznie egzekwując maskowanie PII, regionalną rezydencję danych oraz uprawnienia oparte na rolach użytkowników.
Firma Amazon wprowadziła bezserwerową bramkę Model Context Protocol (MCP) opartą na Amazon ECS Fargate, która umożliwia agentom AI odpytywanie korporacyjnych jezior danych przy użyciu podejścia sterowanego metadanymi. Zamiast pisać własny kod integracyjny dla każdego nowego zestawu danych, definiujesz schematy tabel i logikę biznesową w plikach JSON, które system automatycznie indeksuje.
Firma Amazon udostępniła Web Answer w ramach Bedrock AgentCore – zarządzane narzędzie, które upraszcza badania internetowe prowadzone przez agentów. Automatyzuje ono cały potok, od wyszukiwania i weryfikacji faktów po syntezę odpowiedzi z cytatami, dostarczając wyniki przez MCP.
Amazon Quick uruchomił funkcję Smart Approvals, aby zautomatyzować rutynowe zadania agentów przy jednoczesnym zachowaniu nadzoru ludzkiego nad krytycznymi decyzjami. System wykorzystuje klasyfikator do oceny żądanych działań w oparciu o kontekst konwersacji i polityki użytkownika, eliminując niepotrzebne przerywanie pracy bez pomijania ustalonych kontroli bezpieczeństwa.
Amazon wprowadził system wielu agentów zbudowany na bazie Bedrock AgentCore, który automatyzuje ocenę i wymianę dokumentacji technicznej. Architektura łączy multimodalne wyszukiwanie informacji, deterministyczne sprawdzanie reguł w Pythonie oraz hierarchiczną orkiestrację modeli LLM.
Amazon opublikował metodologię wykorzystania destylacji wiedzy na poziomie sekwencji (SeqKD) do dostrajania mniejszych modeli na trajektoriach wygenerowanych przez modele typu frontier. Dzięki wykorzystaniu modelu „nauczyciela” do generowania udanych trajektorii użycia narzędzi oraz filtrowaniu ich za pomocą programowego skorelowania, zespoły mogą trenować kompaktowe modele „uczniów”, które realizują złożone rozumowanie przy ułamku kosztów.
Amazon Bedrock AgentCore wspiera teraz „Session endpoints”, umożliwiając programistom podgląd i interakcję z aplikacjami internetowymi w trakcie ich tworzenia przez agenta AI. Dzięki kierowaniu ruchu przez uwierzytelnioną, izolowaną sesję microVM, zmiany w przeglądarce pojawiają się natychmiast, bez konieczności przeprowadzania osobnych wdrożeń.
Amazon umożliwił automatyzację UI opartą na intencjach, łącząc Nova Act z narzędziem Bedrock AgentCore Browser Tool. Pozwala to zespołom definiować przepływy testowe za pomocą instrukcji w języku naturalnym, zamiast utrzymywać sztywne bazy kodu oparte na selektorach.
AWS zaktualizowało swoje rozwiązanie referencyjne QA Studio, dodając obsługę struktur wielozespołowych. Nowe funkcje obejmują zarządzanie własnością na poziomie aplikacji, automatyczną ocenę stanu testów na podstawie metryk CloudWatch oraz szczegółową kontrolę dostępu opartą na rolach.
Amazon Bedrock obsługuje teraz jawne i niejawne buforowanie promptów dla modeli OpenAI, umożliwiając przechowywanie i ponowne wykorzystywanie statycznych prefiksów, takich jak narzędzia, instrukcje i historia konwersacji. Unikając ponownego przetwarzania identycznych tokenów w każdej turze, można znacząco obniżyć koszty wejściowe i zwiększyć responsywność złożonych procesów agentowych.
Amazon Bedrock AgentCore to nowa usługa usprawniająca wdrażanie i zarządzanie architekturami wieloagentowymi. Obsługuje ona hosting agentów, bezpieczny dostęp do narzędzi przez MCP oraz izolację sesji, co pozwala zespołom skupić się na logice agentów zamiast na utrzymaniu infrastruktury.
Audible opracowało potok syntezy mowy (TTS), który wykorzystuje duże modele językowe (LLM) do profilowania postaci i przypisywania dialogów z dokładnością do 97%. Dzięki stosowaniu „wskazówek scenicznych” w formie opisów tekstowych, system zapewnia wyraźne i spójne głosy postaci w długich treściach audio.
Amazon wydał TorchNeuron – otwarty backend umożliwiający uruchamianie istniejącego kodu PyTorch na akceleratorach AWS Trainium bez większych zmian. Nowość wprowadza dodatkowy tryb wykonania oraz wielopoziomowe buforowanie ograniczające ponowną kompilację, a jej niezawodność zweryfikowano za pomocą agentów AI, które z setek tysięcy modeli Hugging Face wyodrębniły reprezentatywny zestaw testowy. Wewnętrzne testy na dużym modelu wykazały skrócenie czasu do pierwszego kroku treningowego o około jedną trzecią.
AWS zaktualizował silnik generatywny Amazon Polly, zapewniając bardziej naturalną, ekspresyjną mowę oraz lepszą dokładność odczytu liczb, adresów i kodów potwierdzeń. Aktualizacja dodaje 14 nowych głosów w 9 lokalizacjach, zwiększając łączną liczbę do 57 głosów generatywnych w 11 językach i 25 lokalizacjach, w tym po raz pierwszy ogólnie dostępne głosy w języku hindi i fińskim. To aktualizacja typu drop-in: nazwy głosów, API i ceny pozostają bez zmian, więc istniejące aplikacje działają bez modyfikacji.
Amazon nawiązał współpracę z niezależną organizacją non-profit AVERI, która zbadała jakość wewnętrznych zestawów danych do oceny bezpieczeństwa modeli AI, a nie same odpowiedzi modeli. AVERI przeanalizowało losową, zanonimizowaną próbkę promptów testowych obejmujących szkodliwe treści, cyberbezpieczeństwo, prywatność i prawa autorskie. Przegląd potwierdził dobre pokrycie tematyczne, różnorodność metod testowania i niskie ryzyko zanieczyszczenia danych, ale wskazał braki w pokryciu wielojęzycznym i testach wieloetapowych ataków adwersarialnych. W odpowiedzi Amazon wprowadził cztery konkretne zmiany.
Badacze z Amazon Web Services opublikowali metodę „priming”, która przekształca wstępnie wytrenowane modele Transformer w architektury hybrydowe łączące warstwy uwagi (attention) i modeli przestrzeni stanów (SSM), wykorzystując istniejące wagi zamiast treningu od zera. Podejście obniża koszty wstępnego treningu o ponad 99% i pozwala 32-miliardowemu modelowi hybrydowemu dorównać jakością źródłowemu modelowi Transformer, dekodując nawet dwukrotnie szybciej. Amazon przetestował trzy typy SSM i udostępnił otwartoźródłowy zestaw modeli, kod treningowy oraz narzędzia na licencji Apache 2.0.
Naukowcy z AWS opisują system, który modeluje sieć telekomunikacyjną jako stale aktualizowany graf ('cyfrowego bliźniaka') i wykorzystuje agentów AI do uruchamiania kaskady algorytmów grafowych (dekompozycja, klasteryzacja, rankingowanie centralności), aby zlokalizować źródłowe przyczyny awarii. Metodę zademonstrowano wspólnie z NTT DOCOMO na konferencji Mobile World Conference, podobno skracając czas analizy przyczyn źródłowych z godzin do minut w sieciach komercyjnych. Agenci konsultują też bazę wiedzy o incydentach oraz runbooki, a z czasem mogą przechodzić od roli doradczej do pełnej, samodzielnej naprawy.