Microsoft Research odkrył, że modele AI mogą zostać skompromitowane poprzez modyfikację mniej niż 10 konkretnych neuronów. Te „uśpione” furtki (backdoors) pozwalają atakującemu wywołać złośliwe polecenia, gdy w kontekście pojawią się określone ciągi znaków, nawet jeśli model przechodzi wszystkie standardowe testy bezpieczeństwa.
Badacze Microsoft odkryli 'Lazarus', technikę umożliwiającą przeprogramowanie uśpionych neuronów w modelach LLM w celu wstrzyknięcia złośliwych zachowań. Modyfikując mniej niż 10 neuronów, atakujący może wywołać wykonanie nieautoryzowanych poleceń bez wpływu na standardowe działanie modelu lub wyniki ewaluacji.
Firma AssemblyAI udostępniła aktualizację funkcji Medical Mode, zaprojektowaną w celu poprawy transkrypcji kluczowych terminów klinicznych, takich jak leki czy diagnozy. Aktualizacja ta redukuje liczbę błędów w nazwach leków o 30% w języku angielskim i do 62% w języku hiszpańskim, przy zachowaniu dotychczasowego poziomu wskaźnika błędów słownych (WER).
Anthropic zaktualizowało swoje specjalistyczne modele LLM do wersji 5.2. Claude Fable 5.2 to model o wysokiej wydajności do kodowania i wnioskowania, dostępny dla użytkowników ogólnych, podczas gdy Claude Mythos 5.2 pozostaje ograniczony do zweryfikowanych partnerów ze względu na zaawansowane możliwości w zakresie cyberbezpieczeństwa i eksploatacji luk.
Google rozszerzyło swoją bibliotekę AI Edge o nowe możliwości rozpoznawania (ASR) i syntezy mowy (TTS) działające bezpośrednio na urządzeniu, bez konieczności połączenia z internetem. Deweloperzy mogą teraz integrować te wydajne modele za pomocą ML Kit dla Androida lub wieloplatformowego MediaPipe, wspierając ponad 100 języków przy wysokiej efektywności energetycznej.
NVIDIA udostępniła NVIDIA Kubernetes Engine (NVKE) oraz NVIDIA Kubernetes Recipes (NVKR) jako projekty open source w ramach publicznej wersji zapoznawczej. Narzędzia te mają na celu wsparcie w budowaniu, wdrażaniu i zarządzaniu klastrami Kubernetes zoptymalizowanymi pod kątem zadań akcelerowanych przez GPU.
Narzędzie n8n zintegrowało najnowszy model Google, Gemini 4 Carbon, zaprojektowany z myślą o złożonej automatyzacji, zadaniach z zakresu cyberbezpieczeństwa i zwiększonej niezawodności agentów. Model wprowadza znaczące usprawnienia w obsłudze długotrwałych, wieloetapowych przepływów pracy oraz wykazuje dużą odporność na ataki typu prompt injection.
NVIDIA przekazała projekt Agent Substrate do CNCF Sandbox, aby rozwiązać problem nieefektywnego uruchamiania agentów AI w środowisku Kubernetes. Platforma pozwala na multipleksowanie wielu sesji agentów w małej puli aktywnych podów typu worker poprzez zapisywanie stanu pamięci i systemu plików w okresach bezczynności.
Google DeepMind wprowadziło Gemini Robotics 2.5, nowy model typu vision-language-action, zaprojektowany w celu poprawy zręczności i niezawodności robotów w nieustrukturyzowanych środowiskach. Model został przetestowany w ponad 200 zadaniach, wykazując znaczący wzrost szybkości i precyzji wykonania, osiągając 96% skuteczności w kompletowaniu części samochodowych w zakładach Mercedes-Benz.
Google Cloud udostępniło Gemini for healthcare, platformę stworzoną w celu integracji rozproszonych danych klinicznych i administracyjnych w ujednolicone procesy robocze. Rozwiązanie koncentruje się na zmniejszeniu obciążenia administracyjnego lekarzy poprzez automatyzację zadań, takich jak synteza dokumentacji medycznej i weryfikacja uprawnień.
Nod to nowa aplikacja typu agent, działająca lokalnie i udostępniona jako open source, która wykonuje zadania w odizolowanym środowisku wirtualnym (sandbox) na Twoim komputerze. W przeciwieństwie do AI opartego na czacie, Nod wchodzi w bezpośrednią interakcję z interfejsami webowymi i aplikacjami, aby samodzielnie realizować wieloetapowe zadania.
Nowe badania wskazują, że autonomiczni agenci zawodzą w 32,2-67,8% scenariuszy w przypadku awarii narzędzi. Wprowadzono MedToolFault, benchmark do symulacji klas błędów, oraz MedGuard, warstwę weryfikacyjną, która poprawia wskaźnik sukcesu zadań o nawet 46,6 punktu procentowego.
Amazon rozszerzył możliwości API AgenticRetrieveStream, pozwalając programistom określić poziom iteracji dla zapytań do bazy wiedzy. Teraz możesz wybierać między zerem, jednym lub wieloma krokami wyszukiwania, aby zrównoważyć szybkość, koszt i złożoność każdego zapytania.
Amazon wprowadził siedmiowarstwową architekturę referencyjną, mającą na celu przeniesienie aplikacji opartych na agentach AI z fazy prototypów do systemów gotowych do wdrożenia produkcyjnego. Framework promuje modularną i wymienną strukturę, wykorzystującą stabilne kontrakty między warstwami, takimi jak dane, wnioskowanie, orkiestracja i bezpieczeństwo.
Firma Amazon udostępniła wielowarstwową architekturę obronną, zapobiegającą zatruwaniu pamięci (rodzaj pośredniego wstrzykiwania promptów) w agentach AI wykorzystujących pamięć trwałą. Rozwiązanie wykorzystuje interceptor Lambda w bramie AgentCore Gateway do walidacji zapisów w oparciu o dryf semantyczny, wzorce regex, granice przestrzeni nazw i limity częstotliwości.
Nowy raport Linux Foundation ujawnia, że wykorzystanie AI do kodowania powoduje gwałtowny wzrost liczby zależności zewnętrznych, co potwierdza 60% organizacji. Zespoły nie nadążają z ich obsługą, gdyż 58% organizacji wdraża kod szybciej, niż pozwalają na to procesy weryfikacji bezpieczeństwa, co prowadzi do narastania długu w zakresie bezpieczeństwa.
Możesz teraz tworzyć i wizualizować aplikacje wykorzystujące dane Google Maps, Places oraz Routes bezpośrednio w środowisku Google AI Studio. Dzięki wykorzystaniu zapytań w języku naturalnym, platforma automatycznie zarządza konfiguracją API i kluczami, oferując darmową piaskownicę do eksperymentów przed wdrożeniem produkcyjnym.
IBM wprowadziło Praxis Policy Engine (PPE), narzędzie typu open-source znajdujące się teraz w CNCF Sandbox, zaprojektowane do egzekwowania polityk bezpieczeństwa i dostępu w ruchu AI. Działa ono jako monitor referencyjny, który reguluje prompty, wywołania modeli oraz interakcje agentów przy użyciu wspólnego formatu danych.
OpenSSF wprowadziło przewodnik dotyczący wykrywania i usuwania luk w zabezpieczeniach za pomocą AI oraz zapowiedziało certyfikację „Secure AI Associate” (SAIA), która ruszy w grudniu 2026 roku. Inicjatywy te mają na celu wypełnienie luki w bezpieczeństwie spowodowanej szybką integracją AI w procesach wytwarzania oprogramowania.
Badanie obejmujące 25 modeli LLM dostrojonych do domeny biomedycznej pokazuje, że proces adaptacji dziedzinowej często pogarsza zdolność modelu do przyznania się do niewiedzy. Podczas gdy modele bazowe już wcześniej miały trudności z odpowiednim powstrzymaniem się od odpowiedzi, po dostrojeniu zdolność ta spadła w 21 z 25 przypadków.
Badania pokazują, że format pytań wielokrotnego wyboru (MCQ) tłumi zachowania odmawiające w modelach LLM. Eksperymenty na modelach Llama-3.1-8B i Qwen3-8B wykazują, że wymuszenie konkretnej litery odpowiedzi przesuwa aktywacje modelu 3x dalej od kierunku odmowy, co oznacza, że benchmarki bezpieczeństwa oparte na MCQ mogą zawyżać ocenę bezpieczeństwa modelu.
NVIDIA wprowadziła przepisy wdrożeniowe dla czterech czołowych koreańskich modeli typu open, w tym A.X K2 i Solar Open 2, w ramach frameworka Dynamo. Rozwiązania te są zoptymalizowane pod kątem wielowęzłowych klastrów GPU NVIDIA B200, co pozwala na sprawne skalowanie wnioskowania.
Badacze zaprezentowali „RL-ATTACK”, nową metodę wykorzystującą uczenie ze wzmocnieniem do generowania ataków typu adversarial na modele językowe, bez potrzeby posiadania dostępu do gradientów modelu. Metoda ta, ucząc się na podstawie reakcji celu, osiąga wysoką efektywność przy niewielkiej liczbie zapytań i skutecznie omija mechanizmy bezpieczeństwa.
NVIDIA wprowadziła „Open Agent Safety Platform” z runtime’em „OpenShell”, zapewniającym bezpieczne, izolowane środowisko uruchomieniowe i zarządzanie politykami dla agentów AI. Jednocześnie „LG AI Research” udostępniło API do modelu „K-EXAONE-2.5”, wspieranego przez nowy zestaw danych „Nemotron-Personas-Korea”, zawierający 7 milionów syntetycznych osobowości.