Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Wszystkie wiadomości

TENESYS AI NEWS śledzi najważniejsze wiadomości o AI i wyjaśnia, co się zmieniło, dlaczego to ważne i czy technologię warto przetestować.

#Security — 29 artykułów ✕

Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Przestępcy wykorzystują framework ARTEX AI do zakrojonej na szeroką skalę cyberprzestępczości

Amazon Threat Intelligence zaobserwował autonomiczne agenty korzystające z frameworka open-source ARTEX do prowadzenia zakrojonych na szeroką skalę kradzieży danych uwierzytelniających i oszustw tożsamości z wykorzystaniem deepfake. Kampanie te wykorzystywały niezałatane luki w infrastrukturze AI i błędy konfiguracyjne do automatyzacji wieloetapowych operacji ofensywnych.

AWS Security
Modele· Ważne· 🧪 Warte przetestowania

IBM udostępnia modele Granite z obsługą LLMON w celu ochrony przed atakami typu prompt injection

IBM wprowadziło LLMON (LLM Object Notation) – język znaczników przypominający XML, który wykorzystuje specjalne zarezerwowane tokeny do jawnego definiowania instrukcji, danych i ograniczeń. Udostępniono dwa eksperymentalne modele, Granite 4.1 3B i 8B LLMON-preview, które wykazują niemal zerową skuteczność ataków typu indirect prompt injection.

Hugging Face
Agenci· Ważne· 🧪 Warte przetestowania

AWS aktualizuje środowisko Bedrock AgentCore dla szybszych i wydajniejszych agentów AI

Amazon wprowadził nową generację środowiska wykonawczego dla Bedrock AgentCore, przeznaczoną do obsługi złożonych i długotrwałych zadań AI. Aktualizacja wprowadza izolowane sprzętowo środowiska z szybszym uruchamianiem, większymi zasobami obliczeniowymi oraz lepszą efektywnością kosztową dzięki rozliczaniu opartemu na rzeczywistym zużyciu.

AWS Machine Learning
Agenci· Ważne· 🧪 Warte przetestowania

Standaryzowana komunikacja między agentami różnych organizacji dzięki A2A

AWS wspiera protokół A2A projektu Linux Foundation, umożliwiający bezpieczną współpracę autonomicznych agentów ponad granicami organizacyjnymi. Dzięki niemu agenci stworzeni w różnych frameworkach (np. LangChain czy Strands Agents) mogą wymieniać zadania i dane jako partnerzy, bez konieczności ujawniania logiki wewnętrznej czy współdzielenia haseł.

AWS Machine Learning
Automatyzacja· Ważne· 🧪 Warte przetestowania

NVIDIA AICR wprowadza listę materiałów AI (AIBOM) do śledzenia obciążeń

NVIDIA zintegrowała projekt open-source k8s-aibom ze swoim środowiskiem AI Cluster Runtime (AICR). Pozwala to zespołom platformowym na automatyczne generowanie i audytowanie listy materiałów AI (AIBOM) dla obciążeń działających w Kubernetes, umożliwiając identyfikację modeli, środowisk uruchomieniowych wnioskowania oraz zależności.

NVIDIA Developer
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowa technika backdoor Lazarus atakuje uśpione neurony modeli AI

Badacze Microsoft odkryli 'Lazarus', technikę umożliwiającą przeprogramowanie uśpionych neuronów w modelach LLM w celu wstrzyknięcia złośliwych zachowań. Modyfikując mniej niż 10 neuronów, atakujący może wywołać wykonanie nieautoryzowanych poleceń bez wpływu na standardowe działanie modelu lub wyniki ewaluacji.

Microsoft Research
Modele· Ważne· 🧪 Warte przetestowania

Google Gemini 4 Carbon już dostępny dla przepływów pracy w n8n

Narzędzie n8n zintegrowało najnowszy model Google, Gemini 4 Carbon, zaprojektowany z myślą o złożonej automatyzacji, zadaniach z zakresu cyberbezpieczeństwa i zwiększonej niezawodności agentów. Model wprowadza znaczące usprawnienia w obsłudze długotrwałych, wieloetapowych przepływów pracy oraz wykazuje dużą odporność na ataki typu prompt injection.

n8n
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Badacze Microsoft przy użyciu AI wykryli błędy bezpieczeństwa pamięci w standardowej bibliotece Rust

Laboratorium FORGE firmy Microsoft wykorzystało skaner podatności oparty na AI o nazwie Hyenas do odkrycia krytycznych problemów z bezpieczeństwem pamięci w standardowej bibliotece języka Rust. Badania pokazują, że nawet bezpieczny kod Rust może wywoływać niezdefiniowane zachowania, jeśli ukryte pod nim abstrakcje typu „unsafe” opierają się na błędnych założeniach dotyczących paniki lub implementacji cech (traits) dostarczonych przez użytkownika.

Microsoft Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Ochrona przed zatruwaniem pamięci w Amazon Bedrock AgentCore

Firma Amazon udostępniła wielowarstwową architekturę obronną, zapobiegającą zatruwaniu pamięci (rodzaj pośredniego wstrzykiwania promptów) w agentach AI wykorzystujących pamięć trwałą. Rozwiązanie wykorzystuje interceptor Lambda w bramie AgentCore Gateway do walidacji zapisów w oparciu o dryf semantyczny, wzorce regex, granice przestrzeni nazw i limity częstotliwości.

AWS Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowy framework oparty na uczeniu ze wzmocnieniem umożliwia skuteczne ataki typu black-box na modele LLM

Badacze zaprezentowali „RL-ATTACK”, nową metodę wykorzystującą uczenie ze wzmocnieniem do generowania ataków typu adversarial na modele językowe, bez potrzeby posiadania dostępu do gradientów modelu. Metoda ta, ucząc się na podstawie reakcji celu, osiąga wysoką efektywność przy niewielkiej liczbie zapytań i skutecznie omija mechanizmy bezpieczeństwa.

arXiv cs.CL
Agenci· Ważne· 🧪 Warte przetestowania

NVIDIA wzmacnia bezpieczeństwo agentów AI i rozwija możliwości modeli koreańskich

NVIDIA wprowadziła „Open Agent Safety Platform” z runtime’em „OpenShell”, zapewniającym bezpieczne, izolowane środowisko uruchomieniowe i zarządzanie politykami dla agentów AI. Jednocześnie „LG AI Research” udostępniło API do modelu „K-EXAONE-2.5”, wspieranego przez nowy zestaw danych „Nemotron-Personas-Korea”, zawierający 7 milionów syntetycznych osobowości.

NVIDIA
Agenci· Ważne· 🧪 Warte przetestowania

Skalowanie produkcyjnych agentów AI za pomocą Amazon Bedrock AgentCore

Firma Taxbit wdrożyła bezpiecznego, świadomego ról asystenta AI przy użyciu Amazon Bedrock AgentCore, aby zautomatyzować wsparcie w oparciu o dokumentację produktu. Agent wykorzystuje RAG do opierania odpowiedzi na zweryfikowanych treściach, jednocześnie rygorystycznie egzekwując maskowanie PII, regionalną rezydencję danych oraz uprawnienia oparte na rolach użytkowników.

AWS Machine Learning
Agenci· Ważne· 🧪 Warte przetestowania

Skalowanie autonomicznych operacji bezpieczeństwa z Amazon Bedrock AgentCore

Firma Greenlight Financial zautomatyzowała ponad 90% obsługi incydentów bezpieczeństwa i ryzyka (łącznie 4000 spraw miesięcznie), wdrażając wielopoziomową architekturę agentów na platformie Amazon Bedrock AgentCore. System wykorzystuje nadzorcę 1. poziomu do wstępnej triażu oraz nadzorcę 2. poziomu do głębokich analiz, znacząco odciążając analityków.

AWS Machine Learning
Agenci· Ważne· 🧪 Warte przetestowania

Skalowalne zarządzanie dostępem dla agentów AI z Amazon Bedrock AgentCore

Ta aktualizacja wprowadza architekturę opartą na bramie (gateway) do zarządzania dostępem agentów AI na dużą skalę. Dzięki Amazon Bedrock AgentCore Gateway i politykom Cedar, możesz przenieść logikę autoryzacji z poszczególnych narzędzi do centralnego silnika polityk, upraszczając zabezpieczenia dla setek agentów.

AWS Machine Learning
Agenci· Ważne· 🧪 Warte przetestowania

Microsoft prezentuje PDD Kit do weryfikacji kodu generowanego przez AI

Microsoft Research wprowadził PDD Kit, zestaw narzędzi służący do łączenia intencji człowieka z kodem generowanym przez agentów w ramach Proof-Driven Development. Dzięki formalnej weryfikacji w języku Verus, zestaw pozwala deweloperom matematycznie udowodnić, że kod napisany przez AI spełnia określone wymagania, wykraczając poza tradycyjne testowanie.

Microsoft Research
Agenci· Ważne· 🧪 Warte przetestowania

Amazon Quick wprowadza Smart Approvals do przepływów pracy agentów AI

Amazon Quick uruchomił funkcję Smart Approvals, aby zautomatyzować rutynowe zadania agentów przy jednoczesnym zachowaniu nadzoru ludzkiego nad krytycznymi decyzjami. System wykorzystuje klasyfikator do oceny żądanych działań w oparciu o kontekst konwersacji i polityki użytkownika, eliminując niepotrzebne przerywanie pracy bez pomijania ustalonych kontroli bezpieczeństwa.

AWS Machine Learning
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Cloudflare wprowadza granularną kontrolę i widoczność osobistych agentów AI

Firma Cloudflare wprowadziła nową kategorię „Personal Assistants” w swoich narzędziach Security Analytics, umożliwiając właścicielom serwisów śledzenie i zarządzanie ruchem generowanym przez osobistych agentów AI. Firmy mogą teraz ustawiać precyzyjne zasady dostępu dla poszczególnych agentów, co pozwala chronić przychody z reklam lub wrażliwe obszary strony, przy jednoczesnym wspieraniu użytecznych interakcji.

Cloudflare Security
Agenci· Ważne· 🧪 Warte przetestowania

Amazon Bedrock AgentCore upraszcza propagację tożsamości dla agentów korporacyjnych

Amazon zaktualizował AgentCore Gateway, dodając obsługę automatycznej wymiany tokenów między Microsoft Entra ID a chronionymi interfejsami REST API. Dzięki temu agenci AI mogą teraz wykonywać działania w platformach takich jak ServiceNow, korzystając z tożsamości i uprawnień użytkownika końcowego, zamiast działać jako ogólne konto serwisowe.

AWS Machine Learning
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Usprawnione monitorowanie bezpieczeństwa agentów AI korzystających z narzędzi

Najnowsze badania pokazują, że obecne systemy monitorowania bezpieczeństwa często zawodzą, myląc ekspozycję na wstrzyknięcie z rzeczywistym zobowiązaniem agenta do wykonania niebezpiecznej akcji. Autor proponuje metodę oceny z podwójną stratyfikacją, która oddziela ekspozycję od zachowania, znacząco poprawiając przewidywanie niebezpiecznych wywołań narzędzi z dwukrotnym wyprzedzeniem.

arXiv cs.CL
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

LLM i fuzzery: komplementarne podejście do wykrywania błędów

Google Project Zero przeanalizowało porównanie systemów opartych na LLM (BigSleep) z tradycyjnymi fuzzerami generatywnymi (Fuzzilli) w kontekście wykrywania luk w silniku JavaScript V8. W ciągu sześciu miesięcy obie metody niezależnie odkryły unikalne błędy, przy szacowanym pokryciu wynoszącym od 25% do 60%.

Google Project Zero
Automatyzacja· Ważne· 🧪 Warte przetestowania

n8n 3.0 przechodzi na architekturę kontenerową i wprowadza istotne zmiany w bezpieczeństwie

n8n 3.0 w wersji beta skupia się na stabilności architektury, zaostrzeniu domyślnych ustawień bezpieczeństwa i usunięciu starszych funkcjonalności. Wdrożenie modelu opartego wyłącznie na kontenerach (Docker) jest teraz obowiązkowe dla własnych instancji, a użytkownicy muszą skorzystać z wbudowanego raportu migracji, aby obsłużyć kluczowe zmiany przed grudniową premierą stabilnej wersji.

n8n
PilneCyberbezpieczeństwo· 🧪 Warte przetestowania

Krytyczna luka w izolacji pamięci podręcznej KV w SGLang wpływa na wdrożenia AI

Firma Cloudflare wykryła lukę bezpieczeństwa w silniku wnioskowania SGLang, która powodowała wyciek danych między zapytaniami użytkowników w modelu GLM-5.3. Zapytania przekraczające rozmiar skonfigurowanej pamięci podręcznej KV były błędnie przetwarzane, co prowadziło do generowania odpowiedzi na podstawie danych z sesji innych użytkowników.

Cloudflare Security