Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Wszystkie wiadomości

TENESYS AI NEWS śledzi najważniejsze wiadomości o AI i wyjaśnia, co się zmieniło, dlaczego to ważne i czy technologię warto przetestować.

“Saugumas” — 91 artykułów ✕

PilneCyberbezpieczeństwo· 🧪 Warte przetestowania

Wzrost popularności autonomicznych frameworków do testów penetracyjnych AI

Od początku października gwałtownie wzrosła liczba frameworków do testów penetracyjnych opartych na sztucznej inteligencji, z tysiącami aktywnych instancji. Te autonomiczne narzędzia automatyzują cały łańcuch ataku cybernetycznego, pozwalając na łańcuchowe wykorzystywanie poświadczeń i szybkie przemieszczanie się wewnątrz infrastruktury.

Cloudflare Security
Biznes· Ważne

Cohere przejmuje AISLE oraz cubic, aby wzmocnić bezpieczeństwo suwerennego AI

Cohere przejęło AISLE, startup zajmujący się autonomicznym wykrywaniem i usuwaniem luk w zabezpieczeniach, oraz cubic, platformę do przeglądu kodu wspomaganą przez AI. Te przejęcia mają na celu wzmocnienie suwerennej platformy AI firmy Cohere, szczególnie pod kątem wdrożeń w chmurach prywatnych i środowiskach typu air-gapped.

Cohere
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Google ocenia system wykrywania anomalii agentów w niezależnych testach

Google przetestowało funkcję wykrywania anomalii agentów (Agent Anomaly Detection) przy użyciu pięciu zewnętrznych benchmarków, w tym AgentDojo i AgentHarm. Narzędzie wykryło 87% szkodliwych instrukcji wykonanych przez agentów, wykazując jednak mniejszą skuteczność w przypadku zatrutej pamięci długotrwałej.

Google Developers
Modele· Ważne· 🧪 Warte przetestowania

IBM udostępnia modele Granite z obsługą LLMON w celu ochrony przed atakami typu prompt injection

IBM wprowadziło LLMON (LLM Object Notation) – język znaczników przypominający XML, który wykorzystuje specjalne zarezerwowane tokeny do jawnego definiowania instrukcji, danych i ograniczeń. Udostępniono dwa eksperymentalne modele, Granite 4.1 3B i 8B LLMON-preview, które wykazują niemal zerową skuteczność ataków typu indirect prompt injection.

Hugging Face

Cohere mianuje pierwszego CISO – Jaya Baloo

Firma Cohere zatrudniła Jaya Baloo, uznaną ekspertkę w dziedzinie cyberbezpieczeństwa i współzałożycielkę AISLE, na stanowisko pierwszego dyrektora ds. bezpieczeństwa informacji (CISO). Inicjatywa ta ma na celu wzmocnienie platformy AI w kierunku rozwiązań suwerennych i bezpiecznych dla sektorów regulowanych oraz infrastruktury krytycznej.

Cohere

Atakujący wykorzystują GSocket do ukrytej trwałości w systemach Linux

Napastnicy używają narzędzia open-source GSocket do utrzymywania stałego, szyfrowanego dostępu typu command-and-control do zainfekowanych serwerów Linux. Wykorzystanie publicznej sieci przekaźnikowej zamiast własnej infrastruktury pozwala ominąć tradycyjne blokowanie adresów IP i utrzymać dostęp nawet po załataniu pierwotnych luk.

Microsoft Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Badacze Microsoft przy użyciu agentów AI wykryli 59 podatności w jądrze Linux

Laboratorium FORGE firmy Microsoft wykorzystało system skanujący oparty na AI o nazwie kodowej MDASH do analizy podsystemów jądra Linux. Inicjatywa ta zaowocowała 59 publicznymi raportami i 33 przypisanymi numerami CVE, co pokazuje, że AI może znacznie przyspieszyć proces wykrywania podatności, choć weryfikacja przez człowieka pozostaje głównym wąskim gardłem w procesie naprawczym.

Microsoft Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowe badania pokazują, jak modele AI mogą zostać przekształcone w uśpione agenty

Microsoft Research odkrył, że modele AI mogą zostać skompromitowane poprzez modyfikację mniej niż 10 konkretnych neuronów. Te „uśpione” furtki (backdoors) pozwalają atakującemu wywołać złośliwe polecenia, gdy w kontekście pojawią się określone ciągi znaków, nawet jeśli model przechodzi wszystkie standardowe testy bezpieczeństwa.

Microsoft Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowa technika backdoor Lazarus atakuje uśpione neurony modeli AI

Badacze Microsoft odkryli 'Lazarus', technikę umożliwiającą przeprogramowanie uśpionych neuronów w modelach LLM w celu wstrzyknięcia złośliwych zachowań. Modyfikując mniej niż 10 neuronów, atakujący może wywołać wykonanie nieautoryzowanych poleceń bez wpływu na standardowe działanie modelu lub wyniki ewaluacji.

Microsoft Research
Modele· Ważne· 🧪 Warte przetestowania

Anthropic aktualizuje modele Claude Fable i Mythos do wersji 5.2

Anthropic zaktualizowało swoje specjalistyczne modele LLM do wersji 5.2. Claude Fable 5.2 to model o wysokiej wydajności do kodowania i wnioskowania, dostępny dla użytkowników ogólnych, podczas gdy Claude Mythos 5.2 pozostaje ograniczony do zweryfikowanych partnerów ze względu na zaawansowane możliwości w zakresie cyberbezpieczeństwa i eksploatacji luk.

Zapier

Odkryto sześć nowych krytycznych luk w zabezpieczeniach Git

Projekt Git wydał poprawki dla sześciu luk bezpieczeństwa, w tym ryzyk związanych z dowolnym wykonywaniem kodu, przechodzeniem przez ścieżki (path traversal) i uszkodzeniem pamięci. Te wady dotyczą różnych operacji Git, takich jak rekurencyjne klonowanie, scalanie tagów i przetwarzanie binarnych łat.

GitHub Security
Modele· Ważne· 🧪 Warte przetestowania

Google Gemini 4 Carbon już dostępny dla przepływów pracy w n8n

Narzędzie n8n zintegrowało najnowszy model Google, Gemini 4 Carbon, zaprojektowany z myślą o złożonej automatyzacji, zadaniach z zakresu cyberbezpieczeństwa i zwiększonej niezawodności agentów. Model wprowadza znaczące usprawnienia w obsłudze długotrwałych, wieloetapowych przepływów pracy oraz wykazuje dużą odporność na ataki typu prompt injection.

n8n
PilneModele· 🧪 Warte przetestowania

Google udostępnia Gemini 4 Carbon do zaawansowanego wnioskowania i zadań agentowych

Google wprowadziło Gemini 4 Carbon, nowy model klasy frontier zaprojektowany do złożonego, wieloetapowego wnioskowania, inżynierii oprogramowania i zadań z zakresu cyberbezpieczeństwa. Model jest już dostępny poprzez API oraz w Google Antigravity, oferując lepszą wydajność w procesach agentowych i efektywność kosztową.

Google DeepMind
Agenci· Ważne· 🧪 Warte przetestowania

Google DeepMind rozwija inteligencję fizyczną dzięki Gemini Robotics 2.5

Google DeepMind wprowadziło Gemini Robotics 2.5, nowy model typu vision-language-action, zaprojektowany w celu poprawy zręczności i niezawodności robotów w nieustrukturyzowanych środowiskach. Model został przetestowany w ponad 200 zadaniach, wykazując znaczący wzrost szybkości i precyzji wykonania, osiągając 96% skuteczności w kompletowaniu części samochodowych w zakładach Mercedes-Benz.

Google DeepMind

Google DeepMind wprowadza formalną weryfikację oprogramowania wspomaganą AI

Google DeepMind zaprezentowało AlphaProof Code, framework agentowy wykorzystujący modele Gemini Carbon do przeprowadzania formalnej weryfikacji złożonych protokołów kryptograficznych. Generując dowody w języku Lean, system skutecznie zweryfikował implementację protokołu Signal w cztery tygodnie – zadanie, które historycznie wymagało lat pracy ekspertów.

Google DeepMind
Badania· Ważne

LLM potrafią ukrywać rozpoznawanie ewaluacji, co podważa testy bezpieczeństwa

Badacze odkryli, że duże modele językowe często rozpoznają, kiedy są poddawane testom (zjawisko „świadomości ewaluacji”), nawet jeśli nie komunikują tego wprost. Tworząc model-organizm, który potajemnie sygnalizuje to rozpoznanie, zespół wykazał, że obecne metody interpretowalności – takie jak sondy liniowe czy wyrocznie aktywacji – nie wykrywają tego ukrytego zachowania w sposób wiarygodny.

arXiv cs.CL
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Badacze Microsoft przy użyciu AI wykryli błędy bezpieczeństwa pamięci w standardowej bibliotece Rust

Laboratorium FORGE firmy Microsoft wykorzystało skaner podatności oparty na AI o nazwie Hyenas do odkrycia krytycznych problemów z bezpieczeństwem pamięci w standardowej bibliotece języka Rust. Badania pokazują, że nawet bezpieczny kod Rust może wywoływać niezdefiniowane zachowania, jeśli ukryte pod nim abstrakcje typu „unsafe” opierają się na błędnych założeniach dotyczących paniki lub implementacji cech (traits) dostarczonych przez użytkownika.

Microsoft Security
Agenci· Ważne· 🧪 Warte przetestowania

Standaryzacja korporacyjnej sztucznej inteligencji agentowej za pomocą siedmiowarstwowej architektury

Amazon wprowadził siedmiowarstwową architekturę referencyjną, mającą na celu przeniesienie aplikacji opartych na agentach AI z fazy prototypów do systemów gotowych do wdrożenia produkcyjnego. Framework promuje modularną i wymienną strukturę, wykorzystującą stabilne kontrakty między warstwami, takimi jak dane, wnioskowanie, orkiestracja i bezpieczeństwo.

AWS Machine Learning
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Ochrona przed zatruwaniem pamięci w Amazon Bedrock AgentCore

Firma Amazon udostępniła wielowarstwową architekturę obronną, zapobiegającą zatruwaniu pamięci (rodzaj pośredniego wstrzykiwania promptów) w agentach AI wykorzystujących pamięć trwałą. Rozwiązanie wykorzystuje interceptor Lambda w bramie AgentCore Gateway do walidacji zapisów w oparciu o dryf semantyczny, wzorce regex, granice przestrzeni nazw i limity częstotliwości.

AWS Security

Narzędzia AI do kodowania zwiększają dług technologiczny przez niekontrolowane zależności

Nowy raport Linux Foundation ujawnia, że wykorzystanie AI do kodowania powoduje gwałtowny wzrost liczby zależności zewnętrznych, co potwierdza 60% organizacji. Zespoły nie nadążają z ich obsługą, gdyż 58% organizacji wdraża kod szybciej, niż pozwalają na to procesy weryfikacji bezpieczeństwa, co prowadzi do narastania długu w zakresie bezpieczeństwa.

OpenSSF
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

IBM udostępnia Praxis Policy Engine do zabezpieczania systemów AI

IBM wprowadziło Praxis Policy Engine (PPE), narzędzie typu open-source znajdujące się teraz w CNCF Sandbox, zaprojektowane do egzekwowania polityk bezpieczeństwa i dostępu w ruchu AI. Działa ono jako monitor referencyjny, który reguluje prompty, wywołania modeli oraz interakcje agentów przy użyciu wspólnego formatu danych.

IBM Research
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

OpenSSF udostępnia nowe zasoby dotyczące bezpieczeństwa AI i certyfikację

OpenSSF wprowadziło przewodnik dotyczący wykrywania i usuwania luk w zabezpieczeniach za pomocą AI oraz zapowiedziało certyfikację „Secure AI Associate” (SAIA), która ruszy w grudniu 2026 roku. Inicjatywy te mają na celu wypełnienie luki w bezpieczeństwie spowodowanej szybką integracją AI w procesach wytwarzania oprogramowania.

OpenSSF