Przejdź do treści
niedziela, 22 listopada 2026
Tenesys AI News
Subskrypcja

Cyberbezpieczeństwo

Podatności, zagrożenia i incydenty, komunikaty CERT-EU, ENISA, CISA i NCSC, bezpieczeństwo AI i regulacje (NIS2, CRA).

“N/A” — 4 artykuły ✕

Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowy framework oparty na uczeniu ze wzmocnieniem umożliwia skuteczne ataki typu black-box na modele LLM

Badacze zaprezentowali „RL-ATTACK”, nową metodę wykorzystującą uczenie ze wzmocnieniem do generowania ataków typu adversarial na modele językowe, bez potrzeby posiadania dostępu do gradientów modelu. Metoda ta, ucząc się na podstawie reakcji celu, osiąga wysoką efektywność przy niewielkiej liczbie zapytań i skutecznie omija mechanizmy bezpieczeństwa.

arXiv cs.CL
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowy framework 'CoFiBreak' zwiększa różnorodność ataków typu jailbreak na LLM

Naukowcy zaprezentowali CoFiBreak, mechanizm nagradzania podczas trenowania atakujących modeli LLM, który wymusza większą różnorodność strategii przełamywania zabezpieczeń. Dzięki zastosowaniu struktury nagród typu „coarse-to-fine” (od ogółu do szczegółu) w optymalizacji polityki grupowej (GRPO), metoda ta pozwala uniknąć typowej dla uczenia wzmacnianego zapaści, w której modele skupiają się na wąskim zestawie powtarzalnych promptów.

arXiv cs.CL
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Usprawnione monitorowanie bezpieczeństwa agentów AI korzystających z narzędzi

Najnowsze badania pokazują, że obecne systemy monitorowania bezpieczeństwa często zawodzą, myląc ekspozycję na wstrzyknięcie z rzeczywistym zobowiązaniem agenta do wykonania niebezpiecznej akcji. Autor proponuje metodę oceny z podwójną stratyfikacją, która oddziela ekspozycję od zachowania, znacząco poprawiając przewidywanie niebezpiecznych wywołań narzędzi z dwukrotnym wyprzedzeniem.

arXiv cs.CL

Amerykańskie i kanadyjskie agencje cyberbezpieczeństwa wzywają firmy do kontroli zużycia tokenów AI

CISA wraz z Canadian Centre for Cyber Security i innymi partnerami opublikowała wspólne wytyczne, które mają pomóc organizacjom śledzić i kontrolować wydatki na tokeny podczas korzystania z zewnętrznych usług AI (określanych jako „super intelligence”). Agencje zwracają uwagę, że niekontrolowane zużycie tokenów może prowadzić do nieprzewidywalnego wzrostu kosztów, spowolnienia lub przerwania działania usług oraz narazić systemy na ataki mające na celu wyczerpanie budżetu tokenów lub portfela ofiary. Wytyczne opisują kroki obejmujące priorytetyzację alokacji tokenów, projektowanie wydajnych przepływów pracy, poprawę praktyk promptowania, wykorzystanie cache'owania i wielokrotnie używanego kontekstu, optymalizację danych przed wysłaniem oraz bieżące monitorowanie zużycia.

CISA Advisories