Przejdź do treści
niedziela, 22 listopada 2026
Tenesys AI News
Subskrypcja

Wszystkie wiadomości

TENESYS AI NEWS śledzi najważniejsze wiadomości o AI i wyjaśnia, co się zmieniło, dlaczego to ważne i czy technologię warto przetestować.

#AI Safety — 3 artykuły ✕

Badania· Ważne· 🧪 Warte przetestowania

Plugin IBM pozwala vLLM monitorować i sterować LLM w czasie rzeczywistym niemal bez spowolnienia

IBM Research wydał vLLM-Hook MIA, plugin dla open-source'owego silnika wnioskowania vLLM, który pozwala deweloperom obserwować i ingerować w wewnętrzne stany modelu w czasie działania — np. odrzucać złośliwe prompty, oznaczać zmyślone fakty czy korygować ton odpowiedzi — bez wyłączania szybkiego trybu wykonywania opartego na powtarzaniu grafu w vLLM. Według raportu technicznego IBM, MIA jest nawet 20 razy szybszy niż poprzedni vLLM-Hook i nawet 14 razy szybszy niż metody wstawiające kod bezpośrednio do modelu. W testach sterowanie modelem 8B Llama lub 1,5B Qwen dodawało tylko około 2% opóźnienia, a model 70B Llama - około 6%.

IBM Research

Amazon zleca niezależnej organizacji AVERI przegląd swoich wewnętrznych testów bezpieczeństwa AI

Amazon nawiązał współpracę z niezależną organizacją non-profit AVERI, która zbadała jakość wewnętrznych zestawów danych do oceny bezpieczeństwa modeli AI, a nie same odpowiedzi modeli. AVERI przeanalizowało losową, zanonimizowaną próbkę promptów testowych obejmujących szkodliwe treści, cyberbezpieczeństwo, prywatność i prawa autorskie. Przegląd potwierdził dobre pokrycie tematyczne, różnorodność metod testowania i niskie ryzyko zanieczyszczenia danych, ale wskazał braki w pokryciu wielojęzycznym i testach wieloetapowych ataków adwersarialnych. W odpowiedzi Amazon wprowadził cztery konkretne zmiany.

Amazon Science

Anthropic rozszerza Cyber Verification Program o trzy poziomy dostępu dla zespołów bezpieczeństwa

Anthropic połączyło programy Project Glasswing i Cyber Verification Program (CVP) w jeden rozszerzony program z trzema poziomami dostępu: Defense Access, Red Team Access i Specialized Access. Każdy poziom odblokowuje coraz mniej zabezpieczeń blokujących zadania związane z cyberbezpieczeństwem w modelach Claude Opus 5.5, Claude Sonnet 5.5 i Claude Mythos 5.1 dla zweryfikowanych organizacji bezpieczeństwa. Anthropic opublikowało też wyniki benchmarków i liczby wykrytych podatności z wcześniejszego programu Glasswing, uzasadniające rozszerzenie.

Anthropic