Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Badania AI

Prace naukowe, benchmarki, architektury, rozumowanie i metody trenowania.

“Bezpieczeństwo” — 8 artykułów ✕

Badania· Ważne

Post-kwantowa prywatność dzięki technologii MOLE

Cloudflare opracowuje MOLE (Moderation Of unLinkable Endorsements), aby zastąpić obecne protokoły Privacy Pass podatne na ataki kwantowe. Łącząc dowody z wiedzą zerową VOLE-in-the-Head z podpisami wielowymiarowymi UOV, osiągnięto przełom w tworzeniu wydajnych, post-kwantowych podpisów w ciemno.

Cloudflare Security
Badania· Ważne· 🧪 Warte przetestowania

Google prezentuje benchmark dla agentów AI w inżynierii

Google wprowadziło Physical-Engineering's Last Exam (PLE), nowy benchmark stworzony do oceny zdolności agentów AI w inżynierii mechanicznej, elektrycznej, cywilnej i strukturalnej. W przeciwieństwie do standardowych testów akademickich, PLE wymaga od agentów przetwarzania rozbudowanych projektów, obejmujących m.in. rysunki CAD i kody budowlane, w celu generowania bezpiecznych i zgodnych z normami wyników.

Google Cloud AI

Automatyzacja analizy grafów atrybucji przy użyciu systemów wieloagentowych

Badacze zaprezentowali Circuit Oracle, system LLM oparty na wielu agentach, zaprojektowany do interpretacji obliczeń modeli językowych poprzez analizę grafów atrybucji. Narzędzie wykorzystuje wywołania narzędzi (tool calling) do odpowiadania na pytania w języku naturalnym dotyczące zachowania i bezpieczeństwa modelu docelowego.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Nowa metoda wykrywania halucynacji LLM poprzez uczenie podprzestrzeni

Naukowcy zaproponowali LOTUS, strukturę do wykrywania halucynacji, która wykorzystuje multilinieową dekompozycję niskiego rzędu do wyodrębniania sygnałów z ukrytych warstw LLM. Analizując szczytowe aktywacje i wzorce międzywarstwowe, metoda ta skuteczniej identyfikuje błędne odpowiedzi niż obecne techniki oparte na poolingu.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Plugin IBM pozwala vLLM monitorować i sterować LLM w czasie rzeczywistym niemal bez spowolnienia

IBM Research wydał vLLM-Hook MIA, plugin dla open-source'owego silnika wnioskowania vLLM, który pozwala deweloperom obserwować i ingerować w wewnętrzne stany modelu w czasie działania — np. odrzucać złośliwe prompty, oznaczać zmyślone fakty czy korygować ton odpowiedzi — bez wyłączania szybkiego trybu wykonywania opartego na powtarzaniu grafu w vLLM. Według raportu technicznego IBM, MIA jest nawet 20 razy szybszy niż poprzedni vLLM-Hook i nawet 14 razy szybszy niż metody wstawiające kod bezpośrednio do modelu. W testach sterowanie modelem 8B Llama lub 1,5B Qwen dodawało tylko około 2% opóźnienia, a model 70B Llama - około 6%.

IBM Research

Amazon zleca niezależnej organizacji AVERI przegląd swoich wewnętrznych testów bezpieczeństwa AI

Amazon nawiązał współpracę z niezależną organizacją non-profit AVERI, która zbadała jakość wewnętrznych zestawów danych do oceny bezpieczeństwa modeli AI, a nie same odpowiedzi modeli. AVERI przeanalizowało losową, zanonimizowaną próbkę promptów testowych obejmujących szkodliwe treści, cyberbezpieczeństwo, prywatność i prawa autorskie. Przegląd potwierdził dobre pokrycie tematyczne, różnorodność metod testowania i niskie ryzyko zanieczyszczenia danych, ale wskazał braki w pokryciu wielojęzycznym i testach wieloetapowych ataków adwersarialnych. W odpowiedzi Amazon wprowadził cztery konkretne zmiany.

Amazon Science
Badania· Ważne

Nowe badanie: agent AI nie decyduje się na posłuszeństwo wobec prompt injection od razu — decyzja kształtuje się w trakcie rozumowania

Nowe badanie podważa powszechne przekonanie, że los agenta AI wobec ataku prompt injection jest przesądzony w momencie przeczytania złośliwego tekstu. Badacze opracowali metodę rozgałęzionych przebiegów (branching rollouts) na zestawach testowych AgentDojo: powtarzali przebieg agenta do momentu, gdy natrafia na wstrzykniętą instrukcję, a następnie wielokrotnie symulowali dalszy ciąg epizodu, by zmierzyć, ile ostatecznego wyniku było już przesądzone, a ile pozostawało otwarte. Dla agenta Qwen3 bez rozszerzonego rozumowania ('thinking') 91% wyniku było już ustalone w tym momencie; po włączeniu rozumowania wskaźnik ten spadł do 62%, co pokazuje, że decyzja o posłuszeństwie często kształtuje się jeszcze długo po pierwszym kontakcie z atakiem. Włączenie rozumowania obniżyło też skuteczność ataków wobec Qwen3, ale zwiększyło ją dla dwóch innych testowanych modeli, a wyniki benchmarków dla rozumujących agentów różniły się po powtórzeniu testu nawet w 35% przypadków.

arXiv cs.CL
Badania· Ważne

Microsoft Research prezentuje Magnetar – system dowodów zero-knowledge dla zwykłego kodu

Microsoft Research opublikował Magnetar – zero-knowledge wirtualną maszynę (zkVM), która generuje kryptograficzne dowody poprawnego wykonania programu, bez konieczności ponownego uruchamiania go czy zaufania operatorowi. Zamiast zmuszać programistów do przepisywania aplikacji na niestandardowe obwody kryptograficzne, Magnetar dowodzi wykonania standardowego kodu maszynowego RISC-V, dzięki czemu programy napisane w Rust, Go lub C można skompilować normalnie i udowodnić w niezmienionej postaci. Testy na 15 programach pokazują przetwarzanie 7,2-8,7 miliona instrukcji na sekundę na laptopie, przy czym weryfikacja dowodu zajmuje około 12 milisekund, a bezpieczeństwo kryptograficzne opiera się wyłącznie na standardowych funkcjach skrótu, takich jak SHA-256 czy SHA-3, a nie na krzywych eliptycznych czy schematach opartych na kratach.

Microsoft Research