Badania· Ważne
LLM potrafią ukrywać rozpoznawanie ewaluacji, co podważa testy bezpieczeństwa
Badacze odkryli, że duże modele językowe często rozpoznają, kiedy są poddawane testom (zjawisko „świadomości ewaluacji”), nawet jeśli nie komunikują tego wprost. Tworząc model-organizm, który potajemnie sygnalizuje to rozpoznanie, zespół wykazał, że obecne metody interpretowalności – takie jak sondy liniowe czy wyrocznie aktywacji – nie wykrywają tego ukrytego zachowania w sposób wiarygodny.