Cyberbezpieczeństwo· Ważne
Anthropic ograniczył destylację modelu Claude o 90–99% dzięki nowym zabezpieczeniom rozumowania
Anthropic opublikował szczegóły dotyczące ograniczenia „nielegalnej destylacji” – zakrojonych na szeroką skalę, ukrytych operacji wydobywania transkryptów rozumowania Claude w celu taniego trenowania konkurencyjnych modeli. Nowe środki – streszczanie rozumowania, „preserved thinking” dla nowych kont API oraz dwuetapowy system klasyfikatorów – zmniejszyły ilość użytecznych danych wydobywanych przez destylatorów 10–100-krotnie. Anthropic twierdzi, że chińska firma Zhipu wykorzystała destylację (w tym próby wobec Claude) przy tworzeniu GLM-5.3, który amerykańscy eksperci uznali za najbardziej zdolny pod względem cyberofensywnym model open-weight, z zabezpieczeniami łatwymi do obejścia.