Nowe zabezpieczenia przeciwko „adversarial distillation”
OpenAI wdrożyło ulepszone zabezpieczenia mające na celu blokowanie „adversarial distillation”, czyli techniki, w której atakujący próbują wyodrębnić ślady rozumowania modelu (chain-of-thought) w celu wytrenowania nieautoryzowanych systemów. Aktualizacja wprowadza ściślejszą kontrolę na poziomie API, lepsze klasyfikatory wyjściowe oraz powiązanie śladów rozumowania z konkretnymi historiami rozmów.