Anthropic 90–99 % sumažino Claude modelio „distiliavimo“ ataką naudojant naujas apsaugas
Trumpai: Anthropic paskelbė, kaip sustabdė „neteisėtą distiliavimą“ – didelio masto slaptas operacijas, per kurias išgaunami Claude mąstymo (reasoning) duomenys, naudojami pigiai apmokyti konkuruojančius modelius. Naujos priemonės – mąstymo apibendrinimas, „preserved thinking“ naujoms API paskyroms ir dviejų pakopų klasifikatorių sistema – sumažino išgaunamų naudingų duomenų kiekį 10–100 kartų. Anthropic teigia, kad Kinijos kompanija Zhipu panaudojo distiliavimą (įskaitant bandymus prieš Claude) kurdama GLM-5.3, kurį JAV vertintojai pripažino pavojingiausiu atvirojo kodo modeliu kibernetinio saugumo srityje, kurio apsaugas lengva apeiti.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „Anthropic“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1Mąstymo grandinė apibendrinama prieš parodant vartotojams, kad transkriptai būtų mažiau naudingi konkurentams
- 2„Preserved thinking“ neleidžia naujoms API paskyroms (sukurtoms po 2026 08 31) redaguoti ankstesnio Claude konteksto siekiant išgauti mąstymą
- 3Mąstymo transkriptai prieinami tik organizacijai, kuri sugeneravo užklausą (Claude Sonnet 5.5)
- 4Dviejų pakopų klasifikatorių sistema (kaip bio/kibernetinio saugumo apsaugose) blokuoja išgavimo bandymus, klaidingų teigiamų rezultatų dažnis <0,1 %
- 5Pakartotinai bandančios išgauti duomenis paskyros gauna griežtesnius limitus arba užblokuojamos per kelias valandas
- 6Nuo rugsėjo 24 d. už apsaugų užblokuotas užklausas imamas mokestis dar prieš atsakymo generavimą
| Parametras | Buvo | Dabar |
|---|---|---|
| Mąstymo transkripto prieinamumas | Pilna mąstymo grandinė dažnai buvo išgaunama per aktyvų provokavimą ar tarpines paskyras | Mąstymas apibendrinamas, prieinamumas apribotas tik užklausą sugeneravusiai organizacijai, naujos API paskyros (po 2026 |
| Distiliavimo aptikimas | Paprastos apibendrinimu grįstos apsaugos, apeinamos aktyvaus išgavimo technikomis | Dviejų pakopų klasifikatorius (konstitucinių klasifikatorių principas), klaidingų teigiamų rezultatų dažnis <0,1 %, atit |
| Išgauti mąstymo žetonai (tokens) | Pradinis didelis kiekis, surinktas distiliavimo tinklų | 10–100 kartų mažiau (kai kuriomis dienomis per mažai, kad būtų galima išmatuoti) po pilno diegimo |
Kodėl tai svarbu?
Komandoms, integruojančioms Claude API – įskaitant tas, kurios remiasi mąstymo grandine derinant ar grandinant agentų logiką – gali pasikeisti mąstymo prieinamumas, ypač paskyroms, sukurtoms po 2026 08 31. Tai taip pat rodo, kad mąstymo duomenys vis labiau traktuojami kaip saugotinas turtas visoje pramonėje.
Ką tai reiškia AI agentams ir kontaktų centrams?
Jei jūsų balso AI ar automatizavimo sprendimai naudoja Claude modelius (pvz., Opus, Sonnet, Fable) sudėtingiems mąstymo uždaviniams, pvz., skambučių analitikai ar įrankių iškvietimui, patikrinkite, ar „preserved thinking“ apribojimai naujoms API paskyroms neturi įtakos integracijai, ir įsitikinkite, kad netyčia nesukeliate distiliavimo aptikimo apsaugų (pvz., prašydami pateikti mąstymą pažodžiui), kas gali lemti griežtesnius limitus ar mokestį už blokuojamas užklausas.
Šaltiniai
- AnthropicOficialusPirminis šaltinisOriginalus straipsnis →„Illicit distillation allows model developers to copy frontier AI capabilities without creating proportionally robust safeguards. Here, we describe how we’ve reduced the rate of distillation by more than 90%.“2026-10-12 03:00
- Šaltinio publikavimo data
- 2026-10-12 03:00
- Mūsų sistema rado
- 2026-10-20 20:16
- Santrauka sugeneruota
- 2026-10-20 20:18
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas