Apple tyrėjai siūlo savarankiškai sprendžiantį kontekstą glaudinantį metodą ilgai veikiantiems AI agentams
Trumpai: Apple ML tyrėjai paskelbė NeurIPS straipsnį apie SELFCOMPACT – karkasą, leidžiantį kalbos modelių agentams patiems nuspręsti, kada ir kaip glaudinti sukauptą kontekstą, vietoj fiksuoto intervalo glaudinimo pagal žetonų skaičių. Metodas derina modelio iškviečiamą glaudinimo įrankį su lengvu taisyklių rinkiniu, nurodančiu, kada glaudinti (kai použduotis išspręsta) ir kada susilaikyti (vidury išvedimo ar įstrigus). Testuotas šešiuose etalonuose ir septyniuose modeliuose, jis prilygo arba lenkė fiksuoto intervalo glaudinimą naudodamas gerokai mažiau žetonų.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „Apple Machine Learning“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1Pristatomas modelio iškviečiamas glaudinimo įrankis kartu su taisyklėmis, kada glaudinti, o kada susilaikyti
- 2Testuota šešiuose etalonuose (konkursinė matematika ir agentinė paieška) septyniuose modeliuose
- 3Nereikia papildomo mokymo ar išorinės priežiūros
- 4Iki 18,1 taško pagerėjimas prieš bazinį variantą be santraukų matematikoje, 5-9 taškai agentinėje paieškoje
- 530-70% mažesnė kaina už užklausą nei fiksuoto intervalo glaudinimas
Kodėl tai svarbu?
Agentai, atliekantys ilgas įrankių iškvietimų ir samprotavimų grandines (paieška, daugiapakopiai darbo srautai, skambučių analizė), reguliariai susiduria su kontekstinio lango ribomis ir eikvoja žetonus pasenusiai istorijai; protingesnė, trajektoriją atpažįstanti glaudinimo strategija gali sumažinti sąnaudas išlaikant tikslumą.
Ką tai reiškia AI agentams ir kontaktų centrams?
Komandoms, kuriančioms balso AI agentus ir kontaktų centrų automatizaciją su įrankių/funkcijų iškvietimu ir MCP, konteksto perteklius ilgų pokalbių ar daugiapakopių darbo srautų metu yra reali sąnaudų ir delsos problema; šį taisyklėmis pagrįstą glaudinimo metodą verta palyginti su dabartiniu fiksuoto intervalo glaudinimu, siekiant patikrinti, ar jis sumažina žetonų sąnaudas ir išlaiko užduočių tikslumą ilgai vykstančiuose skambučių apdorojimo ar analitikos agentuose.
🧪 Verta testuoti
Metodas tiesiogiai skirtas ilgai veikiantiems įrankius iškviečiantiems agentams – pagrindinei balso AI ir automatizacijos infrastruktūros daliai, ir praneša apie reikšmingą sąnaudų sumažėjimą be papildomo mokymo, todėl jį lengva ir nerizikinga išbandyti esamuose agentų karkasuose.
Šaltiniai
- Apple Machine LearningOficialusPirminis šaltinisOriginalus straipsnis →„Self-Compacting Language Model Agents“2026-10-12 03:00
- Šaltinio publikavimo data
- 2026-10-12 03:00
- Mūsų sistema rado
- 2026-10-13 02:11
- Santrauka sugeneruota
- 2026-10-13 02:12
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas