In-context learning efektyvumo didinimas trumpesniais pavyzdžiais
Trumpai: Nauji tyrimai rodo, kad in-context learning (ICL) atveju, esant ribotam žetonų biudžetui, efektyviau naudoti daugiau trumpų pavyzdžių nei kelis ilgus. Išbandžius šešis modelius su klausimų-atsakymų užduotimis (pvz., 'Beat the AI'), paaiškėjo, kad pavyzdžių detalumas yra esminis našumo veiksnys.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „arXiv cs.CL“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1Įrodyta, kad trumpesni ir dažnesni pavyzdžiai pranoksta ilgus pavyzdžius ribotų žetonų sąlygomis.
- 2Nustatyta, kad naudojant ilgus pavyzdžius našumo riba pasiekiama greičiau.
- 3Rezultatai patvirtinti su įvairiais instrukcijų pagrindu suderintais modeliais.
Kodėl tai svarbu?
Kuriantiems AI agentus tai reiškia, kad galite pagerinti rezultatus ir sumažinti inferencijos kaštus optimizuojant 'prompt' struktūrą. Strategiją verta keisti nuo klausimo 'kiek pavyzdžių' į 'kaip struktūrizuoti pavyzdžius siekiant maksimalios grąžos'.
Ką tai reiškia AI agentams ir kontaktų centrams?
Jei jūsų įmonė kuria balso AI agentus, atlikite eksperimentus su trumpesniais 'few-shot' pavyzdžiais. Siekiant sumažinti vėlavimą realiojo laiko pokalbiuose, kompaktiški pavyzdžiai padės išlaikyti mažesnį žetonų suvartojimą, kartu užtikrinant agento gebėjimą sekti kontekstą.
🧪 Verta testuoti
Kompaktiškesnių pavyzdžių testavimas yra paprastas būdas sumažinti vėlavimą ir kaštus naudojamose balso sistemose.
Šaltiniai
- arXiv cs.CLOficialusPirminis šaltinisOriginalus straipsnis →„The ROI of Small Examples: Optimizing In-Context Learning Under Token Budgets“2026-11-20 07:00Licencija: arXiv metadata CC0; papers under their own licences · mūsų santrauka (turinys pakeistas)
- Šaltinio publikavimo data
- 2026-11-20 07:00
- Mūsų sistema rado
- 2026-11-20 07:04
- Santrauka sugeneruota
- 2026-11-21 20:09
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas