OpenAI prideda pasirenkamą 12 valandų promptų talpyklą Responses API
Trumpai: OpenAI Responses API dabar palaiko pasirenkamą 12 valandų promptų talpyklos (cache) variantą, kuris ilgiau išsaugo bendras instrukcijas, įrankius ir kontekstą, kad pakartotinės užklausos, nutolusios net kelias valandas, vis tiek galėtų naudotis pigesne talpyklos kaina. Įrašymas į šią ilgesnę talpyklą kainuoja 2,5 karto brangiau nei įprasta įvesties žetonų kaina. Tai papildoma parinktis šalia standartinės trumpesnės talpyklos.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „OpenAI API Changelog“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1Nauja pasirenkama 12 valandų promptų talpykla v1/responses
- 2Talpykloje saugomas kontekstas (instrukcijos, įrankiai) išlieka pasiekiamas net kelioms valandoms praėjus tarp užklausų
- 312 valandų talpyklos įrašymas kainuoja 2,5 karto brangiau nei standartinė įvesties žetonų kaina
| Parametras | Buvo | Dabar |
|---|---|---|
| Promptų talpyklos trukmė | Nenurodyta | 12 valandų (pasirenkama) |
| 12 valandų talpyklos įrašymo kaina | Nenurodyta | 2,5 karto didesnė nei įvesties žetonų kaina |
Kodėl tai svarbu?
Programoms, kurios siunčia didelius, pasikartojančius sisteminius promptus ar įrankių schemas, bet nesikreipia į API nuolat, dabar nebereikia kaskart mokėti pilnos įvesties kainos, jei pertrauka tarp užklausų neviršija 12 valandų.
Ką tai reiškia AI agentams ir kontaktų centrams?
Balso agentų ir kontaktų centrų integracijoms, kurios pakartotinai naudoja ilgus sisteminius promptus, įrankių/funkcijų apibrėžimus ar CRM kontekstą tarp skambučių, kurie vyksta ne iš eilės, ši talpykla gali sumažinti sąnaudas vienam skambučiui; prieš plačiau įjungiant verta palyginti 2,5 karto didesnę talpyklos įrašymo kainą su tikėtinu talpyklos pataikymų dažniu.
🧪 Verta testuoti
Testavimas parodys, ar ilgesnis talpyklos langas realiai sumažina bendras sąnaudas jūsų srauto modeliui (skambučių dažniui, prompto dydžiui), palyginus su didesne įrašymo kaina.
Šaltiniai
- OpenAI API ChangelogOficialusPirminis šaltinisOriginalus straipsnis →„You can now choose 12-hour prompt caching in the API. 12-hour prompt caching keeps shared instructions, tools, and context cached longer to benefit from lower cached-input pricing, even when requests “2026-10-20 03:00
- Šaltinio publikavimo data
- 2026-10-20 03:00
- Mūsų sistema rado
- 2026-10-20 21:16
- Santrauka sugeneruota
- 2026-10-20 21:17
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas