OpenAI dodaje opcjonalne 12-godzinne buforowanie promptów w Responses API
W skrócie: Responses API od OpenAI obsługuje teraz opcjonalne 12-godzinne buforowanie promptów, które dłużej przechowuje współdzielone instrukcje, narzędzia i kontekst, dzięki czemu powtarzające się zapytania oddalone o kilka godzin nadal korzystają z tańszej ceny dla zbuforowanych danych wejściowych. Zapis do tego dłuższego bufora kosztuje 2,5 razy więcej niż standardowa cena tokenów wejściowych. To opcja dodatkowa obok istniejącego krótszego domyślnego bufora.
To podsumowanie zostało automatycznie przygotowane przez sztuczną inteligencję na podstawie publikacji „OpenAI API Changelog”. To nasz tekst, nie kopia oryginału — fakty, liczby i cytaty należą do źródła, do którego link znajduje się powyżej i poniżej.
Co się zmieniło?
- 1Nowa opcjonalna 12-godzinna pamięć podręczna promptów dla v1/responses
- 2Zbuforowany kontekst (instrukcje, narzędzia) pozostaje dostępny nawet gdy zapytania dzieli kilka godzin
- 3Zapis do 12-godzinnego bufora kosztuje 2,5 razy więcej niż standardowa cena tokenów wejściowych
| Parametr | Było | Jest |
|---|---|---|
| Czas trwania bufora promptów | Nie określono | 12 godzin (opcjonalnie) |
| Cena zapisu do 12-godzinnego bufora | Nie określono | 2,5x cena tokenów wejściowych |
Dlaczego to ważne?
Aplikacje wysyłające duże, powtarzalne instrukcje systemowe lub schematy narzędzi, ale niewywołujące API nieustannie, mogą teraz uniknąć ponownego płacenia pełnej ceny wejściowej przy każdym zapytaniu, o ile przerwa między nimi nie przekracza 12 godzin.
Co to oznacza dla agentów AI i contact center?
W integracjach agentów głosowych i contact center, które wielokrotnie wykorzystują długie prompty systemowe, definicje narzędzi/funkcji lub kontekst CRM między połączeniami niewykonywanymi jedno po drugim, ta opcja buforowania może obniżyć koszt na połączenie; przed szerszym wdrożeniem warto porównać 2,5-krotnie wyższy koszt zapisu do bufora z oczekiwanym współczynnikiem trafień w cache.
🧪 Warte przetestowania
Testy pokażą, czy dłuższe okno buforowania faktycznie obniża łączne koszty dla Twojego wzorca ruchu (częstotliwości połączeń, rozmiaru promptu) w porównaniu z wyższą ceną zapisu.
Źródła
- OpenAI API ChangelogOficjalneŹródło pierwotneOryginalny artykuł →„You can now choose 12-hour prompt caching in the API. 12-hour prompt caching keeps shared instructions, tools, and context cached longer to benefit from lower cached-input pricing, even when requests “20 paź 2026, 03:00
- Data publikacji źródła
- 20 paź 2026, 03:00
- Znalezione przez nasz system
- 20 paź 2026, 21:16
- Podsumowanie wygenerowano
- 20 paź 2026, 21:17
Artykuł napisała AI na podstawie oryginalnego źródła. Fakty, liczby i ceny pochodzą ze źródła; brakujące wartości oznaczono „Brak oficjalnych danych”. Informacje prawne, prawa autorskie i prywatność