Orca Security obniżyła koszty zapytań o 90% dzięki wieloetapowemu pipeline'owi agentów na Bedrock
W skrócie: Orca Security zbudowała Discovery AI — agenta na Amazon Bedrock, który zamienia proste pytania w języku naturalnym na ustrukturyzowane zapytania do systemu Sonar, śledzącego ponad 900 typów zasobów chmurowych. Zamiast jednego dużego modelu z całym schematem wczytywanym do każdego promptu, wersja produkcyjna rozdziela pracę na dziewięć wyspecjalizowanych etapów i kilka różnych modeli bazowych. Efekt: znacznie niższe koszty, szybsze odpowiedzi i lepsza dokładność przy złożonych zapytaniach; system działa od marca 2026 roku.
To podsumowanie zostało automatycznie przygotowane przez sztuczną inteligencję na podstawie publikacji „AWS Machine Learning”. To nasz tekst, nie kopia oryginału — fakty, liczby i cytaty należą do źródła, do którego link znajduje się powyżej i poniżej.
Co się zmieniło?
- 1Etapy pipeline'u: szybkie dopasowanie oparte na wzorcach, warstwa bezpieczeństwa, wyszukiwanie przykładów przez embeddingi, ponowny ranking, wybór zakresu modeli, agentowe generowanie filtra, walidacja z ponawianiem, generowanie odpowiedzi
- 2Claude Haiku 4.5 odpowiada za wybór modeli i generowanie filtra; Nova 2 Lite obsługuje warstwę bezpieczeństwa i walidator; Titan generuje embeddingi; Cohere Rerank 3.5 przerankingowuje pobrane przykłady
- 3Liczba tokenów wejściowych na zapytanie spadła z ok. 2 mln do 140 000 — redukcja o 93%
- 4Całkowity koszt zapytania spadł o 90% względem pierwotnego prototypu opartego na jednym prompcie
- 5Średni czas odpowiedzi spadł z ok. 60 sekund do 15 sekund — redukcja o 75%
- 6Proces ręcznego etykietowania pozwala ekspertom poprawiać wyniki i od razu zasilać bazę przykładów bez nowego wdrożenia
- 7Działa produkcyjnie od marca 2026, obsługując tysiące zapytań dziennie
Dlaczego to ważne?
Pokazuje to, że podzielenie agenta LLM na wyspecjalizowane, odpowiednio dobrane etapy — zamiast jednego ogromnego promptu — realnie pozwala systemom tłumaczącym język naturalny na zapytania ustrukturyzowane działać wystarczająco tanio i szybko przy produkcyjnym obciążeniu.
Co to oznacza dla agentów AI i contact center?
Ten sam wzorzec sprawdza się w agentach głosowych i czatowych, które muszą odpytywać duże zbiory danych (rekordy CRM, logi połączeń, systemy ticketowe): używać taniego szybkiego dopasowania do prostych wyszukiwań, przekazywać modelowi generującemu tylko istotne fragmenty schematu, a najsilniejszy model rezerwować do najtrudniejszego kroku rozumowania — to konkretny sposób na obniżenie kosztu i opóźnienia połączenia.
🧪 Warte przetestowania
Etapowe przydzielanie modeli oraz podejście wyszukiwanie-plus-ranking da się bezpośrednio przenieść do budowy tańszych agentów o niższym opóźnieniu do wyszukiwania danych ustrukturyzowanych w procesach contact center.
Źródła
- AWS Machine LearningOficjalneŹródło pierwotneOryginalny artykuł →„Natural language security queries at Orca Security using Amazon Bedrock“13 paź 2026, 19:03
- Data publikacji źródła
- 13 paź 2026, 19:03
- Znalezione przez nasz system
- 13 paź 2026, 19:11
- Podsumowanie wygenerowano
- 13 paź 2026, 19:17
Artykuł napisała AI na podstawie oryginalnego źródła. Fakty, liczby i ceny pochodzą ze źródła; brakujące wartości oznaczono „Brak oficjalnych danych”. Informacje prawne, prawa autorskie i prywatność