Optymalizacja kosztów agentów poprzez routing zadań między modelami
Google wskazuje, że cena za tokeny przestaje być głównym miernikiem opłacalności; kluczowy staje się koszt za pomyślnie wykonane zadanie. Używając lekkich klasyfikatorów typu „noul”, agenci mogą kierować proste zapytania do szybkich modeli, takich jak „Flash-Lite”, eskalując złożoną logikę tylko do bardziej zaawansowanych konfiguracji.