Nowe badania pokazują, jak ścieżki rozumowania mogą więzić agentów LLM w błędnych przekonaniach
Naukowcy zidentyfikowali krytyczny tryb awarii w agentach LLM wykorzystujących rozumowanie łańcuchowe (Chain-of-Thought, CoT). Badanie ujawnia, że jeśli agent wcześnie przyjmie nieprawidłową reprezentację wewnętrzną podczas procesu myślowego, rzadko kiedy jest w stanie się poprawić, niezależnie od dalszych kroków.