Wideo18/18modeli poradziło sobie lepiej z krótszą wersją
Twoje AI nie zgłupiało. Twój czat się wydłużył.
TL;DR Każdy przetestowany model wypadł gorzej w długim czacie niż w krótkim. Zacznij od nowa i przynieś streszczenie, a nie całą historię.
Twoje AI nie zgłupiało. Twój czat się wydłużył. Badacze zadali 18 modelom to samo pytanie na dwa sposoby: z pełną historią czatu liczącą 113 000 tokenów albo tylko z 300 tokenami, które miały znaczenie. Każdy jeden model wypadł lepiej na krótkiej wersji.
Dlaczego? Więcej kontekstu to dwa zadania zamiast jednego: znajdź to, co ważne, a potem myśl. Zawodzi właśnie szukanie. A AI wciąż nie ma zdrowego rozsądku, żeby ocenić, które szczegóły są istotne.
Spróbuj tego
Kiedy czat zaczyna się ściskać, zacznij nowy. Przynieś krótkie streszczenie, a nie całą historię.
Źródła: Chroma, „Context Rot” (2025); NoLiMa, ICML 2025.
