VideoDeine KI ist nicht dümmer geworden. Dein Chat ist länger geworden.
TL;DR Jedes getestete Modell schnitt bei einem langen Chat schlechter ab als bei einem kurzen. Fang neu an und nimm eine Zusammenfassung mit, nicht den ganzen Verlauf.
Deine KI ist nicht dümmer geworden. Dein Chat ist länger geworden. Forschende gaben 18 Modellen dieselbe Frage auf zwei Arten: mit dem vollständigen Chatverlauf von 113.000 Tokens oder nur mit den 300 Tokens, auf die es ankam. Jedes einzelne Modell schnitt bei der kurzen Version besser ab.
Warum? Mehr Kontext heißt zwei Aufgaben statt einer: erst finden, was zählt, dann nachdenken. Beim Finden scheitert es. Und KI hat immer noch keinen gesunden Menschenverstand dafür, welche Details wichtig sind.
Wenn ein Chat anfängt zu komprimieren, starte einen neuen. Nimm eine kurze Zusammenfassung mit, nicht den ganzen Verlauf.
Quellen: Chroma, „Context Rot“ (2025); NoLiMa, ICML 2025.
