VidéoVotre IA n'est pas devenue plus bête. Votre conversation est devenue plus longue.
TL;DR Tous les modèles testés ont fait moins bien sur une longue conversation que sur une courte. Repartez de zéro avec un résumé, pas tout l'historique.
Votre IA n'est pas devenue plus bête. Votre conversation est devenue plus longue. Des chercheurs ont posé la même question à 18 modèles de deux façons : avec tout l'historique de 113 000 tokens, ou seulement avec les 300 tokens qui comptaient. Chaque modèle a mieux fait sur la version courte.
Pourquoi ? Plus de contexte, c'est deux tâches au lieu d'une : trouver ce qui compte, puis réfléchir. C'est la première qui échoue. Et l'IA n'a toujours aucun bon sens pour savoir quels détails sont importants.
Quand une conversation commence à se compresser, ouvrez-en une nouvelle. Apportez un court résumé, pas tout l'historique.
Sources : Chroma, « Context Rot » (2025) ; NoLiMa, ICML 2025.
