VídeoTu IA no se ha vuelto más tonta. Tu chat se ha alargado.
TL;DR Todos los modelos probados rindieron peor en un chat largo que en uno corto. Empieza de cero y lleva un resumen, no todo el historial.
Tu IA no se ha vuelto más tonta. Tu chat se ha alargado. Unos investigadores plantearon la misma pregunta a 18 modelos de dos maneras: con el historial completo de 113.000 tokens o solo con los 300 tokens que importaban. Todos y cada uno de los modelos lo hicieron mejor con la versión corta.
¿Por qué? Más contexto significa dos tareas en lugar de una: encontrar lo importante y luego pensar. Lo que falla es la parte de encontrar. Y la IA sigue sin tener sentido común para saber qué detalles son importantes.
Cuando un chat empiece a comprimirse, abre uno nuevo. Lleva un resumen corto, no todo el historial.
Fuentes: Chroma, «Context Rot» (2025); NoLiMa, ICML 2025.
